OpenAI宣布将在下月为ChatGPT助手添加家长控制功能，以监测孩子敏感性提问并让家长及时了解情况。该功能与青少年健康专家合作开发，允许家长关联孩子账号，控制回复内容，并禁用记忆功能。当孩子尝试讨论敏感话题时，系统会自动向家长发出提醒，以便及时干预。OpenAI还在研发新的对话逻辑，将敏感话题转由更安全的模型回答，以提高安全性和抵御对抗性提示词的能力。此举旨在应对ChatGPT被指与少年自杀事件相关的担忧，确保对敏感话题的处理更加安全和负责。
🔒 **家长控制功能上线在即**：OpenAI计划在下个月为ChatGPT推出家长控制功能，旨在加强对青少年用户使用AI的保护。此举是为了回应社会对AI在青少年心理健康方面潜在影响的担忧，特别是近期发生的与ChatGPT相关的自杀事件。
👨👩👧👦 **家长账号关联与权限管理**：新功能允许家长通过电子邮件将自己的ChatGPT账号与孩子的账号关联。家长将能够决定ChatGPT如何回复孩子的提问，并可以选择禁用记忆和聊天记录功能，以更好地管理孩子的AI互动。
⚠️ **敏感话题自动预警与干预**：当孩子尝试与ChatGPT讨论敏感话题时，系统将自动向家长发出提醒。OpenAI正与进食障碍、药物使用障碍和青少年健康领域的专家合作，确保该功能能够有效识别并通知家长，从而避免家长对孩子的不当AI互动“完全不知情”。
🤖 **优化对话逻辑与模型安全**：OpenAI正在研发新的对话逻辑，计划将敏感话题自动转由更安全的模型（如GPT-5-Thinking或o3模型）回答。测试表明，这些模型在遵循安全原则和抵御对抗性提示词方面表现更稳定，旨在提供更理性的回应。
IT之家 9 月 3 日消息，OpenAI 昨天发布新闻稿，宣布将在下月为 ChatGPT 助手添加家长控制功能，可自动监测孩子的敏感性提问并让家长及时获悉相关状态。
OpenAI 表示，他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能，功能上线后家长可使用邮件将自己的 ChatGPT 账号与孩子的账号关联，可决定 ChatGPT 如何回复他们孩子的问题，并可禁用记忆、聊天记录功能。
家长控制功能还将可以自动干预风险对话，当孩子尝试与 ChatGPT 聊敏感话题时，系统会自动向父母发出提醒，让家长能及时采取下一步行动，避免出现“完全不知情”的情况。
同时 OpenAI 正在研发新的对话逻辑，可将敏感话题自动转由 GPT-5-Thinking 或 o3 模型回答，测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则，也更能抵御对抗性提示词，未来 ChatGPT 将持续完善相关功能，让所有敏感性话题都能被上述两款模型理性回答。
据《纽约时报》上周（IT之家注：8 月 27 日）报道，一对夫妇起诉了 OpenAI ，指控 ChatGPT 在他们儿子自杀过程中起帮助作用，聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题，虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉，但在一些关键话题上起到了负面作用。
ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧，甚至最后给出掩盖颈部伤痕的诀窍，同时还肯定了这名孩子在衣柜里挂绞索的行为。
相关阅读：
