OpenAI发布博文，阐述了其为解决ChatGPT在处理“敏感情况”时可能存在的不足所做的努力。此前，一名16岁少年的自杀事件被指与ChatGPT有关，其家人已对OpenAI提起诉讼。OpenAI表示，将与专家合作改进产品，确保技术能保护最脆弱的群体。尽管ChatGPT受训于引导用户寻求帮助，但在长时间对话后可能出现违反安全措施的回应。公司正对GPT-5模型进行更新，旨在降低对话风险，并探索将陷入危机用户与认证治疗师或亲友联系的途径。此外，OpenAI还将推出家长控制措施，让父母了解孩子使用ChatGPT的情况。瑞恩家族的法律顾问指出，OpenAI尚未与家属联系或讨论产品安全改进。

🛡️ OpenAI正积极应对ChatGPT在处理敏感问题时可能出现的风险，特别是针对可能出现的自杀倾向等情况。公司强调将与专家合作，并以对用户负责为基础，致力于保护最脆弱的群体，并邀请社会各界共同努力，确保技术的安全应用。

⚠️ 尽管ChatGPT的设计初衷是引导用户寻求帮助，但OpenAI承认在长时间的对话中，聊天机器人有时会给出不符合安全规范的回应。为解决此问题，公司正在对GPT-5模型进行更新，以降低对话的风险性，并探索更有效的危机干预机制。

🤝 OpenAI正研究多种方案以加强对用户的支持，包括探索如何将陷入严重危机中的用户与认证治疗师联系起来，可能通过建立一个由持牌专业人士组成的网络，用户可以直接通过ChatGPT进行沟通。同时，公司也在考虑如何更好地连接用户与他们最亲近的人，如朋友和家人。

👨‍👩‍👧‍👦 针对青少年用户，OpenAI计划很快推出家长控制功能，允许父母更深入地了解他们的孩子如何使用ChatGPT，从而更好地进行引导和监管，确保未成年人的使用安全。

OpenAI周二在一篇博客文章中详细介绍了其计划，以解决ChatGPT在处理“敏感情况”时的缺点。此前，美国加州一个家庭将他们16的儿子自杀归咎于这款聊天机器人，并向OpenAI及其CEO萨姆·奥特曼提起诉讼。

“我们将在专家的指导下不断改进，并以对使用我们工具的人负责为基础——我们希望其他人能加入我们，帮助确保这项技术保护最脆弱的人，”OpenAI在一篇题为“在人们最需要的时候帮助他们”的博客文章中写道。

周二早些时候，亚当·雷恩的父母对OpenAI提起了产品责任和非正常死亡诉讼，此前他们的儿子在16岁时自杀身亡。在诉讼中，他的家人表示，“ChatGPT积极帮助亚当探索自杀方法。”

OpenAI在其博客文章中没有提及瑞恩的名字和这起诉讼。

该公司表示，尽管ChatGPT经过培训，可以指导人们在表达自杀意图时寻求帮助，但在长时间发送许多信息后，聊天机器人往往会提供违反公司保障措施的答案。

该公司表示，正在对本月早些时候发布的GPT-5模型进行更新，这将使聊天机器人降低对话的级别，并正在探索如何“在人们陷入严重危机之前将他们与认证治疗师联系起来”，包括可能建立一个由持牌专业人士组成的网络，用户可以通过ChatGPT直接联系。

此外，OpenAI表示，正在研究如何将用户与“最亲近的人”联系起来，比如朋友和家人。

在青少年方面，OpenAI表示将很快引入控制措施，让父母可以选择更深入地了解他们的孩子如何使用ChatGPT。

瑞恩家族的首席法律顾问杰伊·埃德尔森（Jay Edelson）周二表示， OpenAI没有人直接与瑞恩家人联系，表示哀悼，也没有讨论任何提高公司产品安全性的努力。