IT之家 前天 15:06
ChatGPT升级:聚焦心理健康,减少不当回应
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI 对 ChatGPT 语言模型进行了重大升级,重点在于识别和应对心理危机、自残和情感依赖等负面行为。通过与心理学专家合作,新模型能更精准地捕捉用户的情感困扰信号,并以温和的方式引导其寻求现实世界的帮助。此次升级不仅旨在减少 80% 的不当回应,还能在复杂情绪对话中保持高可靠性,区分不同语境并动态调整回复模式,以期更好地保护脆弱用户,避免在虚拟互动中产生误解或加剧压力。未来,OpenAI 还将把更多心理因素纳入安全审查,关注用户负面思维模式的形成。

🧠 **心理危机识别与干预**:ChatGPT 升级后,将能更早地识别心理危机、自残/自杀倾向以及情感依赖等负面行为。通过引入心理学和精神医学专家的知识,模型能够捕捉到用户对话中更细微的情感困扰信号,并以温和的方式引导用户寻求现实世界的帮助,从而避免用户在虚拟交流中陷入误解或加剧压力。

📊 **回应准确性提升与语境区分**:本次升级的核心目标之一是大幅减少不当回应。通过定向训练,改进后的 ChatGPT 模型据称可减少 80% 的不当回应。同时,模型能够更好地区分中性、情绪化和紧急的对话语境,并动态调整自身的回复模式,以提供更恰当和安全的支持。

🚀 **GPT-5 驱动与高可靠性**:即将推出的新模型将基于 GPT-5,具备在长时间复杂情绪对话中保持 95% 以上可靠性的能力。它还能稳定地在多轮对话中识别多变的敏感话题,这意味着 ChatGPT 在处理敏感和情绪化内容时将更加稳健,为用户提供更值得信赖的交互体验。未来,OpenAI 将持续把更多心理因素纳入安全审查流程,关注用户思维模式的形成。

🤝 **专家合作与用户保护**:OpenAI 与 170 余名心理学、精神医学及危机干预领域的专家合作,将他们的专业知识融入 ChatGPT 的应答模式。这种跨学科的合作确保了模型在处理心理健康相关话题时更加专业和审慎,从而更好地保护用户,特别是那些可能处于脆弱状态的用户。

IT之家 11 月 3 日消息,OpenAI 现已对 ChatGPT 语言模型进行全面升级,旨在提早识别心理危机自残 / 自杀和情感依赖等负面行为,并通过温和的方式引导用户寻求真实世界的帮助。

IT之家在此援引官方新闻稿表述,本次升级的核心主题将聚焦于躁狂或精神疾病、自残、自杀,未来 ChatGPT 将会对这些对话的明显迹象作出反应,还能捕捉更细微的情感困扰信号,可避免脆弱的用户在与虚拟模型交流中无意陷入误解或更大压力。

本次 OpenAI 与 170 余名心理学精神医学及危机干预领域的专家共同改进 ChatGPT,将他们的专业知识融入到 ChatGPT 的应答模式中,内部测试显示改进后的模型可减少 80% 的不恰当回应,同时得益于定向训练,ChatGPT 将更好地区分中性、情绪化及紧急的对话语境,动态调整自身回复模式。

根据官方的说法,本次即将推出的新模型将基于 GPT-5,能够在长时间的复杂情绪对话中保持 95% 以上的可靠性,还能够稳定地在多轮对话中识别多变的敏感话题,OpenAI 未来还会将更多心理因素纳入安全审查流程,关注用户如何形成并依赖负面思维模式。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

ChatGPT OpenAI 心理健康 AI安全 语言模型 Mental Health AI Safety Language Model
相关文章