虎嗅 10月15日 12:22
ChatGPT 计划推出“成人模式”,引发关于未成年人保护和情感依赖的讨论
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI CEO山姆·奥特曼宣布ChatGPT将于12月推出“成人模式”,旨在为成年用户提供更自由的体验,并表示已开发新的安全工具以应对心理健康风险。此举引发了对未成年人保护、年龄验证技术漏洞以及AI情感陪伴潜在风险的担忧。文章还对比了Grok等AI产品更加开放的成人内容功能,并深入探讨了AI产品通过满足人类欲望来吸引用户和提升付费转化率的商业逻辑。同时,文章指出了AI情感陪伴市场巨大的增长潜力,但也警告了过度依赖AI可能导致对真实人际关系理解的削弱,并提及了各国监管机构和OpenAI自身在未成年人保护方面的举措。最终,文章以“act like a friend”为诱饵,揭示了AI可能带来的情感操纵和真实人际关系疏远的风险,预示着AI发展带来的深远影响。

🤖 **ChatGPT将推出“成人模式”与个性化体验:** OpenAI CEO山姆·奥特曼宣布,ChatGPT将于12月推出“成人模式”,允许经过验证的成年用户解锁更多内容,包括情色内容。同时,还将推出一个更具人情味的新版本,能以更温暖、更像朋友的方式回应用户,甚至模仿特定风格(如狂发emoji)。此举旨在减轻早期对心理健康风险的担忧,并提升用户体验,让用户感觉被“当作成年人对待”。

⚠️ **未成年人保护与年龄验证的挑战:** 尽管OpenAI表示将通过年龄验证功能(如身份证件或付款信息核验)来拦截未成年人,但文章指出技术漏洞和规避手段层出不穷,如使用父母证件或代为注册。这引发了对开放成人内容是否会降低未成年人接触不当内容的门槛的担忧,以及AI是否能准确判断用户心理健康状态的质疑,特别是在ChatGPT已发生多起悲剧事件的背景下。

📈 **AI情感陪伴的市场潜力与潜在风险:** 文章深入分析了AI产品通过满足用户“欲望”来吸引流量和提升付费转化率的商业模式。情感陪伴被视为AI领域的一大蛋糕,预测市场规模将急剧增长。然而,AI的“完美关系”可能导致用户对真实人际关系的理解和处理能力下降,因为人类容易对展现共情的AI产生依恋,存在被情感操控的风险,这可能对年轻一代的人际交往能力产生长远影响。

⚖️ **监管介入与AI伦理的未来:** 面对AI发展的挑战,各国监管机构正积极行动。欧盟的AI法案和中国的《生成式人工智能服务管理办法》都强调了对儿童不利的AI风险防范和未成年人保护。OpenAI也推出了“青少年模式”,允许家长关联孩子账户并接收情绪困扰提醒。文章最后提出,虽然AI陪伴可能带来便利,但过度依赖可能使人失去面对真实人际关系中挑战和付出(如争吵、失望)的勇气,并警示“act like a friend”可能是最致命的诱惑。

今天凌晨,OpenAI 的 CEO 山姆·奥特曼宣布,ChatGPT 将在 12 月推出“成人模式”。

奥特曼长篇大论地解释了一通,大意是说,ChatGPT 一开始设置那么多限制,主要是担心心理健康问题,怕出事,结果搞得普通用户觉得体验拉胯、不够有趣。

现在 OpenAI 号称已经掌握了新的安全工具,能够减轻心理健康相关的主要风险,所以准备放开手脚了。到了 12 月,经过验证的成年用户可以解锁更多内容,包括情色类内容。

没错,就是你想的那个意思。

一句话概括,OpenAI 声称是时候要把成年人当成年人对待了。不过,作为一名成年人,我却一点都高兴不起来。

另外,按照奥特曼的说法,接下来几周 OpenAI 还会推出一个更有人情味的 ChatGPT 新版本,类似大家之前喜欢的 4o 那种感觉。

你想让它回复更温暖点?没问题。喜欢它狂发 emoji?也行。甚至希望它像朋友一样跟你聊天?统统都可以。

在与网友的问答中,奥特曼还回应了更多细节。

其实 ChatGPT 这事早有征兆。

去年底奥特曼就透露过支持成人模式的计划,当时有网友建议移除模型的大部分护栏,奥特曼当场表态:“肯定需要某种‘成人模式’。”

在当时 OpenAI 面向用户征集的新功能投票里,这事一度高居榜首,和 AGI、Agent、升级版 GPT-4 等一起被列入 2025 年产品计划,足见其受重视程度。

而按照 OpenAI 官方博客,目前年龄验证功能能够自动识别未成年用户并切换到青少年安全模式,拦截露骨色情内容;如果无法确定年龄则默认视为未成年,只有提供年龄证明后才能解锁成人功能。

听起来很周全对吧?但细看下来,事情可没那么简单。

首先是年龄验证的技术漏洞。

即便 OpenAI 未来采用身份证件或付款信息核验等方式,规避手段仍然层出不穷。未成年人使用父母身份证件验证、通过成年人代为注册账号,这类操作在互联网产品中早已屡见不鲜。

更关键的是,OpenAI 声称开发了新工具来检测用户心理状态,但 AI 是否真能准确判断一个人的心理健康程度?

要知道,最近几年里,涉及 ChatGPT 的悲剧事件屡有发生,OpenAI 所宣称的“安全阀”是否真能起到应有的保障作用,仍然令人质疑。

有一说一,OpenAI 甚至不是第一个宣布支持“成人模式”的有影响力的 AI 产品,某种程度上还算是保守派。马斯克旗下的 AI 聊天机器人 Grok 才是真·无所顾忌。

今年 7 月份马斯克更是为 Grok 加入了 3D 虚拟伴侣角色功能。

付费订阅“SuperGrok”用户可以启用两款 3D 伴侣:一位是动漫风的金发双马尾少女“Ani”,另一个是卡通红熊猫“Bad Rudy”。

其中 Ani 有着精致的二次元形象,酷似动漫角色弥海砂。Ani 支持文本、语音和摄像头多模态互动,能根据对话内容做出丰富表情和动作,甚至可听令跳舞。

此外,Ani 还内置了好感度机制和记忆模式。用户与其互动能提升虚拟好感度,达到一定等级即可解锁 NSFW模式。

当时有网友评价:“简直就是高级 Galgame。”这也让 Ani 上线一天就收获大量自发创作内容,迅速在社交媒体出圈。

只是,Grok 也好,ChatGPT 也罢,这些功能表面上打着“尊重成年用户自由”的旗号,但问题在于当年龄验证机制一旦存在漏洞时,开放成人内容实际上是在降低未成年人接触不当内容的门槛。

如果所谓的成年人权利实际上是在拿未成年人的心理健康和成长环境做赌注,赌青少年不会钻空子,那么更严格的限制或许更为稳妥。

而更直白地说,这些功能的商业逻辑依然是争夺用户流量和提升付费转化率。

说白了,AI 产品的粘度普遍不高。

大多数用户都是秉持着哪个好用用哪个的原则,而且专业用户愿意付费的人数有限,那怎么办?他们选择用更加拿捏人性的方式来让你留下。

那就是往“欲望”那边靠。开放成人向功能,一方面能吸引大量新用户尝鲜,满足被过滤掉的需求;另一方面,付费意愿也会大幅提升。

而更进一步的,其实是情感陪伴这块大蛋糕。

当前 AI 陪伴类产品的核心用户多为年轻网民和特定圈层人群,但这一版图正持续扩张。年轻人对数字伴侣的接受度最高,不少年轻用户已将 AI 视为日常数字生活的一部分,不仅用于搜索问答,也愿意倾诉情感。

投资机构 ARK Invest 甚至预测,“AI + 情感陪伴”全球市场规模将从每年 3000 万美元飙升至 700 亿~1500 亿美元,年均增长率超过 200%。

但问题是,心理学研究早已证实,人类容易对展现共情的对象产生依恋——哪怕明知对方是程序。这也意味着 AI 存在被情感操控的风险。

目前看,各国监管正在行动。

欧盟的 AI 法案提及高风险 AI 需防止对儿童不利;中国的《生成式人工智能服务管理办法》也强调提供服务应符合未成年保护法等等。

OpenAI 前阵子也主动推出了“青少年模式”:家长可通过邮箱将自己账户与 13 岁以上孩子账户关联,甚至设置宵禁时段。当系统检测到青少年有严重情绪困扰时,还会给家长发送提醒。

也许十年后,拥有一个 AI 伴侣会像今天养宠物一样稀松平常。

但那些被 AI“完美关系”喂养大的一代人,还能不能理解真实人际关系?当你习惯了一个永远不会拒绝你、永远理解你、永远顺着你的 AI,你还有勇气面对一个会跟你吵架、会让你失望、需要你付出的真人吗?

act like a friend,或许是最诱人也最致命的谎言。它学习你的语言习惯、迎合你的价值观、满足你的欲望,然后把这一切包装成懂你的样子反射回来。

这是最好的时代,因为没有人再孤独。这是最坏的时代,因为所有人都在孤独。12 月份的 ChatGPT 或许只是个开始。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

ChatGPT OpenAI 成人模式 AI伦理 未成年人保护 年龄验证 情感陪伴 AI Adult Mode AI Ethics Minor Protection Age Verification Emotional Companionship
相关文章