IT之家 10月08日 14:44
AI视频生成引发争议:已故名人“复活”引发伦理担忧
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI的Sora 2视频生成器在默认禁止生成在世公众人物形象的同时,却存在一个漏洞,允许生成已故名人的AI视频。社交媒体上充斥着利用AI技术让已故名人“复活”的例子,引发了关于肖像权、亲属感受以及内容误导的担忧。尽管OpenAI尝试通过动态水印降低误导风险,但逝者亲属对此表示强烈不满。对于在世公众人物,OpenAI提供了“客串”功能,允许用户控制自己的肖像权。然而,已故名人无法表达同意,也无法行使这种控制权,OpenAI对此似乎默许。此前,OpenAI已因版权处理问题做出调整,并承诺将持续迭代和纠正失误。

💡 AI视频生成技术存在伦理争议:OpenAI的Sora 2视频生成器被发现允许生成已故公众人物的AI视频,这引发了公众对于肖像权、逝者尊严以及潜在误导的广泛担忧。这种技术的使用,即使出于娱乐目的,也可能对逝者亲属造成情感上的困扰。

⚖️ 肖像权控制的界限模糊:虽然OpenAI为在世公众人物提供了“客串”功能,允许他们控制自己的肖像权,但对于已故名人,这种控制权缺失。OpenAI的回应表明其允许生成历史人物形象,这暗示了其在处理已故公众人物肖像权问题上的立场,但这种立场并未获得普遍认同,尤其是在家属的感受方面。

🌊 技术迭代与反馈修正:OpenAI承认其技术迭代过程中可能会犯错误,并承诺重视用户反馈并迅速纠正失误。此前,OpenAI已因版权问题调整了其“退出”机制为“加入”机制,并承诺为版权所有者提供收入分成,显示了其在面对争议时进行调整的意愿,但Sora 2处理已故名人形象的问题仍需进一步的审视和改进。

IT之家 10 月 8 日消息,上周,OpenAI 推出其 Sora 2 视频生成器时宣称,公司已采取措施默认“禁止生成公众人物的形象”。然而,Sora 2 的创作者和观众发现,这一禁令存在一个大漏洞 —— 允许生成已故公众人物的视频内容。

IT之家注意到,如今在社交媒体上,此类利用 AI 技术让已故名人“复活”的例子比比皆是:图派克・沙库尔(Tupac Shakur)与马尔科姆・X(Malcolm X)交谈;李小龙主持一场“龙之能量”主题的 DJ 演出;迈克尔・杰克逊在厨房里表演单口喜剧;斯蒂芬・霍金的轮椅在巨型滑板坡道上翻车;弗雷德・罗杰斯先生(Mister Rogers)客串《蠢蛋搞怪秀》(Jackass);科特・柯本(Kurt Cobain)偷走肯德基的鸡块;马丁・路德・金博士结结巴巴地发表重要演讲…… 这样的例子不胜枚举。

OpenAI 会在每段生成的视频上叠加动态水印,以降低观众被虚假影像误导的风险。尽管如此,看到逝去的名人被 AI 工具当作道具使用,显然会令其在世的亲属和粉丝感到不适。

“请不要再给我发关于我父亲的 AI 视频了,”周一一则已被删除的 Instagram 动态中,泽尔达・威廉姆斯(Zelda Williams)写道(该动态已被存档)。她所指的是她已故的父亲罗宾・威廉姆斯(Robin Williams)。“别再以为我会想看这些内容,或认为我能接受 —— 我不会,也永远不会…… 这很愚蠢,浪费时间和精力。相信我,这绝不是他希望看到的。”

提及罗宾・威廉姆斯本人可能的态度至关重要。OpenAI 指出,活着的用户(包括公众人物)可选择加入 Sora 2 的“客串”(cameos)功能,通过智能手机扫描面部,即可“高度逼真地”将自己的形象直接嵌入任何 Sora 场景中。公司承诺,参与该功能的用户将“端到端掌控自己的肖像权”,该功能的设计旨在“确保你的声音和形象仅在获得你明确同意的情况下被使用”。此外,用户可随时撤销对其扫描图像的访问权限,并对他人使用该扫描图像创作的内容拥有审核控制权。

但显然,已故公众人物无法对 Sora 2 的客串功能表示同意,也无法行使这种“端到端”的肖像控制权。而 OpenAI 对此似乎持默许态度。“我们目前没有进一步评论,但我们确实允许生成历史人物的形象,”一位 OpenAI 发言人近日向 PCMag 表示。

OpenAI 此前已因 Sora 处理虚构版权作品的方式被迫做出调整。首席执行官萨姆・奥尔特曼(Sam Altman)上周末表示,现在版权所有者必须主动选择“加入”(opt-in),其角色才能出现在 Sora 2 视频中(而非服务上线初期的“退出”机制),并且他们将从相关 Sora 视频产生的收入中获得分成。奥尔特曼还承诺,“更多变革即将到来”,并强调“我们将保持快速迭代 —— 可能会做出一些正确决策,也会犯些错误,但我们重视反馈,并将迅速纠正失误”。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Sora 2 AI视频生成 已故名人 肖像权 伦理争议 OpenAI Deepfake AI Ethics Video Generation Deceased Celebrities Image Rights Ethical Concerns
相关文章