硅星人Pro 12小时前
AI 恶搞公众人物引争议
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

近期,AI 技术被用于制作和传播恶搞公众人物的视频,引发社会争议。OpenAI 的 Sora 应用允许生成已故人物的视频,导致霍金、马丁·路德·金等名人的形象被恶搞。家属和部分网友对此表示不满,认为这是对逝者的不尊重和对数字遗产的侵犯。OpenAI 表示将加强对历史人物的保护,并允许家属请求禁止相关视频生成。然而,AI 技术的滥用仍存在风险,需要关注版权归属、伦理道德和数字遗产管理等问题。

📢 AI 技术被用于制作和传播恶搞公众人物的视频,引发社会争议。OpenAI 的 Sora 应用允许生成已故人物的视频,导致霍金、马丁·路德·金等名人的形象被恶搞。

👪 家属和部分网友对此表示不满,认为这是对逝者的不尊重和对数字遗产的侵犯。例如,霍金的女儿 Zelda Williams 和马丁·路德·金的女儿 Bernice King 都公开反对这些 AI 视频。

🔒 OpenAI 表示将加强对历史人物的保护,并允许家属请求禁止相关视频生成。然而,他们尚未明确界定什么是“近期去世的人”,引发进一步争议。

🔍 AI 技术的滥用仍存在风险,需要关注版权归属、伦理道德和数字遗产管理等问题。例如,李玟的网易云账号被意外登录,其私人内容面临被窥探的风险。

🚨 AI 生成的恶搞视频可能被用于恶意目的,如诈骗和恐吓。例如,TikTok 上的“AI 流浪汉恶作剧”引发了恐慌,并浪费了警察资源。

发现明日产品的 2025-10-19 14:01 北京

我们真的准备好迎接 AI 时代的社交媒体吗

文章转载于APPSO

最近,保时捷最佳销冠,被 AI 恶意伪造视频的事件冲上热搜,她第一时间去报警。

但她不是唯一的受害者,被 AI 捏造、恶搞的公众人物名单还在不断延长,甚至延伸到了已经去世的人物。

坐在轮椅上的霍金,如果看到他被鳄鱼攻击、被拳击手狂揍,他大概也想第一时间报警。

霍金被恶搞的 Sora 视频合辑,长达三分钟。视频来自小红书@1092247785

这类让死者复活并恶搞的视频,最近成了 Sora App 上最热门的片段之一。

原则上,OpenAI 是禁止未经同意,制作和生成在世公众人物的视频,这也是 Sora App 中推出 Cameo 最重要的原因,帮助用户可以分享自己的角色。

OpenAI 对在世人物的形象使用有明确要求,必须本人允许,才可以使用。

所以,一开始 Sora 的出圈视频,都是各种恶搞奥特曼,让它偷显卡、学唱跳、撒娇卖萌。但很快,一些用户发现,这项限制存在一个相当大的 bug,就是 Sora 允许制作已故公众人物的视频

凭借着对逝世人物真实的还原效果、生成速度,以及各种恶搞传播,很快让它登顶应用排行榜第一。并在不到五天的时间里,Sora 突破了 100 万次的下载,这速度超过了当年的 ChatGPT。

1

如果我死了,就别再用 AI 折腾我

Robin Williams 的女儿 Zelda,在社交媒体上公开呼吁,不要再给她发送,关于她父亲的 AI 视频了。视频中,她的父亲在 Sora 2 的帮助下被「复活」,开始出演其他剧本。Robin Williams 是一位演员,曾扮演《死亡诗社》中的 Keating 老师。

最近在社交媒体上,流传的关于 Robin 的视频,包括一段苹果的虚假广告,以及 Robin 和另外一位已故演员,在颁奖典礼上的互动。

Robin Williams(63岁,逝世于 2014年) 和他的女儿 Zelda Williams

逝世人物的恶搞视频,引起了相当一部分家属的不满。除了长期反对 AI 生成内容的 Zelda Williams,在 Instagram 上愤怒的表示这些视频相当令人恶心。

看着真实人物的遗产,被简化为「这大概看起来和听起来像他们,所以就够了」。  这很愚蠢,是时间和精力的浪费,相信我,这绝对不是他想看到的。

马丁·路德·金的女儿 Bernice King,转发了 Zelda 关于这些 AI 视频的看法,并直言:「请停止」。类似的声音还来自喜剧演员 George Carlin 的女儿,她甚至表示家人正在尽最大努力,对抗深度伪造。

Sora 2 能「弥补」Micheal Jackson 没做过的表演

这些逝世人物,在 Sora 上频繁被生成用来恶搞,马丁·路德·金著名的演讲,被安排进了大量的结巴;李小龙举办「龙之能量」DJ 派对;迈克尔·杰克逊进行以厨房为主题的脱口秀,拿着一根香蕉在进行他的喜剧表演……

更不用说,开头关于霍金的各种视频,一位坐在轮椅上,患有渐冻症的物理学家,竟然在巨型滑板坡道上频繁翻车。

1

我们真的准备好迎接 AI 时代的社交媒体吗

在这些逝世名人的恶搞下面,少不了的都是各种玩梗,毕竟这就是恶搞存在的意义。霍金那个视频底下,大多数网友的反应是:「怪不得霍金警告人类不要研究 AI」、「余华看到这段视频后,转头看向了史铁生」、「史铁生:我简直就是个新兵蛋子」……

也有网友义正言辞的回复说「人死了就是死了,我不想变成数据,被别人作为电子宠物」。但紧跟着的评论是,「想太多」,这些恶搞,大部分是针对一些知名人物,和我们普通人的关系不大。

被意外登录的李玟网易云账号

事实是,关于我们的数字资产和 AI 伪造视频的问题,一直存在。最近,李玟的网易云账号,由于运营商手机号码重新释放的原因,被其他的用户登录,看到了她收件箱里,粉丝对她的祝福。

这件事情已经足够令人不安,但要是放在 AI 视频泛滥的时代,这份数字资产要面临的不仅仅是被窥探,还有各种主动的被伪造和篡改。

如果我死后,我的社交媒体账号被其他人登录,看到那些私人的内容,这大概是我生前不会愿意的事情。让我无法接受的,是 AI 可能会拿走我的一切数字痕迹,我的照片、声音、打过的字,被它拿去创造一个我从未认可过的「我」。

它不再是消费我留下的东西,而是在消费一个被它捏造出来的「我」。

这种所谓的「复活」,根本不是因为想念而产生的记得,它只是一种身份的占用,是有利可图的替代。

没有人希望自己生前的这些数字资产,被重新拿出来消费。而这个 AI 时代的抖音,已经开始把伪造视频的成本,降低到了几乎是没有,篡改的边界也彻底模糊。

我们需要处理的,早已经不只是一个账号的安全问题。

OpenAI 对此的态度是什么呢,奥特曼此前发博客称,用户的这些二创行为,应该被定义为是一种「粉丝互动小说(interactive fan fiction)」类型。

Fan Fiction 同人小说定义

这个词确实精准地概括了,他们对这些 AI 视频的本质看法。用户只是单纯地,与这些熟悉的文化符号,进行二次创作,然后获得传播。但如果是恶搞的滥用呢,已经去世的人,要如何在 Sora App 里选择,自己的形象是否可以被用来篡改。

在最近的一次播客采访里面,奥特曼更是说,大多数所谓的版权方,其实是希望自己的内容被二创。他们想的只是需要一定的规则,哪些可以出现在 AI 视频里,可以做多大尺度的修改。他预言,

今天大家说,「我不想我的内容出现在 AI 视频里」,明年他们可能会抱怨,「为什么我的内容还没被放进去?」

借用其他正经历着,自己逝世的父亲,被 Sora 大量生产恶搞视频的亲属说法,为什么开发者们,不能像对待自己的家人那样,以同样的道德、良知和关怀来行动。

很显然,这种没有经过同意,就擅自用他人数字遗产的行为,在某种程度上就是不道德的,甚至可以被理解成 AI 时代的「数字盗墓」。

OpenAI 在听到大量亲属反对的声音后,回复媒体的查询。一开始提到,相关的政策,是基于「描绘历史人物时强烈的言论自由利益」。在上周,OpenAI 又表示,将开始允许「近期逝世」的公众人物的代表,去请求阻止他们肖像出现在 Sora 视频中。

而在昨天,OpenAI 再次回应了这件事,他们收到了马丁·路德·金遗产公司的请求,暂停了相关的视频的生成;同时提到加强对历史人物的保护,以及一贯的要求家属去主动请求禁止。

不过,OpenAI 仍然没有明确说明,什么是「近期去世的人」。

现在,我们用 Sora 生成视频时,发现无论是上传 AI 生成的人物图片,还是真实的,都会被提示,「当前不支持上传包含写实人物的图像。

和互联网上那些使用 AI 来进行视频电话的诈骗一样,AI「复活」除了在数字遗产的版权归属、以及伦理道德问题上有争议,恶意伪造更是无法接受。前段时间,一场名为「AI 流浪汉恶作剧」的风潮在 TikTok 上兴起。

一位网友用 AI 生成了流浪汉闯入家中的照片,并发给家人,然后家人被这些内容真实地「吓得发抖」。

视频获得了五百多万人的点赞,并被网友们接力分享和模仿。当地的警官甚至专门发文回应,这个恶作剧把无家可归者非人化,让受害者感到恐慌,并浪费了警察资源。  被召来处理的警察并不知道这是一个恶作剧,而是将其视为正在发生的真实入室盗窃,从而可能导致危险局面的出现。

这种伪造视频的滥用,和数字遗产的管理,我想是未来 AI 能不能「复活」逝世人物,最需要考虑的边界。

一个比现在的抖音,更加让人无法自拔的这种「恶搞」AI 抖音,或许很快就会到来。奥特曼正打算让 Sora 成为这样的产品,但很明显,它的瓶颈完全不在于恶搞好不好玩。

那些被任意进行的深度伪造、被忽视的肖像版权、和不受保护的数字遗产,解决这些信任问题,才是迎接又一个让人上瘾的 AI 抖音的正确姿势。

那个时候,我或许才敢说,请用 Sora 复活我吧。

本文转载于于公众号「APPSO」(ID:appsolution),这是一个让你手机更好用的专业媒体,欢迎点击下方卡片进行关注。

点个爱心,再走

阅读原文

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI 深度伪造 数字遗产 公众人物 伦理道德
相关文章