36kr-科技 10月31日 09:40
AI视频真假难辨:虚假信息传播的隐忧
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

近年来,AI视频的制作技术突飞猛进,其逼真程度已达到难以分辨真伪的程度。从宠物间的“戏精”表演到教授痛斥学生使用AI的场景,再到令人惊叹的动物行为,许多广为流传的视频被证实为AI生成。这不仅挑战了我们对视频真实性的认知,更引发了关于虚假信息传播、情感价值贬值以及社会分化的担忧。尽管技术和监管部门在努力应对,但AI生成内容的快速发展仍对内容的可信度构成了严峻挑战,迫使我们在享受技术便利的同时,审视其可能带来的负面影响。

🤖 **AI视频的逼真性挑战内容可信度:** 越来越多的AI视频,如猫狗互动、教授批评学生AI作业等,其逼真程度极高,甚至让网友难以分辨真伪。这使得“眼见为实”的传统认知受到冲击,导致用户在观看视频时普遍产生怀疑,担心内容是AI生成。

💔 **情感价值贬值与“批量生产”的奇迹:** AI技术使得诸如“猫狗互动”、“动物救人”等感人或有趣的瞬间可以被批量定制和生产,这使得原本因其不可复制性而珍贵的偶然性事件变得廉价。当社交媒体充斥着“巧合”时,大众情感的真实价值被稀释。

📢 **虚假信息传播的新挑战与辟谣困境:** AI视频的逼真性和易于生成性,为谣言的传播提供了前所未有的便利。例如,利用AI生成的地震废墟照片或虚假事件图片,不仅误导公众,消耗了真挚的情感,也使得辟谣工作变得异常困难,识别技术往往滞后于生成技术。

⚖️ **监管与技术的博弈:** 尽管平台和监管部门在努力通过AI检测技术、强制水印和立法来规范AI视频,但AI生成技术的快速迭代使得识别和监管面临巨大挑战。水印可被移除,且境外生成的AI视频难以在国内进行有效管控,这让内容的可追溯性成为难题。

前阵子差评君刷到一个视频。

一只猫打碎花瓶后迅速逃走,主人从房间冲出来,二话不说把账算到了旁边狗头上。

狗一脸委屈,举起爪子嗷嗷叫,仿佛在说:冤枉啊大哥,我没动。

靠,猫坏狗好的经典剧情,差评君当场就看乐了。

但转念一想,这会不会过于巧合了,还正好给人拍下来了?

直到我看到平台那一条“疑似 AI 创作”的提示,以及评论区那句“我已经不能第一时间分辨出 AI 视频”。

差评君才意识到,这是一个彻头彻尾的 AI 视频。

其实偶尔刷到一两个 AI 视频,不算什么大事。

真正让人细思极恐的是,最近两周,我已经刷到了几十个 AI 视频,而且频率越来越高,真假也更难以分辨。

就说前两天,抖音上有个视频很火。

一个国外高校教授忍无可忍,在课堂上批评学生使用 AI 完成作业。视频被国内一堆蓝 V 转发,并配上黄字封标解读。

评论区的网友们也是一片叫好,纷纷赞扬教授的坚守,还有老师把这段视频转发给了学生。

可真相你可能想不到,这段视频本身——

就是 AI。

大学教授查不到任何信息,两只手也不自然,黑板上板书都是鬼画符。类似的教授红温主题 AI 视频,在 TikTok 上也有一堆。

图源@全民较真-腾讯新闻

讽不讽刺,魔幻不魔幻?

再看看下面这个。

一匹失控的马在路上横冲直撞,先是踩碎了汽车玻璃,接着又撞坏了门板。

视频在 TikTok 上斩获了 210 万点赞,3 万条评论,热度爆表。

符合直觉的物理反馈,抖动的镜头,整个画面的真实感几乎让人无法质疑,差评君盯着每一帧都找不出破绽。

直到最后发现作者主页全是类似主题的 AI 视频,我才勉强确认,这 TM 又是 AI 的杰作。

其实差评君不反感 AI 视频。

还记得秦朗暑假作业事件吗?摆拍可以,但你得标注清楚,不能拿摆拍当真事儿来忽悠大众。

同样的道理,差评君并不是反感 AI 视频本身,而是反感那些不主动声明的 AI 视频,以及看到有噱头的事件不去求证转手就当新闻发的媒体。

如果这种 AI 视频欺骗网友的现象持续发生,那么很快:

每当大伙看到一个视频时,第一反应不再是惊讶,而是立即产生条件反射般的怀疑——

这,不会又是 AI 吧?

这绝不是什么好兆头。

几十年来,视频凭借其制作门槛的天然壁垒,一直是最可信的媒介形式。图片可以 P,但从头到尾做一个假视频很难。

可 AI 视频出现后的短短两年,这道防线正在土崩瓦解。

眼见为实成了过去式。

你发现没,越来越多的评论区已经不再讨论内容本身了,而是变成大型侦探现场:网友们逐帧分析、寻找 AI 痕迹,集体陷入了“我们已经分辨不出 AI”的恐慌中。

震撼的变成了“真的假的”,可爱的变成了“AI做的吧”,惊奇的变成了“哪个模型生成的”。

当 AI 视频充斥并伪装在社交媒体中,我们就彻底失去了纯粹欣赏内容的权利。每看一个视频,都要先当一回福尔摩斯。

说实话,差评君已经受到影响了。

前几天我在小红书刷到一段搬运视频,英国演员 Simon Pegg 在 instagram 上对 AI 视频深恶痛绝。

他说自己原本特别享受刷小孩和小狗的互动视频,看完心情都能好一天,结果现在这些视频没一个是真的,全是 AI 批量生产的。

Simon 这段话,让我深有共鸣。

以前那些温馨的、巧合的、让人感动的瞬间之所以珍贵,就是因为它们不可复制。这种偶然性本身就是价值的一部分。

但现在呢?

“猫狗互动”“动物救人”“完美时机”,这些东西都能批量生产,要什么场景要什么情绪,都可以交给 AI 按需定制。

当奇迹变成流水线产品,当社交媒体上全都是“巧合”,大众情感自然就会贬值、廉价。

然而,正当差评君准备把这段视频当文章素材、试图找到原始出处时,却遇到了一个问题——

我在西蒙 instagram 主页上找不到这个视频,Google 搜索也一无所获,我联系了搬运者询问出处,但截至发稿仍未收到回复。

换句话说,现在,我无法确认这段“西蒙怒斥 AI”视频是真是假。

去年的差评君,看到这种视频可能还是会相信一下。

但现在,一个再真实,再毫无破绽的视频,只要没找到最直接、最实锤的证据,我都不敢确定它是真的。

这还不是最可怕的。

最可怕的是,当我们越来越难以分辨 AI 视频,谣言传播将变得前所未有的容易,辟谣也越来越难。

今年 1 月,西藏日喀则发生地震,社交媒体上迅速流传一张震撼人心的照片:一个小男孩被压在废墟下,脸上满是尘土。无数人被这张图片深深触动,转发、评论、祈祷,关心这个孩子是否平安。

直到相关话题冲上热搜,官方辟谣,大家才发现:这是 AI 生成的图,根本没有这个孩子。

那些真挚的担心和情绪,全都喂给了一张假图。

3 月,新疆阿克苏地区发生地震,震后仅仅三小时,就有人用 AI 拼接出“已致3人死亡、65户房屋倒塌”的虚假图片。实际上,这次地震根本没有造成人员伤亡。

这阵子,网上又流行起了用 AI 生成“流浪汉闯入进家”的图片视频去整蛊自己的家人,很多人都上当,甚至还报了警。。。

可想而知,当视频能被 AI 迅速伪造,当 AI 视频越来越真实,谣言的传播力就无法想象,辟谣的难度更会指数级上升。

你可能会说,不是有监管,不是有技术手段可以识别 AI 吗?

的确,平台和监管部门都在努力——AI 检测技术、强制水印、立法规范,各种措施层出不穷。

但问题是:

识别技术总是慢生成技术一拍,AI 视频水印能被技术手段移除,C2PA 也可以通过外部录屏去掉,境外工具生成的 AI 视频,你在境内也管不了。(C2PA 是一种嵌在图片、视频元数据中的认证标准,用于追溯内容创建,相当于出生证明)

差评君知道,AI 视频本身不是什么洪水猛兽,它确实能带来创作便利和无限创意。

但在拥抱技术红利的同时,我们是否该警醒正在失去一些什么东西?

内容分析平台 Graphite 曾发布过一项数据,早在 2024 年 11 月,网络上 AI 生成的文章数量就超过了人类撰写的文章。

AI 视频,会不会也快了?

也许要不了多久,只要一个视频出现,评论区就会呈现出三种截然不同的反应。有人在评论区逐帧分析,有人点赞转发,有人直接说“管它真假,开心就好”。

当这种分化愈加明显时,社会就会出现三种人。

有被动接受者,他们不知道 AI 视频的存在,照常被感动、逗乐,然后点赞,转发给朋友。

也有怀疑者,他们有能力也有精力去验证每个视频的真假;

还有放弃者,知道有假,但累了。每天做信息鉴定太麻烦,索性不管了——反正都是娱乐,真假无所谓。

这让我想起了《黑客帝国》里的经典一幕,墨菲斯递给尼奥两颗药丸:

蓝色药丸,回到美梦中;红色药丸,看清残酷真相。

未来,我们也要面临同样的选择。

蓝色药丸的确很诱人。管它真假,刷到猫狗视频就笑,刷到感人故事就哭,多简单。反正 AI 做的梦也很美好,为什么要戳破它?

可是,当我们为一只不存在的狗感动落泪,当被一个虚构的故事骗取同情,当把情感投入到一堆代码生成的像素里——

这样的快乐,还是真的吗?

图片、资料来源:

More Articles Are Now Created by AI Than Humans

全民较真-腾讯新闻:学生用AI写作业,大学教授被气到红温?别又被AI视频骗了丨热点较真

Graphite:More Articles Are Now Created by AI Than Humans

TikTok@Pataventura、小红书@西蒙佩吉SimonPeggUSS甜筒号

抖音、小红书、TikTok 截图

本文来自微信公众号“差评X.PIN”,作者:刺猬,编辑:莽山烙铁头 面线,36氪经授权发布。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI视频 人工智能 虚假信息 内容真实性 深度伪造 AI Deepfake Misinformation AI Video
相关文章