虎嗅 08月30日
AI生成图片乱象:造假成本降低,信任危机加剧
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

人工智能生成图片技术的普及,显著降低了造假成本,给社会信任带来了严峻挑战。从Airbnb房东伪造桌子损坏照片骗取赔偿,到商家利用AI生成虚假产品图、堂食场景,再到消费者利用AI图片仅退款,AI技术已被滥用于各种欺诈行为。尽管平台和法律法规正努力跟进,通过水印等技术进行标识和防范,但AI水印的易被破解性,使得这场“你追我逃”的游戏难以在短期内结束。AI的广泛应用,正不断推高人与人之间的信任成本,从简单的拍照确认退货,到需要视频、甚至线下见面,信任的基石正在动摇。

📈 **AI技术降低造假门槛,欺诈行为层出不穷:** AI图像生成工具的普及,使得伪造证据的成本大幅降低。例如,Airbnb房东利用AI伪造桌子损坏照片骗取高额赔偿,以及商家和消费者利用AI生成虚假产品图、堂食场景或损坏证据,进行退款欺诈或虚假宣传。这些行为不仅损害了消费者权益,也破坏了市场秩序。

⚖️ **监管与防范措施的挑战:** 尽管各国和平台正在积极应对,例如欧盟的《人工智能法案》和中国即将实施的《人工智能生成合成内容标识办法》,要求AI生成内容必须带有水印。然而,现有的AI水印技术,如谷歌的SynthID,已被开源工具Unmarker等证明易于被破解和消除,使得防范AI造假成为一场持续的“猫鼠游戏”。

📉 **信任成本急剧上升,社会关系面临考验:** AI技术的滥用导致人与人之间的信任基础被侵蚀。过去简单的交易验证方式(如拍照确认)已不足以应对AI生成的虚假信息。商家和消费者不得不采取更复杂的验证手段,如拍摄视频证明物品状况,甚至需要线下见面,这极大地增加了沟通成本和不确定性,对社会信任体系造成了深远影响。

 注意看,就是下面这一张平平无奇的照片:

一张木桌子裂开的遗照,却价格不菲,一度高达 5314 英镑,约合人民币 51626 元。

听完它的价格,估计你一定已经点开这张图细细观摩了,想看看这木头里是不是藏着金子。

 那么,你有没有实发现这个桌子的裂缝,其实是假的。

事情是这样的,一个 Airbnb 的房东在租客退房之后,找平台哭诉。说自己价值连城的桌子被租客整烂了,裂开这么大一道口子。

还说不只是这张桌子,什么床垫、吸尘器、沙发、微波炉、电视、空调,反正家里值点钱的物件全坏了。

真正的魔童降世,寸草不生。

平台马上给租客发了“ 最后通牒 ”,要求租客赔偿 5314 英镑。

但是,租客仔细一看就发现了华点。房东提交的两张“桌子阵亡遗照”里,这道缝居然长得不一样。

左图的下端裂缝,只到浅色木头的下缘。到了右边的图里,裂缝却直接裂到顶了。

说实话,光是裂纹本身,就觉得很突兀,像是自动水笔画上去的一样。

最后媒体曝光后,平台一通追查,才发现这图可能真是 AI 生成的。退回了租客所有租金,还迅速封禁了这位“ P 图大师 ”。

不知道大家看到这则新闻啥感觉,世超我是觉得:意料之外,又在情理之中。

AI 就好像是送给这些投机倒把者的【褒奖】一样,一举把他们的造假成本给打下来了。

以前你想骗人,起码还得会个 PS,看得懂什么叫仿制图章、涂鸦笔。现在有张嘴,就能出去随地拉屎了。

就比如世超随手拍了一个玩偶,然后导入到图片生成 AI 里。输入指令,弄脏手,玩偶手上就多了一块污渍了。

这种新手小白 0 基础友好的 P 图工具,激发了各路牛鬼蛇神的创造力。

 不只是国外,国内的卖家和买家之间,早就通过互联网这座桥梁,开始了一场魔法对轰。

比如有人说隔壁设计公司员工天天吃免费榴莲,就靠 ChatGPT 来 P 烂榴莲的图,P 完就找商家仅退款。

看到这你可能会嘀咕,哪有这么夸张,是不是起号的段子啊。

但越逛,你就越觉得这事没准是真的。因为只要在任意一个平台上输入“ AI+退款 ”,你就能找到各种各样的案例。

甚至有的人来得实在太过匆忙,连右下角的 AI 水印都没来得及关掉,就出来骗了......

这边顾客用 AI 仅退款,那边商家就用 AI 演堂食。

热闹的门店图是 AI 做的,络绎不绝的客人也是刚刚生成的 AI 假人。

你想点到店里面看看,考察一下餐厅情况到底怎样,乍一看,干净整洁,窗明几净。结果仔细一瞧,图片的右下角又写着几个大字——“ 豆包 AI 生成

你以为不点外卖就可以躲过了么?

想网购买点东西吃吃,结果商家产品图又是 AI 生成的。甚至让花生都突破了生理限制,创造出了“ 花生上树 ”的天下奇观。

那么他们这么胡搞瞎搞,咱们一点办法都没有吗?

其实,商家们用 AI 假图来蒙骗人,相对来说好对付一点。都不用畅谈未来,电商平台们就已经在疯狂打补丁,不允许商家用 AI 假图。

但另外一头,作为被讨要退款的商家,或者是被泼脏水的消费者们,这事就没那么好搞了。

以前想筛选出占便宜的买家,商家都会要求对方扔垃圾桶里,或者是把东西损坏。之前隔壁小黑胖,就遇到过类似的情况。

但现在,图片已经不可信了。这场狼人杀硬生生把商家们逼成了福尔摩斯转世。为了能申诉成功,到处找 AI 存在的证据。

如今识别的方法,已经从拍照确认升级成了视频表清白。

因为 AI 视频的一致性还比较差,很容易露出马脚。比如下面这个想白嫖的买家发来的视频,扔东西扔着扔着,突然基因突变般长出了第三只手来。

建议唐探第 5 部,一定要这些商家出演。

其实,大家也不是没想过怎么防这招。

像欧盟的《人工智能法案》,还有我国从下个月就要实行的《 人工智能生成合成内容标识办法 》,都要求 AI 生成的图,必须得要有水印。

这是咱们肉眼看不到,就算截屏、改色、套滤镜,也消不掉的数字水印。

谷歌、meta 等很多厂商都已经在做了。比如 meta 的 Stable Signature,还有谷歌今年推出的 SynthID。

就拿谷歌来说,它靠的是把水印植入到图片的“ 低频频谱域 ”里去。

就像声音有高音、低音一样,图片同样也可以分为高频和低频。天空、湖水、皮肤这些就是低频,然后皱纹、衣服边缘这些变化多的地方,就属于是高频。

谷歌在频段里面塞了水印进去。有点类似于本来应该是低频振幅的地方,反而出现了一些高频的反馈。

看着很靠谱对不对?但已经有人想到对付它的招了。

一个叫 Unmarker 的开源工具,号称能在 5 分钟里破除几乎所有 AI 图像的水印。

它也不找水印具体在哪,上来就把整个图片的频谱信息全部改了个遍。

虽然谷歌官方说水印没被完全消掉,但这么一通无差别攻击之后,也消个七七八八了。

而且,谷歌上一代水印技术 HiDDeN 已经能完全消除,Meta 的水印它也能对付 79%。

下面两张图,分别为 Google SynthID 和 UnMarker 处理结果 

当然了,Unmarker 的目的并不是去干坏事,它只是想测试试这些数字水印,是不是真像大厂们说得那么可靠。

得到的答案明显是否定的。世超有预感,在短时间里,这都是一场你追我逃的游戏。

大厂们想要造出完美的数字水印,可能还需要很长的时间。但AI给我们带来的影响,却已经到来。

现在大家之间互相信任的成本已经越来越高了。

就像退个货,从最开始的拍张照,变成拍视频。最后,可能你想要退个款,还得线下和商家碰一碰。

住个酒店民宿,也得先把房间从头到脚拍一个遍。

AI 或许并没有让人变坏,但它为恶意滋生提供了最肥沃的土壤,为它长成参天大树提供了可能。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI 人工智能 图片生成 造假 信任危机 AI水印 监管 欺诈
相关文章