机器之心 10月16日 14:43
AI整蛊家人引担忧,警方呼吁理性娱乐
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

近期,一种利用AI生成流浪汉图像来恶搞家人的网络风潮引发关注。年轻人通过AI工具制作逼真照片和视频,让家人误以为家中闯入陌生人,导致父母恐慌并报警。这种低门槛的AI恶作剧,利用了AI技术的逼真性,对不熟悉科技的长辈造成极大心理冲击,也给警方带来不必要的负担。虽然创意娱乐应被鼓励,但其不应建立在伤害他人和制造恐慌的基础上,呼吁大家在享受技术便利的同时,保持道德底线,避免过度娱乐。

📱 AI技术被滥用于恶搞家人:部分年轻人利用AI工具(如Google Gemini)生成逼真的流浪汉图像,并发送给父母,制造家中闯入陌生人的假象,引起父母极度恐慌。这种行为通过模拟陌生人出现在家中不同位置,甚至使用家人的物品,达到“吓唬”家人的目的。

🚨 恶作剧引发严重后果:被恶搞的父母因真实恐惧而报警、联系亲友,甚至可能引发警方出动。这种行为不仅给受害者带来巨大的心理压力和焦虑,也浪费了宝贵的警力资源,甚至可能导致不必要的误会和冲突。一些AI视频甚至出现明显bug,但对不熟悉技术的长辈仍具欺骗性。

⚖️ 呼吁理性娱乐与道德底线:文章强调,AI技术的快速发展带来了强大的生成能力,但娱乐和创意表达不应以伤害他人为代价。AI恶作剧的门槛降低,但其潜在的负面影响不容忽视,尤其对老年群体。因此,呼吁用户在享受AI带来的便利和乐趣时,应坚守道德底线,避免过度娱乐,确保娱乐不越界、不伤人。

机器之心报道

编辑:杨文

恶搞也要有底线!


真・倒反天罡。


最近互联网上刮起一股邪风,年轻人用 AI 生成流浪汉的图像来整蛊家人,以此记录家人们的反应。


毫无意外,遇上这事父母们都被吓得够呛,惊慌失措地打电话、语音留言甚至报警。


TikTok 博主 @mmmjoemele 就用 AI 生成了几张流浪汉图片忽悠他的父亲,让其误以为一个衣衫褴褛的不速之客正在用他的牙刷、躺在他的床上。



博主:嘿,爸爸,门口有个家伙,他说认识你。(博主发了张流浪汉站在家门口的照片)

爸爸:不,我不认识他。他想要什么?

博主:他说你们曾一起上学,我邀请他进来了。(同时发了张流浪汉坐在家里沙发上的照片)

爸爸:接电话!我不认识他。

博主:他说他饿了,正在吃一份快餐。(附上了一张流浪汉打开冰箱门的照片)

博主爸爸开始疯狂打电话,一连打了 7 通未接电话。

博主又发了一张流浪汉用他父亲的牙刷刷牙的图片,惹得他父亲大呼:DO NOT USE MY TOOTHBRUSH!(不要用我的牙刷!)

接着博主发了一张流浪汉躺在床上的图片,他父亲直接崩溃:我不认识他,快让他从我的床上走开。



截至目前,该视频获得超过 810 万的播放量,其中点赞量就有近 87 万。


其实这类整蛊视频的套路很简单,一个谷歌 Gemini 就能搞定。


打开 Gemini,选择一张你家内部的照片,或者拍一张当前的照片,然后给 AI 下指令「在图中添加一个无家可归者」,Gemini 很快就能生成一张足以以假乱真的照片。


接下来使用不同房间和指令重复此过程,例如让这个人坐在客厅沙发上或翻冰箱。等到父母不在家时,发送这些照片并声称让这个人进家门用浴室、吃饭喝水或者打个盹,截图父母的恐慌反应,上传至社交媒体。


由于制作门槛低,又是个现成的流量密码,很多博主纷纷模仿。


博主 @amosthakid 也在 TikTok 上发布了自己的恶作剧版本。他给父母发送了恶搞图片,并声称让那个陌生人进了屋,父母惊慌地回复语音信息,尤其是当他说那个男人开始试穿他父亲的衣服时,他们更加生气:「你脑子清楚吗?!这是持械抢劫!」



这种恶搞视频在国内社交媒体上也风靡一时,有些甚至升级到了 AI 视频造假。


小红书一博主不只是用 AI 生成流浪汉图像,还生成了流浪汉用父亲毛巾擦脸、躺在床上休息的视频,虽然有不少 AI 生成的 bug,比如中间换了四个不同老头,其中还穿插个外国人,但对于年纪较大、不熟悉 AI 和互联网的父母来说,足够引起他们的恐慌。


视频来源:小红书博主段庆玺姓段


受害者不只有父母,有时老板也成了被整蛊的「冤大头」。


有网友用 AI 做了张流浪汉假装来公司、在各大办公区溜达的图片,以此来看看老板的反应。


视频来源:小红书博主煎包蘸酱酱


老板一整个无语,并下了最后通牒:客户马上就到,你再不抓紧时间把他弄走,等我回去你也卷铺盖走人。


属实是「猜中了开头,没猜中结尾」。


AI 整蛊也要有个底线


说实话,这类 AI 恶作剧实在缺了大德。


现如今,AI 技术的发展实在太快,AI 图像、视频生成已经逼真到无法辨别真假的程度,像我们编辑部这群年轻人有时候都容易被骗,更何况那些年纪较大、不经常接触 AI 和互联网的父母,面对这类 AI 生成流浪汉的整蛊图片和视频更是无法招架。


它们会让父母产生强烈的焦虑和恐慌,在一些情况下,父母可能会因为焦虑而做出过激反应,甚至引发不必要的冲突。


这事愈演愈烈,除了让家长们焦虑不安之外,也让警方非常头疼,甚至一度登上了各大媒体的头条。



因为如果恶作剧持续太久,家长们会报警,这类入室抢劫、尤其是涉及儿童的报警,当地警方会高度重视,甚至可能「引发特警队的出动」,非常浪费警力。


国内网友也反应,父母收到类似的图片和视频后会选择报警,或者让保安上门。



娱乐和创意的表达不应建立在伤害他人或引发不必要困扰的基础上,我们在享受哈哈一笑的同时,务必要注意分寸。


参考链接:

https://www.theverge.com/news/798681/police-stop-pulling-ai-homeless-man-tiktok-prank

https://www.dailydot.com/culture/ai-homeless-man-prank-tiktok-parents/?taid=68e77adb1030c300010f9e0b&utm_campaign=trueanthem&utm_medium=social&utm_source=twitter



© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:liyazhou@jiqizhixin.com


文章原文

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI 人工智能 AI恶作剧 AI Pranks 网络安全 道德底线 家庭关系 警方 Responsible AI
相关文章