IT之家 前天 12:40
AI伪造恶作剧引担忧
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

生成式AI技术日趋成熟,被一些青少年用于制作深度伪造图像进行恶作剧,例如伪造邀请无家可归者回家的照片发送给父母,引发恐慌甚至报警。这种现象表明AI工具已普及,使得真假信息难以辨别。社交媒体上出现大量此类恶作剧视频,已引起美国多地警方警告,认为此行为不仅愚蠢危险,还浪费警力资源,甚至构成犯罪。英国也出现类似情况,警方呼吁民众在报警前核实照片真伪。警方强调,此类恶作剧可能造成严重后果,包括耽误真正的紧急事件和浪费公共资源。

🖼️ 青少年利用成熟的生成式AI技术制作深度伪造图像,进行恶作剧,常见手法是伪造邀请无家可归者回家的照片并发送给家人,引发其恐慌甚至报警。

⚠️ 美国多地警方已对此类“AI无家可归者”恶作剧发出警告,认为这种行为不仅愚蠢和危险,还会物化无家可归者,使接收者陷入恐慌,并浪费警力资源,部分地区警方已将此类行为视为犯罪并提起诉讼。

🇬🇧 英国也出现了青少年利用AI进行类似恶作剧的案例,当地警方呼吁公众在报警前务必核实可疑照片的真实性,以防浪费警力资源并避免不必要的恐慌。

❗ 警方强调,尽管这类恶作剧看似无害,但可能带来严重的负面影响,包括可能导致真正的紧急情况被延误处理,以及对公共资源的浪费,提醒年轻人重视行为的后果。

IT之家 10 月 18 日消息,生成式 AI 推动的深度伪造技术现已相当成熟。据外媒 Futurism 17 日报道,许多青少年正用这项技术整蛊家人和朋友。最新流行的恶作剧,是孩子们伪造出自己邀请无家可归者进家的 AI 照片,再发给父母,引发了惊慌甚至报警

这一现象显示,先进的生成式 AI 工具已深入日常生活,也预示着人们正进入一个真假难辨的时代:连来自亲友的影像都可能是伪造的。

社交媒体上充斥着年轻人炫耀如何用 AI 把父母或朋友吓坏的视频。随着这股风潮愈演愈烈,美国多地警方开始发布警告。马萨诸塞州塞勒姆警方表示,这种行为既愚蠢又危险:“它让无家可归者被物化,使接收者陷入恐慌,还浪费警力资源”。

华盛顿州奥克港警方也指出,“AI 无家可归者”恶作剧带来了安全隐患,一度让人误以为“有流浪者闯入奥克港高中校园”。警方提醒,AI 能生成极具欺骗性的影像,虚假信息传播极快,容易引发恐慌并干扰公共安全。

一些执法部门警告,这类行为已超出恶作剧的范畴。俄亥俄州布朗县警长办公室在 Facebook 上发文称:“这种行为不是玩笑,而是犯罪。”两名涉事未成年人已被起诉。

据IT之家了解,类似情况也出现在英国。BBC 报道称,当地青少年同样利用 AI 整蛊父母和朋友,警方呼吁在报警前先确认可疑照片是否为恶作剧

得克萨斯州朗德罗克警方指挥官安迪・麦金尼表示:“恶作剧看似无害,却可能带来严重后果。年轻人常忽视这些影响,可能让真正的紧急事件被耽误,还浪费了公共资源。”

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

深度伪造 生成式AI 恶作剧 警方警告 公共安全
相关文章