IT之家 09月18日
谷歌与StopNCII合作,打击网络非自愿影像传播
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

谷歌宣布与专注于阻止“非自愿影像”在网络上传播的非营利组织StopNCII达成合作。StopNCII的技术能够为私密影像生成数字指纹(哈希值),并与Facebook、Instagram、Reddit和OnlyFans等平台共享,从而阻止影像的再次上传,且无需人工审核。尽管谷歌在此领域的推进被认为来得较晚,且有倡导者指出该机制仍将部分责任推给受害者,但此举被视为谷歌在打击影像滥用方面的重要进展。然而,该技术目前无法拦截AI生成的非自愿影像或深度伪造内容,因为其依赖于已知图像。

🤝 **谷歌携手StopNCII,加强网络安全防护**:谷歌近期宣布与非营利组织StopNCII建立合作关系,旨在共同打击网络上“非自愿影像”的传播。StopNCII拥有一项关键技术,能够为私密影像创建独特的数字指纹(哈希值),这一技术是阻止不当内容二次传播的核心。

🔒 **高效技术实现自动拦截**:StopNCII的技术优势在于其能够生成影像的数字指纹,并将这些指纹提供给如Facebook、Instagram、Reddit和OnlyFans等合作平台。当有影像尝试再次上传时,系统会通过比对哈希值进行拦截,整个过程无需人工审核或受害者举报,大大提升了效率和响应速度。

⚠️ **技术局限性与受害者责任**:尽管谷歌的合作是一项积极进展,但业内人士和倡导者指出,该技术目前尚无法有效应对AI生成的非自愿影像和深度伪造内容,因为哈希值技术依赖于已知的原始图像。此外,一些倡导者认为,将自我举报的责任推给受害者仍然是该机制的一大不足,并呼吁谷歌承担更多主动下架的责任。

IT之家 9 月 18 日消息,当地时间本周三,谷歌宣布将与专注防止“非自愿影像”在网上传播的非营利组织 StopNCII 达成合作。据彭博社报道,业内人士认为,这一步虽来得晚,但标志着谷歌在打击影像滥用方面取得重要进展。

StopNCII 的技术能为私密影像生成数字指纹(哈希值),并将这些哈希值分享给 Facebook、Instagram、Reddit 和 OnlyFans 等合作平台,以阻止影像被再次上传,且无需人工审核或举报。

谷歌推进速度偏慢也遭到质疑。StopNCII 于 2021 年底上线,其基于 Meta 的检测工具开发,Facebook 和 Instagram 最早接入,TikTok 和 Bumble 于 2022 年 12 月加入,微软则在 2024 年 9 月将该系统整合进必应,比谷歌早了近一年。谷歌曾在 2024 年 4 月向英国议员解释,因担心数据库的互操作性问题,所以暂时无法参与。

一些倡导者认为,谷歌的行动力度仍显不足。倡导组织 End Technology-Enabled Abuse 创始人 Adam Dodge 表示:“这是积极的一步,但仍把自我举报的责任推给了受害者。”他强调,谷歌完全有能力主动下架非自愿影像,而不该让受害者自己生成哈希值。

谷歌此次声明未提及 AI 生成的非自愿影像或深度伪造。StopNCII 依赖已知图像,无法提前拦截 AI 生成的伪造内容。Wright 说:“如果是合成图或完全不同的影像,哈希值捕捉不到。”

据IT之家了解,彭博社在 2023 年调查发现,谷歌搜索是引流深度伪造和色情 AI 生成内容网站的头号来源。此后,谷歌已采取措施减少相关内容,并降低其搜索排名。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

谷歌 StopNCII 非自愿影像 网络安全 数字指纹 AI生成内容 深度伪造 Google Non-Consensual Imagery Online Safety Digital Fingerprints AI-Generated Content Deepfakes
相关文章