一名17岁少女因其14岁时照片被用于AI生成假裸照而起诉“脱衣”网络工具ClothOff的开发商AI/Robotics Venture Strategy3及通讯平台Telegram。该少女与多名同学的社交媒体照片被男性同学用于群聊分享伪造裸照。诉讼要求删除相关照片、禁止AI模型训练，并下架网站和工具。Telegram因ClothOff通过其机器人访问被列为被告。开发商辩称无法处理未成年人照片，并称不保存数据，但《卫报》调查显示ClothOff月均访问量超四百万，全球存在儿童裸照案例。Telegram称ClothOff已被下架。此次事件凸显深度伪造色情与未成年人隐私问题，引发各界对加强监管的呼吁。

⚖️ **未成年人肖像权受侵犯与法律追责**：一名17岁少女提起诉讼，控告“脱衣”AI工具ClothOff的开发商AI/Robotics Venture Strategy3，以及通讯平台Telegram。事件源于其14岁时社交媒体照片被未经同意用于生成AI假裸照，并在同学群聊中传播。诉讼旨在要求删除所有未经同意的裸照，禁止利用这些照片训练AI模型，并下架相关网站和工具，这标志着对利用AI侵犯未成年人肖像权行为的法律追责迈出了重要一步。

🤖 **AI生成色情内容的泛滥与监管挑战**：ClothOff工具月均访问量超四百万，显示出AI生成非自愿色情内容（尤其涉及未成年人）的广泛性和隐蔽性。《卫报》的调查以及旧金山市检察机关起诉16家AI脱衣网站的案例，都揭示了这一问题的严重性。开发商辩称无法处理未成年人照片，但实际情况表明，此类工具被滥用的风险极高，对儿童保护构成了严峻挑战，亟需加强技术和法律监管。

🌐 **平台责任与内容审核的困境**：通讯平台Telegram被列为“名义被告”，因其平台上的机器人可访问ClothOff工具。尽管Telegram表示已下架ClothOff并会移除违规内容，但此类事件暴露了大型通讯和社交平台在内容审核和防止AI滥用方面面临的巨大压力。如何在保障用户自由交流与阻止非法内容传播之间取得平衡，是平台方亟待解决的难题。

🔒 **深度伪造技术滥用与隐私保护的未来**：AI生成未获当事人同意的裸照现象并非新生事物，早在生成式AI普及前就已存在，如2020年Telegram上的深度伪造机器人。此次诉讼和近期Meta对Crush AI的起诉，以及政要的呼吁，都表明深度伪造色情与未成年人隐私受害问题日益严峻。这不仅是法律问题，更是对个人隐私和数字时代伦理边界的严峻考验，需要全社会共同努力，加强技术防范和法律约束。

一名新泽西州17岁少女近日起诉一款名为ClothOff的“脱衣”网络工具开发商AI/Robotics Venture Strategy3，并将通讯平台Telegram列为被告之一。两年前，这名少女在14岁时，自己的社交媒体照片被同学用于AI生成假裸照。包括她在内，多名Westfield High School女生发现男性同学曾在群聊中分享这些伪造照片。

此次诉讼由耶鲁法学院一名教授、其学生以及一名审判律师代表少女提起，要求法院命令AI/Robotics Venture Strategy3删除和销毁所有未获同意的成人及儿童裸照、禁止利用照片训练AI模型，同时要求下架相关网站和ClothOff工具。Telegram平台也因ClothOff可经其机器人访问被列为“名义被告”。

AI/Robotics Venture Strategy3注册地为英属维京群岛，该公司据信由白俄罗斯人运营。原告主张制造这些图片构成儿童性虐待材料（CSAM）的行为，开发方则辩称无法处理未成年人照片，检测到将会封号，并声称不会保存任何数据。

《卫报》今年曾调查ClothOff，发现其月均访问量超四百万，且全球范围内均有被用于制造儿童裸照的案例。Telegram则表示，脱衣工具及非自愿色情内容违反平台条款，发现后会移除，ClothOff目前已被下架。

制造假裸照的男同学未在此次诉讼中被点名，但原告正对其另案起诉。据称，男孩曾用少女泳装照生成裸照。少女表示常年因网络流传假图而“活在恐惧中”，并担忧自己的照片正被用于训练ClothOff的AI。

AI生成未获当事人同意裸照的现象早在生成式AI兴起前已出现。2020年，Telegram上一款深度伪造机器人据称利用社交图片虚拟“脱衣”超十万女性。

2024年，旧金山市检察机关起诉了16家AI脱衣网站。近期，Meta公司6月也因其平台两周出现8000条相关广告，对Crush AI“脱衣”应用开发方提起诉讼。多位资深政要公开表示，深度伪造色情与未成年人隐私受害问题日益严重，呼吁各方加紧监管。

查看评论