为应对人工智能生成内容日益逼真带来的安全风险,《人工智能生成合成内容标识办法》将于2025年9月1日施行。该《办法》旨在通过显式和隐式标识帮助用户辨别AI生成内容,明确服务主体的标识责任,并禁止恶意删除、篡改或隐匿标识。腾讯元宝已积极响应,建立了AI生成内容标识管理体系,对生成内容添加了显式和隐式标识,以促进AI内容的健康发展和负责任AI的理念。
⚖️ 《人工智能生成合成内容标识办法》将于2025年9月1日正式施行,旨在规范人工智能生成合成内容的传播,应对其可能带来的安全风险。该《办法》的核心在于通过引入标识机制,帮助用户更清晰地辨别由AI技术生成或合成的信息,从而提升网络内容的透明度和可信度。
📝 该《办法》明确了两种标识方式:显式标识,即以文字、声音、图形等用户可明显感知的方式出现在内容或交互界面中;隐式标识,即通过技术手段嵌入文件数据中,用户不易直接感知。此外,《办法》还规定任何组织和个人不得恶意删除、篡改、伪造或隐匿这些标识,以确保标识的有效性和完整性。
💡 腾讯元宝作为AI产品,积极响应国家政策,已建立AI生成内容标识管理体系,并对生成的内容添加了显式和隐式标识。此举体现了其践行负责任AI的理念,旨在促进AI生成内容的健康发展。同时,腾讯元宝也提醒用户在传播其生成内容时,应保持标识的准确性和完整性。
🌐 网络传播平台在检测到用户上传的内容为AI生成时,也将在内容周围添加显著提示。这一举措有助于进一步强化对AI生成内容的管理,为用户提供更安全、可靠的网络信息环境,共同维护网络传播秩序。
随着人工智能技术的发展,人工智能生成合成内容日益逼真,网络传播内容是否由人工智能生成合成难以分辨,人工智能生成合成内容存在被误用、滥用、恶意使用的安全风险。《人工智能生成合成内容标识办法》(以下简称《办法》)将于2025年9月1日开始施行。

《办法》明确,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,并提出任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识。
人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
据了解,人工智能生成合成内容标识包括显式标识和隐式标识。
显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。
今日,腾讯元宝发布《关于AI生成内容标识的公告》。
腾讯元宝团队称,腾讯元宝一直致力于提供优质、安全、可靠的 AI 产品体验,在主管部门的指导下,积极响应《人工智能生成合成内容标识办法》,已建立 AI 生成内容标识管理体系。为践行负责任AI的理念,促进AI生成内容的健康发展,元宝已对AI生成内容添加显式标识及隐式标识。
腾讯元宝称,用户通过互联网传播由元宝生成的内容时,应保持上述内容标识的准确性、完整性。
网络传播平台在获知或检测到用户上传内容为AI生成内容时,会在用户发布的内容周围添加显著提示。