加州于10月13日签署了参议院第243号法案,对伴侣型AI聊天机器人进行监管。新法要求,若AI聊天机器人可能让用户误认为与真人互动,开发者必须发布清晰声明。此外,从明年起,部分平台需每年向州自杀预防办公室提交报告,说明如何处理用户自杀倾向的安全措施。州长纽森强调,在推动科技发展的同时,必须优先保护青少年安全。此法案是加州在AI立法领域迈出的重要一步,旨在平衡技术创新与用户安全,特别是对青少年群体的保护。
🤖 **AI身份透明化要求**:根据新法,如果AI聊天机器人可能让普通用户误认为正在与真人互动,其开发者必须在界面上发布“清晰且醒目的声明”,明确告知用户对方仅为AI,而非真人。这一规定旨在提高AI交互的透明度,避免用户产生误解。
🛡️ **青少年安全与自杀预防报告**:从明年开始,部分伴侣型聊天机器人平台运营方需要每年向州自杀预防办公室提交报告。报告内容需详细说明其在识别、处理并消除用户自杀倾向方面所采取的安全措施。这些数据将公开展示,以确保平台的责任感和用户安全。
⚖️ **平衡创新与监管**:州长纽森在签署法案时指出,新技术如聊天机器人和社交媒体在带来灵感和连接的同时,若缺乏有效监管也可能对青少年造成误导、伤害甚至危及安全。加州致力于引领AI和科技发展,但始终将儿童安全置于首位,确保每一步都守护孩子的安全。
📜 **AI立法持续推进**:此次新规的出台,紧随加州签署具有里程碑意义的AI透明度法案——参议院第53号法案之后。这表明加州在AI立法领域正持续推进,并引发了业内广泛关注,预示着AI技术在监管框架下将迎来更规范的发展。
随着伴侣型AI聊天机器人的产业不断扩大,加利福尼亚州于10月13日签署了一项新法案,旨在对这一新兴技术进行监管。加州州长加文·纽森于当日正式签署了参议院第243号法案,这是由州参议员安东尼·帕迪利亚推动的、标榜为“全美首创AI聊天机器人保护措施”的立法。
根据新法,若聊天机器人能让一名普通用户误以为自己正在与真人互动,则开发者需在界面上发布“清晰且醒目的声明”,表明对方仅为AI,并非真人。
法案规定,从明年起,部分伴侣型聊天机器人平台运营方还需每年向州自杀预防办公室提交报告,阐述其在识别、处理并消除用户自杀倾向方面所采取的安全措施。相关数据将被公开展示在该办公室官网。
在签署此项法案时,纽森表示,诸如聊天机器人与社交媒体等新技术,既能激发灵感、促进教育与连接人群,但如果缺乏有效监管,也可能误导、伤害甚至危及青少年安全。“加州必须秉持责任,持续引领AI和科技发展步伐,但儿童安全不容置换。我们每一步都要守护孩子们的安全。”此外,纽森同时签署了其他几项针对青少年网络安全的法案,包括硬件产品新的年龄检验要求等。
本次新规也是在纽森正式签署具有里程碑意义的AI透明度法案——参议院第53号法案——之后出台。AI立法近年来在加州引发广泛争议,备受业内关注。
