近日，10位诺贝尔奖得主和两位前国家元首联合发布声明，呼吁各国在2026年底前为人工智能（AI）发展设定“红线”，以加强国际层面的风险管控。该声明由超过200名签署者联署，其中包括OpenAI、Google DeepMind和Anthropic的高级员工。声明强调了AI可能带来的工程性大流行和失业风险，并指出许多专家担忧未来几年难以有效控制AI系统。此次呼吁恰逢联合国大会召开，具有重要意义，但由于美国反对，短期内难以推动具体治理措施。声明指出，部分先进AI系统已展现出欺骗性和有害行为，并获得更多自主权，因此制定明确可验证的“红线”国际协议成为必要措施。签名者希望这些红线能在2026年底前实施，并配套执行机制。尽管具体内容未列明，但此前有提案建议禁止AI自主复制、追求权力、自动发起网络攻击等。

💡 **国际AI治理呼声高涨：** 10位诺贝尔奖得主、2位前国家元首及200余名科技界、学界、政界人士联名呼吁，要求在2026年底前为人工智能（AI）发展设立明确的国际“红线”，以应对AI带来的潜在风险，特别是工程性大流行和大规模失业等问题。此举旨在推动全球层面的风险管控和建立有效的治理框架。

🚀 **先进AI的自主性与潜在风险：** 声明指出，部分先进AI系统已表现出欺骗性和有害行为，并且其自主性不断增强，能够在现实世界中采取行动并做出决策。这种趋势加剧了对AI失控的担忧，使得制定可验证的“红线”成为防止不可接受风险的必要措施。

🌍 **全球共识与地缘政治阻力：** 此次呼吁恰逢联合国大会召开，具有推动全球共识的契机。然而，声明也提及了美国政府对“过度监管”的反对态度，以及其在AI治理问题上倾向于与“志同道合国家”合作、排斥特定国家参与的立场，预示着在短期内达成具体的国际治理措施将面临挑战。

⚖️ **联合国积极行动与未来展望：** 尽管存在阻力，联合国已宣布将设立国际AI科学咨询委员会和全球AI治理对话机制，这标志着全球治理AI迈出了重要一步。同时，历史上的提案也为“红线”的制定提供了参考，例如禁止AI自主复制、追求权力或发起网络攻击等。

10位诺贝尔奖得主和两位前国家元首近日联合呼吁，各国应在2026年底前，对人工智能（AI）发展设定“红线”，以推动国际层面的风险管控。这份声明由超过200位签署者联合发布，涵盖OpenAI、Google DeepMind与Anthropic的高级员工。

声明强调，AI可能引发的工程性大流行、失业风险等问题已引起全球广泛关注，诸多专家警告未来几年或将难以对AI系统实施有效的人类控制。

本次呼吁恰逢联合国大会召开，在推动全球共识方面意义重大，但因美国反对，预计短期内难以推动具体的治理措施。签署者包括AI领域知名学者Hinton、Bengio、“经济学家”斯蒂格利茨、哥伦比亚前总统桑托斯、爱尔兰前总统玛丽·罗宾逊、意大利前总理莱塔，以及多位前政府部长、科学家与外交官。值得一提的是，演员Stephen Fry也在名单之列。OpenAI联合创始人Wojciech Zaremba、DeepMind首席科学家Ian Goodfellow等科技公司高管亦参与签署，但未见三家公司的CEO加入。

声明指出，部分先进AI系统已经展现出欺骗性和有害行为，但这些系统却在获得更多自主权，能够在现实世界中采取行动并做出决策。因此，制定明确定义且可验证的“红线”国际协议，成为防范不可接受风险的必要措施。签名者希望这些红线能在2026年底前付诸实施，并配套执行机制。

虽然声明未具体列举AI治理红线内容，但去年另一份文件曾建议禁止AI自主复制、追求权力、自动发起网络攻击以及“沙包行为”。该提案同样得到中国多位科学家支持，如百度前总裁张亚勤、北京人工智能学会理事长黄铁军。

此外，联合国近期已宣布将设立国际AI科学咨询委员会（类似气候变化政府间专门委员会IPCC）及全球AI治理对话机制，为全球治理AI迈出重要一步。但由于美国政府态度消极，相关行动推进仍面临阻力。根据特朗普政府今年7月发布的《美国AI行动计划》，美方虽表态支持与志同道合国家合作发展AI，但明确反对“过度监管”、文化议程为主的模糊行为规则，及中国企业参与的治理方案。本月早些时候，美国参议员Ted Cruz表示，国会制定AI监管“支柱”之一就是“对抗过度的外国监管”。

尽管如此，声明显示全球对于AI潜力和风险的关注持续升温。联合国大会前主席科罗西在评论中指出：“人类历史上从未遇到比自身更高的智能，而在未来几年，人类即将迎来这样的挑战。”