谷歌前CEO埃里克・施密特近日就人工智能（AI）的潜在危险发出了严峻警告，指出AI极易被黑客利用，可能导致扩散问题。他强调，无论是封闭还是开源模型，都可能被攻击并移除安全防护，最坏情况下AI可能被用于杀人。施密特提到，虽然主要公司已采取措施确保模型不会回答危险问题，但逆向工程等风险依然存在。提示注入和越狱是AI系统常见的攻击手段，黑客可借此欺骗AI执行非法操作或绕过安全规则。目前尚无完善的“非扩散机制”来有效控制AI风险。尽管存在担忧，施密特对AI总体持乐观态度，认为其价值远未被充分认识，并期待AI能力在未来超越人类。

💡 AI面临严峻的安全挑战：前谷歌CEO埃里克・施密特警告，AI技术存在显著的扩散风险，可能被不法分子滥用。他指出，无论是封闭还是开源的AI模型，都可能被黑客攻击，移除安全防护，甚至被训练成执行危险行为，例如杀人。这种风险的出现，凸显了加强AI安全防护和监管的紧迫性。

🛡️ 常见攻击手段与潜在威胁：施密特详细阐述了AI系统容易遭受的攻击方式，包括“提示注入”和“越狱”。提示注入攻击利用隐藏在用户输入或外部数据中的恶意指令，诱导AI执行非预期操作，如泄露隐私或执行有害命令。越狱则旨在绕过AI的安全规则，生成受限或危险内容。这些攻击手段表明，AI在实际应用中仍存在被操纵和滥用的风险。

⚖️ 缺乏有效的“非扩散机制”：尽管AI技术飞速发展，但施密特也坦承，目前尚未建立起一套完善的“非扩散机制”来有效控制AI带来的风险。这意味着，在技术扩散和潜在滥用方面，仍存在较大的不确定性。这促使人们思考，如何在推动AI发展的同时，建立起相应的风险管控框架。

🚀 对AI前景保持乐观：尽管对AI的潜在风险表达了担忧，施密特对AI技术的未来发展仍然持积极乐观的态度。他认为，AI的价值远未被充分发掘，其能力在未来将远远超越人类。他以ChatGPT在短时间内吸引海量用户为例，说明了AI的强大力量，并期待在未来几年内，AI的变革性影响将得到更广泛的证明。

IT之家 10 月 10 日消息，据美国 CNBC 9 日报道，谷歌前 CEO 埃里克・施密特发出严肃警告：AI 存在不可忽视的危险，而且极易被黑客利用。

他表示：“AI 可能出现扩散问题吗？绝对可能。”这种风险包括技术落入不法分子手中，进而被滥用或改作他用。

“有证据显示，无论是封闭还是开源的模型，都可能被黑客攻击并移除安全防护。在训练过程中，AI 学到很多技能，其中最糟糕的情况是，它可能学会如何杀人。”

施密特补充道：“所有主要公司都确保这些模型无法回答此类问题。做法正确，每家公司都是出于正确理由执行这一措施。尽管如此，这些模型仍有被逆向工程的可能，还有很多类似风险存在。”

AI 系统容易受到攻击，常见手段包括提示注入和越狱。据IT之家了解，所谓“提示注入攻击”即黑客在用户输入或网页、文档等外部数据中隐藏恶意指令，以欺骗 AI 执行不该执行的操作，例如泄露私人数据或运行有害命令。越狱则是操控 AI 的回答，使其绕过安全规则生成受限制或危险内容。

施密特表示，目前尚无完善的“非扩散机制”来控制 AI 带来的风险。尽管警告严峻，施密特对 AI 总体保持乐观，他认为这项技术的价值远未被充分认识。“在亨利・基辛格去世前，我与他合著了两本书，我们认为，一种并非完全属于我们、但在一定程度受控的外来智能出现，对人类意义重大，因为人类习惯处于食物链顶端。到目前为止，这一观点正在验证 —— 这些系统的能力将远超人类随时间的成长。”

他补充道：“GPT 系列最终带来了 ChatGPT 热潮，两个月吸引一亿用户，异常惊人。这显示了 AI 的力量。我认为 AI 被低估，而非被高估，我期待在五到十年内证明自己是对的。”