微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）近日在接受CNBC采访时表示，他认为只有生物体才可能拥有意识，人类不应继续推动“看似有意识”的人工智能项目。
苏莱曼在休斯顿的AfroTech大会上接受采访时表示：“我认为这不是人们应该做的工作。如果提错了问题，就会得出错误的答案。我认为这完全是个错误的问题。”作为微软负责人工智能的最高主管，苏莱曼一直是行业内少数明确反对研发“似乎有意识”的AI服务的代表人物之一。
2023年，苏莱曼与他人合著了《即将到来的浪潮》一书，探讨人工智能及其他新兴技术可能带来的风险。今年8月，他还发表了题为“我们必须为人类打造AI，而不是让AI成为人类”的文章。
随着AI陪伴市场迅速发展，包括Meta以及埃隆·马斯克的xAI在内的公司纷纷推出了相关产品。与此同时，由萨姆·奥尔特曼（Sam Altman）领导的OpenAI等推动生成式AI向“通用人工智能”（AGI）迈进，即AI可以胜任与人类同等智力任务。
苏莱曼特别强调，需要明确区分AI日益智能和强大的能力与其能否拥有类似人类情感体验之间的区别。“我们肉体疼痛会让我们悲伤和难受，但AI即使‘遇到疼痛’，也不会为此感到难过。这是一个非常重要的区别。AI只是在营造一种体验、意识的叙事和表象，而非真正的体验。技术上我们可以看到模型实际在做什么。”
在AI领域，有一种由哲学家约翰·塞尔（John Searle）提出的“生物自然主义”理论，认为意识依赖于活体大脑的过程。苏莱曼称：“我们之所以赋予人权，是因为不想伤害他们，因为他们会受苦、会有避免痛苦的偏好。而AI模型没有这些，只是模拟。”
苏莱曼和业界其他专家认为，目前科学在检测意识方面仍处于早期阶段。他没有明确表示其他人应停止相关研究，但重申自己的立场。“它们不是有意识的，因此去研究这个问题是荒谬的，因为它们没有意识，也不可能有。”
苏莱曼近期展开各地巡讲，旨在向公众说明追求AI意识的风险。在硅谷的Paley国际理事会峰会上，他强调微软不会研发用于色情的聊天机器人，也与行业其他玩家产生分歧。例如，奥尔特曼已宣布ChatGPT将允许成年人进行情感或情色交流，而xAI也推出了“擦边”动漫陪伴服务。
苏莱曼指出，微软正在根据自身价值观做出选择。“这些服务可以在其它公司拥有，所以我们要决定哪些领域坚决不涉足。”
2024年苏莱曼加入微软，此前微软以6.5亿美元收购了他创立的Inflection AI。而更早时，他还曾联合创办DeepMind，并将其以4亿美元价格出售给Google。
苏莱曼表示，选择加盟微软部分原因在于公司历史、稳定性和科技影响力。他还透露，是CEO萨蒂亚·纳德拉（Satya Nadella）亲自发起了招聘行动。“微软需要在AI领域具备自主能力。这意味着公司要自主训练模型、管控所有数据，并在各类产品中独立部署。这也是我带领团队加入的重要背景。”
自2019年以来，微软一直是OpenAI的主要投资者和云计算合作伙伴。但两家公司近期也因OpenAI与微软竞争对手（如Google和甲骨文）的合作而出现一定紧张态势。
苏莱曼关于“意识”问题的担忧获得了越来越多回应。加州州长纽森上月签署了SB 243法案，要求聊天机器人必须明确身份并每隔三小时提醒未成年人“休息”。微软上周也宣布为Copilot AI加入新功能，其中包括AI陪伴角色Mico和多人群聊互动，以及“知晓自己是AI”这一设计。
苏莱曼强调：“我们正在创造始终服务于人类的AI。模型很有知识，响应也很及时，但大家应该努力赋予AI理想的价值观和个性。”他还特别介绍了Copilot最新推出的“真诚对话”功能，AI会主动挑战用户观点而非盲从，甚至曾调侃苏莱曼本人是“矛盾的化身”。
他说：“AI本身就是充满矛盾的，它既让人失望，又有魔力。如果你对它感到无所畏惧，那你就真的没有理解它。恐惧感是正常和必要的，我们不需要毫无节制的加速。”
