虎嗅 前天 21:18
OpenAI创始人伊利亚的“浮士德式”抉择
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章通过歌德的《浮士德》故事,类比了OpenAI联合创始人伊利亚·苏茨克维奇在职业生涯中面临的两次关键抉择。第一次是接受马斯克的邀请,共同创办OpenAI,追求非营利性AI发展。第二次则是在OpenAI内部“宫斗”中,伊利亚在科学理想与公司稳定之间摇摆,最终选择支持萨姆·奥特曼,却也因此背离了初心,最终离开公司。故事揭示了在追求崇高理想时,个人信念如何在商业、资本和权力面前经受考验,以及理想与现实冲突下的艰难抉择。

📜 科学理想与初心的召喚:伊利亚·苏茨克维奇是一位极具科学理想的研究者,他坚信开发通用人工智能(AGI)应以造福人类为目标,并主张建立一个不受大型企业利润驱动的非营利性AI实验室。这种追求超越性的生命体验的理念,与歌德笔下渴望知识与真理的浮士德博士有相似之处。

🤝 两次“魔鬼时刻”的抉择:伊利亚面临的第一次“魔鬼时刻”是离开Google加入马斯克创办OpenAI,当时马斯克承诺支持非营利模式。第二次关键抉择则是在OpenAI内部权力斗争中,伊利亚在选择CEO人选时经历极度挣扎,最终选择支持了萨姆·奥特曼,尽管他对奥特曼的动机和对非营利性质的坚持存有疑虑。

⚖️ 理想与现实的拉扯:在OpenAI内部的权力斗争中,伊利亚起草了备忘录指控奥特曼的操纵行为,并一度推动董事会罢免奥特曼。然而,面对员工离职、竞争对手压力以及对公司分裂的担忧,伊利亚最终动摇并妥协。这反映了在巨大压力下,坚守理想的难度,以及“正义”在商业、资本和权力面前的脆弱性。

🚶‍♂️ 理想破灭与离开:伊利亚的经历揭示了,当追求AGI的初衷与公司走向资本化、利润驱动的现实发生冲突时,个人坚持的信念会受到严峻考验。最终,他因未能成功阻止公司偏离轨道,并在奥特曼复职后选择离开OpenAI,仿佛在与“魔鬼”的交易中,最终未能获得救赎,而是被困于进退两难的境地。

1808年,歌德创作出了经典诗剧《浮士德》,主角浮士德博士掌握了哲学、神学、法学和医学,懂得世上所有的知识,却还是无法理解生命本身,从而陷入绝望。

这时,魔鬼梅菲斯特来到他身边,表示愿意提供最为极致的体验。浮士德答应了,又没完全答应,而是向魔鬼提出了一个赌约:一旦,他想要永远停在魔鬼提供的体验中——那么他就立刻死去,魔鬼就可以取走他的灵魂。

两百多年后,同样是怀抱着对人工智能最前沿知识的Ilya Sutskever,作为OpenAI的创始人之一,也面对了同样的“魔鬼”时刻——两次。

来吧,你崇高的理想可以实现

10月1号,作为关键证人,Ilya出席了马斯克诉Sam Altman的官司,尤其针对他在2023年牵头的“宫斗”接受了大量提问和质询。

在初创的四人里,Ilya被认为是最有科学理想的一位。在加入OpenAI之前,就是Google的研究科学家,也是深度学习领域最具影响力的研究人员之一。在他对技术追求的背后,是一种更宏大的理念:他相信,一个非营利、不受大型企业利润驱动的AI实验室是必要的。

这难道不是像极了浮士德,想要追寻一种更超越性的生命体验。2015年Ilya第一次接受了“魔鬼”的邀约:不顾Google的极力挽留,接受马斯克的邀请,共同参与创办OpenAI。

说马斯克是“魔鬼”并不完全准确,在那个时候,他还是非常坚持OpenAI要保持非营利的内核——这也是为什么现在都过去了这么多年,他还要打官司。钱是小事,就算是富如马斯克,也不想当冤大头。

可是对于Ilya来说,马斯克像极了“魔鬼”梅菲斯特:许诺了一条可以实现理想的道路。那时,他完全认同OpenAI的非营利使命——以最可能造福人类的方式开发通用人工智能。他希望OpenAI能够将AI技术向所有人开放,并继续保持在AI研究的前沿。

可想而知马斯克之于Ilya,简直就是梅菲斯特本特,要钱给钱,要人给人,“我做你的伙伴,只要你欢喜,就做仆人,奴才,我也甘愿!”

不过,想要接近人工智能的愿景,并不是只靠技术,更是要靠两个字:算力。而即便是在2017年,搭载八块英伟达顶级GPU的定制服务器,售价就高达15万美元。训练单个模型需要成千上万块GPU,这还没算电费,那意味着每年数十亿美元的运营成本。

跟魔鬼做交易,总要付出点什么。当时马斯克要的很明确:OpenAI是他一手扶持起来的,他要做CEO,要绝对控股。

另一边,Sam Altman则通过私人关系向Ilya递话,表示自己对非营利的坚持,以及做CEO也会零股权的立场。

就在Ilya犹豫再三的时候,第二次“魔鬼时刻”正要降临,这次,真正的赌约开始了。

52页pdf

选择谁当OpenAI的CEO,无疑是当时的Ilya所经历过最棘手的决定,远超他当年决定是否离开Google。最后他选择了Sam Altman,但从过往的资料,以及近日公开出来的法庭证词来看,这个决定始终伴随着他对Sam Altman的不信任。

这从一开始就出现了,在二选一的时候,他就发邮件问过Sam Altman,为什么对CEO的名头那么执着,“你的理由不断变化,我实在难以理解背后的驱动力。AGI真是你的首要动机吗?”

Sam Altman是什么人,话术一套一套的。况且他筹钱的本领又实在是惊人,尤其是拉来了微软、YC,巨额资金不断融入,OpenAI成了硅谷最炙手可热的明日之星。

这在一定程度上,让Ilya和Sam Altman形成了平衡——就像梅菲斯特和浮士德,也有短暂“携手”的时候。Ilya坚信规模化对于训练模型的重要,把公司运营交给Sam Altman之后,他也更加沉浸在自己的技术哲学当中。直到他发现,Sam Altman的领导已经让这家公司,在暗中偏航了。

于是,就出现了现在被全网热议的“52页pdf”,这是Ilya写给独立董事的备忘录,里面集合了大量他对于Sam Altman所作所为的记录,包括但不限于:他如何挑起办公室政治、让不同的团队之间竞争、习惯性地操纵和欺骗别人。

吃瓜群众不禁要问:怎么顶级大佬也用pdf撕来撕去啊?

聚集在这份pdf上的视线太多,以至于有些关键问题被模糊过去了:  这些信息和素材,是当时Ilya发送给董事会,推动Sam Altman下台的核心证据。这曾经一度接近成功:董事会单方面表示解除Altman的职务,并任命Mira Murati为临时CEO——这期间,董事会成员和Ilya沟通非常密切。

可也是这个关键节点,Ilya动摇了。宫斗带来的影响远超想象,员工大量离职跳到竞争对手那里,董事会开始质疑。OpenAI毕竟是他的心血,如果坚持和Altman站在对立面,拉长战线,只会让公司上下都更加分崩离析。

这和他的初心背道而驰:他想的是让OpenAI能如他所愿,朝着AGI的方向,也朝着造福人类的方向前进,而不是彻底垮掉。

在上个月的法庭上,他被问到当时的判断,Ilya举棋不定,他表示自己一直在接收别人给到的信息,没想过去更进一步地对质。

网友评论:筹划了一年的行动,就这?

正义并不永恒

如果只是把当年的宫斗,看成是Ilya想要造反夺权,并不足以理解他在最新的法庭证词中所表现出来的样子:纠缠、内耗、反反复复。

因为,他当时反对的并不只是Sam Altman的领导,更是他自己的误判和错信。如果早知道选Sam Altman当CEO的代价,是把OpenAI引向资本化的道路,那他会答应这桩交易吗?如果注定保不住OpenAI作为非营利的性质,那这一切是不是都错了?

这一次,历史没有给他选择的机会了,他最后被神与魔同时抛弃,成为“造反分子”,在Sam Altman复职之后,离开OpenAI。

Ilya身上有着跟浮士德如出一辙的、理性的天真。他相信对技术和理性的追求,以及对信仰的坚持,能够突破权力和声名的诱惑。但当他自己面对巨大的压力——员工的离职、投资者威胁——他也不得不改变立场,签字妥协。

他既相信自己在“道义上正确”,又担忧行动的后果会玉石俱焚,只能是在理想与现实冲突下,做出充满防御性的决策。

“就这样吧。”这是浮士德和梅菲斯特的赌约中,最核心的概念:浮士德赌自己永远不会满足于任何成就或快感,他会永远求索,不停前进。这也让他最后得到了天使们的拯救。

而Ilya输掉了赌约,却是因为他真真正正被困住:并非是被已经取得的成就困住,而是被自己心中的“正义”困在了进退两难的境地。

他在赌的,是正义的理想不会出错。但世间的故事如出一辙:在商业、资本和权力构成的“魔鬼”面前,信念会动摇,至高无上的理想,也会破碎。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

OpenAI Ilya Sutskever Sam Altman AGI AI伦理 科技公司 浮士德 权斗 非营利 OpenAI Ilya Sutskever Sam Altman AGI AI Ethics Tech Companies Faust Power Struggle Non-profit
相关文章