10月2日，据科技网站TechCrunch报道，OpenAI在周二首次涉足社交媒体领域，推出了由视频生成模式Sora 2驱动的应用Sora。然而，此举引发了多位现任和前任OpenAI研究员的担忧。
Sora中关于奥特曼的深度伪造视频
Sora应用提供类似TikTok的视频流，里面充斥着AI生成的视频和大量关于OpenAI CEO萨姆·奥特曼(Sam Altman)的深度伪造内容。
OpenAI研究员们在X上发声，似乎对这一产品是否符合OpenAI“开发造福人类的先进AI”的非营利使命感到矛盾。OpenAI预训练研究员约翰·霍尔曼(John Hallman)在X上发文称：“基于AI的信息流令人不安。得知我们将发布Sora 2时，我确实感到担忧。但必须承认，团队在打造积极用户体验方面已竭尽所能......我们将全力确保AI技术帮助而非伤害人类。”
OpenAI研究员对Sora表示担忧
另一位OpenAI研究员、哈佛大学教授博阿兹·巴拉克(Boaz Barak)回复霍尔曼的帖子称：“我同样怀揣着忧虑与兴奋交织的复杂心情。Sora 2在技术上令人惊叹，但现在就庆贺我们成功规避了其他社交媒体应用和深度伪造技术的陷阱，还为时过早。”
OpenAI CEO奥特曼周三在X上发文，解释了为何公司投入如此庞大的资金和算力开发AI社交媒体应用。
“我理解大家的感受，但……。我们确实需要将大部分资金用于研发能推动科学进步的AI，并且几乎将所有研究精力都集中在实现AGI这一目标上。不过在此过程中，向公众展示酷炫的新技术和产品也很重要——这既能带给人们惊喜，也有望为庞大的算力需求创造资金支持。当初推出ChatGPT时，不少人质疑‘谁需要这个？AGI在哪里？’对于企业的理想发展路径来说，现实情况往往很复杂。”奥特曼称。
奥特曼的回应
OpenAI的商业化与其非营利使命之间的矛盾由来已久。随着监管机构审查OpenAI向营利机构转型的问题，这个疑问愈发突出。OpenAI需要完成这一步，以筹集更多资金并最终上市。加州总检察长罗布·邦塔(Rob Bonta)上个月表示，他“尤其关注确保OpenAI作为非营利机构所声明的安全使命，在重组过程中始终处于核心位置”。
