硅星人Pro 10月04日 13:57
AI浪潮下的未来职业与人类价值
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

本文探讨了AI技术飞速发展带来的“技术悬差”,即AI能力远超社会理解和应用水平的现状。文章聚焦于OpenAI首席执行官奥特曼与Axel Springer首席执行官的对话,深入讨论了AI对工作的影响、人类的未来角色以及AI带来的机遇与风险。奥特曼预测,AI短期内会取代部分工作,但长期来看将催生更以人为本的新职业,人类的创造价值和人际互动将更加凸显。对话还触及了超级智能对人类生存的潜在风险,以及AI时代新闻业的转型与版权保护等重要议题,强调了在技术洪流中保持人类独特价值的重要性。

🤖 **AI驱动的未来职业转型**:奥特曼预测,AI短期内将取代大量现有工作岗位,但从长期来看,每一次技术革命都将催生全新的工作机会。他认为,人类对“创造价值”、“帮助他人”和“融入社会”的渴望是无限的,未来的工作将更加聚焦于人与人之间的关系,变得“更以人为本”。即使AI能够胜任CEO等高级职位,人类依然会在其他领域找到新的价值实现方式,例如奥特曼本人设想在AI接管工作后成为一名农场主,体现了对慢节奏、更贴近自然生活方式的向往。

🧠 **超越人类智慧的AI与“技术悬差”**:文章指出,AI在多项顶级智力任务中已超越人类,展现出突破性的认知与推理能力,形成了“技术悬差”,即AI的能力远超社会、经济和监管系统的普遍理解与应用水平。这种技术跃迁的速度可能超过人类智慧、判断和社会建构能力的提升,带来了失衡感。对话深入探讨了AI可能带来的“永生”等科幻议题,并强调了在技术飞速发展的同时,需要关注其对社会伦理和人类存在方式的深远影响。

⚠️ **超级智能的潜在风险与监管考量**:奥特曼将“超级智能”视为对人类生存的最大威胁之一,并呼吁加强监管。他将风险分为三类:一是“滥用问题”,即人类利用AI进行破坏;二是经典的“对齐失败”科幻模型,AI因自主性而产生与人类目标不符的行为;三是更隐蔽的“自然接管”,即社会因过度依赖AI而逐渐失去自由意志。他认为,即使AI没有恶意,也可能通过深度融合和优化决策,实际控制人类社会,因此需要严肃对待并建立清晰的风险框架。

📰 **AI时代下新闻业的挑战与机遇**:面对AI作为“答案机器”的冲击,奥特曼坚信新闻业依然重要,并高度肯定其对社会“言论自由”和“事实揭示”的贡献。他认为新闻形态会演变,但“值得信任的事实揭示者”的角色不会消失。同时,他也承认AI对版权概念构成的挑战。奥特曼对新闻业的未来持乐观态度,认为AI行业与新闻业利益一致,并提出了“微支付系统”等创新模式,以激励优质内容的持续生产,探索新闻业在AI时代的可持续发展路径。

2025-10-04 10:50 山西

长期来看,AI将催生更以人为本的新职业。

文章转载于新智元

AI狂飙已至,认知仍未醒来——

「技术悬差」正在撕裂时代的节奏。

当大众还沉浸于ChatGPT带来的新鲜感时,AI早已悄然跨越了「最聪明的人类大脑」的门槛。

在多项顶级智力任务中,AI已然胜出人类,展现出突破性认知与推理能力。

这种「技术悬差」正在快速拉大:AI所拥有的能力,远超社会、经济乃至监管系统的普遍理解与应用水平。

当AI迈入可自我进化的新阶段,问题不是「能不能」,而是「我们是否跟得上」——解决问题的速度,是否永远跑在问题之前?

在《MD MEETS》的首期节目中,Axel Springer的首席执行官Mathias Döpfner与OpenAI首席执行官奥特曼,展开了一场毫无保留的对话,探讨AI带来的机遇与风险。

话题从「AI与工作」到「人类灭绝风险」,再到「AI时代的新闻业」,甚至延伸到「人类是否该永生」——几乎没有禁区。

奥特曼分享了他对超级智能的思考,以及他在AI接管自己工作后想去当农民的个人梦想。

这是一场罕见而真诚的对话,让我们得以一窥这位正在塑造未来的重要声音。

1

奥特曼:未来不做CEO就去搞农场

每当谈到AI,人们都会关心一个问题——它会不会取代人类工作?是AI创造工作机会多,还是毁掉的工作更多?

奥特曼认为:

短期来看,AI确实会取代大量工作岗位。但从长期看,就像以往每一次技术革命一样,人类总能找到全新的事情可做。  

我相信人类对「创造价值」、「帮助他人」、「融入社会」的渴望是无限的。

每次技术革新,总有人说「这下完了,我们以后都没工作了」。可事实证明,这其实只是想象力的失败。

也有人说这次不同,因为AI触及的是人类最核心的「智力」部分,那我们还能做什么?

但奥特曼认为:人类天生关注彼此,而非「机器世界」。焦点仍在人与人的关系。

他虽无法预测具体岗位,但「几乎可以肯定,未来的工作将更以人为本」。

几周前,有人问奥特曼:

假设有一天AI连你的工作也取代了,你会做什么?

奥特曼出人意料地回答:当农场主(farmer)。为什么?

首先,奥特曼确实相信

未来某一天,AI会成为比我更优秀的OpenAI CEO。

这也正是OpenAI努力的方向。如果AI真的能胜任,那真是求之不得。

当然,如果他想继续留在OpenAI,可以扮演其他角色。

不过,奥特曼坦言,这十年来一直承受着巨大的压力,工作量也极其繁重。

他还拥有一块农场,时常前往——他真心喜欢那里的慢节奏与截然不同的生活方式。

1

史无前例:人工智能>人类智慧

在《未来简史》中,以色列作家尤瓦尔·赫拉利描述了人类的下一个时代——我们将变得近似于「神」:实现永生、不再为生计奔波、拥有无限智慧与知识。

这让奥特曼想起硅谷流行的一句话,大意如下:

我们拥有神祇般的技术,却秉持着中世纪的道德框架。

它指向一个现实:技术跃迁,已远超智慧、判断与社会建构能力的提升。

这种失衡感让奥特曼感到不安。他不知如何应对,因为技术洪流已至。这不再是空谈,多年来他持续探讨这个话题。

在他看来,今年AI首次超越了人类智慧——这无疑是历史性转折点。

生活仍在继续,但某些根基已悄然改变。

未来是否真的会像科幻那样发展,谁也说不准。

是我们把意识上传到电脑中、实现永生?还是我们只是在治愈一些疾病、延长寿命?这些他都不确定。

不过,奥特曼推荐了前几年的动画《Pantheon》,探讨了类似的主题。它探讨的这些问题,如今已不再是抽象的哲学问题,而是现实。

但奥特曼并不向往「永生」。

他很难想象「永生」到底意味着什么。真正实现永生、治愈所有疾病、器官无限替换……那种「永远」实在太长了。

在他看来,自然的更新与新陈代谢,是社会前进的必要条件。

比起寿命本身,他更希望人生中的「生病阶段」越短越好。

理想状况是:健康地活很久,然后突然快速地走完最后一程。

1

OpenAI的关键转折点

当初一起推动这场AI革命的,有不少人现在彼此竞争——Peter Thiel、Elon Musk、Demis Hassabis、Mustafa Suleyman、Paul Graham、Marc Andreessen……

在这群人中,谁对奥特曼影响最大?

在他看来,很难评出「谁影响最大」,但他们组成了紧密交织的生态系统。

整个产业就像一个协同网络,有人在做芯片,有人在训练模型,有人在做应用产品。

当然,也有很多企业在竞争,但氛围更像早期互联网或半导体——不是一人一企之功,而是整个圈子的推进。

主持人追问:「那你觉得你自己最重要的贡献是什么?但有没有某个时刻、某个决策,你认为是至今最关键的一步?」

奥特曼表示最关键的一步可能是:决定把所有资源押在「扩大算力、扩展模型」这条路线上。

这是在发现Scaling Laws之后,OpenAI做出的生死攸关的抉择。

彼时,认同者寥寥。主要对手 DeepMind 甚至认为:语言模型并不重要,也不是正确路径。

哪怕OpenAI发布了GPT-3,很多人依旧觉得没什么用,直到ChatGPT上线,才真正让世界意识到其实际价值。

所以,奥特曼认为当时那个「下重注」的决策——

在模型规模扩张上,投入巨资、集中研究,是一个巨大贡献。

要知道,那时候这条路远不像今天看起来那么顺理成章,无论从资本投入还是研究方向上,都是高风险。

他还将「开放ChatGPT」视为另一大贡献。

让公众使用ChatGPT,是一种信念驱动。彼时不少人认为AI仍不安全,不宜开放,研发应保持「半封闭」。

但OpenAI相信:真正的安全,离不开公众的深度参与。

所以,奥特曼认为他的角色并不总是某个「关键时刻」的决定,而是无数个「小决策」累积起来。

1

人类灭绝风险并非空谈

奥特曼曾说过,「超级智能」是对人类生存最大威胁之一,因此他早期就在呼吁加强监管。

博客链接:https://blog.samaltman.com/machine-intelligence-part-1

这一立场至今未变,但他也澄清:所谓「监管」,并非「能否用于银行业务」等日常应用限制。

他指的是:针对可能带来「人类级风险」的技术,要有清晰的框架。

奥特曼曾表示「超级AI带来人类灭绝」的概率大约是2%。

奥特曼的核心意思说,这种风险是「非零、值得认真对待」,并不是具体的概率预测。

但主持人认为:

就算2%也已经很高了。毕竟,一架飞机失事的概率也只是0.00001%。

如果2%是毁灭整个人类文明的风险,那就非常严峻了。

奥特曼完全同意这种观点。这也是为什么他一开始就在写博客呼吁重视这个问题。

他大致把风险分成三类:

第一类,AI没有「失控」,但「人用AI做坏事」。

AI本身完全听指令,但如果掌握AI的国家或组织,穷兵黩武,那它可以用AI造成巨大破坏,比如开发生物武器、入侵核系统等等。

这不是AI的问题,而是「滥用问题」。

第二类,是经典的科幻灾难模型:AI获得某种自主性。

为了实现目标,它不想被人类关闭——就算没有「意识」或「主观意图」,它也可能基于算法策略走向错误方向。

这属于典型的「对齐失败」。

但还有第三类,更容易被忽略,却很可能最真实——

那就是AI并没有恶意,也没有叛变,只是「自然而然」地接管了世界。

你想想现在的ChatGPT——

成百上千万的人每天都在用,接下来可能是十亿人。越来越多的人依赖它来做出重要决策。

一开始,它只是帮你出点主意,效果还行。后来,它给出的建议越来越靠谱。

再后来,它给你一些你听不懂的建议——但实践证明,它总是对的。

你会怎么做?你要么跟着它走,要么落后于别人。

于是,大家都开始照着AI的建议做。

AI本意是帮你,但它越帮越多,最后几乎决定了你的人生选择。

然后,这些人再把新的行为数据喂回去训练模型,模型又变得更聪明,反馈又更强。

长此以往,整个社会、整个经济,都陷入AI-人类协作的闭环之中。

那时,谁还能说自己是「自由意志」?

它没有恶意,却实际控制了一切。

也有人反驳说:人类作为高智生命,也没有消灭蚂蚁这种低等生物。所以即使AI更强大,也不代表它一定要毁灭我们。

OpenAI联合创始人Ilya Sutskever,曾经说过:「我们应当期望,未来的超级智能,能像慈爱的父母对待孩子一样,对待我们人类。」

这和「AI要友善」不完全一样,更像是一种温暖、有情感的引导。

这句深度触动了奥特曼。

1

AI时代,新闻不死

奥特曼此行来到柏林,是来领取Axel Springer Award。

作为出版行业的一员,主持人必须问一个现实问题:新闻行业如今遭遇双重打击——

一方面是压制,另一方面则是AI「答案机器」的冲击。

奥特曼怎么看新闻行业的未来?我们还需要新闻业吗?

奥特曼认为当然需要新闻业,而且他非常感激新闻业对社会所做的贡献。

如果我们回顾人类历史上那些「繁荣盛世」的共同点——不只是经济繁荣,更是人的生活质量持续提升——那么,「言论自由」几乎始终是其中核心要素。

社会仍然需要那些实时追踪世界动向、提供深度解读的专业人士。没有他们,我们的AI系统也将失去赖以训练的基础。

当然,新闻形态也许会改变:

从机构化媒体,转向「个体记者+社交媒体」;从品牌信任,转向「对人的具体信任」;

但「值得信任的事实揭示者」这个角色,绝不会消失。

主持人更担心的是另一件事:在大模型的冲击下,「版权」这个概念正面临彻底崩溃。

现实就是:如今的AI模型大量吸收已有数据——而一旦某项内容发布出来,就会立刻被AI「吞掉」,作者却无法从中获得任何回报。

没有商业激励,谁还愿意投入大量精力去深挖真相?

奥特曼表示理解这种担忧,而且他也多少持乐观态度,因为新闻业和AI业的利益其实是一致的。

没有源头内容,AI就没有原料可学。

要么我们找到全新经济模型,要么就得在现有框架上加点「微创新」,来激励更多人持续生产优质内容。

奥特曼自己最感兴趣的一个方向是「微支付系统」——让人们为真正有价值的内容,哪怕付出几分钱。

过去几十年这太难了,但在AI智能体时代,也许这终于可以实现。

音乐原本就是最「流动」的内容形态——电台随便播、DJ随便放,所以早就建立了多层次版权机制。

新闻也能找到自己的「可持续发展路径」。

参考资料:

https://www.mdmeets.com/ 

https://x.com/slow_developer/status/1973727163108192666 

https://www.youtube.com/watch?app=desktop&v=rF0tQtDMwHM

https://x.com/deredleritt3r/status/1973517391230353641

点个爱心,再走

阅读原文

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

人工智能 AI 未来职业 技术悬差 Sam Altman OpenAI 超级智能 新闻业 版权 Artificial Intelligence Future Careers Technological Suspense Superintelligence News Industry Copyright
相关文章