华尔街见闻 2024年12月21日
AI大牛解析o3技术路线!大模型下一步技术路线已现端倪?
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI在12月21日发布了o3系列模型,包括o3和o3-mini,在ARC-AGI测试中取得了巨大突破,低算力版本得分75.7%,高算力版本更是达到87.5%,远超之前的o1系列。这一成就被认为是AI领域的一次重大飞跃,展示了GPT模型前所未有的任务适应能力。尽管如此,o3仍存在一些局限性,如依赖人工标注数据、无法与现实世界直接交互等。OpenAI正向安全研究人员开放o3和o3-mini的早期访问,预计o3-mini将于1月底左右发布,o3则稍后。这一进展预示着人工智能发展的新方向,不仅仅依赖于模型规模的扩大,更在于架构创新。

🚀o3模型在ARC-AGI测试中取得突破性进展,低算力配置下得分75.7%,高算力版本更是达到惊人的87.5%,远超o1系列的25%。这一成绩被认为是AI领域的重要阶跃式提升,展示了GPT系列模型前所未有的新型任务适应能力。

💡o3模型的核心创新在于改变了AI处理信息的方式,它采用在token空间内进行自然语言程序搜索和执行、使用类似AlphaZero的蒙特卡洛树搜索方法、通过评估器模型引导搜索过程等创新方法,使其能够实时生成和执行解决方案程序,并通过思维链实现知识的动态重组,展现出类人的任务适应能力。

🤔尽管o3取得了显著进步,但它仍存在局限性,如依赖自然语言指令而非可执行的符号程序、缺乏与现实世界的直接交互能力、无法通过直接执行来评估解决方案的有效性,并且在即将发布的ARC-AGI-2测试中,预计其得分将大幅下降至30%以下,而普通人类仍能保持95%以上的高分。

2024年12月21日,OpenAI在其为期12天发布会活动的最后一天,正式发布了备受期待的o3系列模型。在外界普遍认为AI发展速度趋缓之际,OpenAI带来了“改变游戏规则”的重大突破,向AGI迈出关键一步。

在被视为通用人工智能(AGI)重要衡量标准的ARC-AGI测试中,o3模型创下新纪录:低算力配置下便以75.7%的得分登顶公共排行榜,而高算力版本更是达到87.5%的惊人成绩,一骑绝尘。

这一成绩远超o1系列,后者在同一测试中的得分仅为25%。

这一突破的意义非同寻常。Keras之父、ARC-AGI测试发起人François Chollet对此评价道:

“这是一个令人惊讶且重要的阶跃式提升,展示了GPT系列模型前所未有的新型任务适应能力。

作为对比,ARC-AGI-1从2020年GPT-3的0%提升到2024年GPT-4o的5%,历时四年。

随着o3的出现,关于人工智能能力的所有既有认知都需要重新评估。”

不过,虽然ARC-AGI测试中表现出色,但这并不意味着o3已达到了AGI水平,因为它仍会在一些非常简单的任务中犯错。

此外,Chollet还表示,在即将发布的新版测试(ARC-AGI-2)中,其表现预计将大幅下降至30%以下,而普通人类仍能保持95%以上的高分。更重要的是,o3仍然依赖人工标注数据,无法像人类那样通过与现实世界的直接互动来学习和适应。

o3来了!

2024年12月21日,OpenAI在其为期12天发布会活动的最后一天,正式发布了备受期待的o3系列模型,包括o3和o3-mini。

OpenAI正向安全研究人员开放o3和o3-mini的早期访问,预计o3-mini将于1月底左右发布,o3则稍后。

技术路线推演,大模型下一步技术路线已现端倪?

ARC-AGI(人工通用智能评估基准)测试是由Keras之父François Chollet发起,旨在评估AI系统在面对未见过的新任务时的适应能力。ARC-AGI测试的核心在于其设计的任务往往需要深度逻辑推理和创新思维,这使得它成为评估AI系统通用智能能力的重要工具。

如前文所述,o3系列在这一测试中取得了显著的成绩。Chollet认为,o3的成功绝非依靠简单的算力堆砌,其核心创新在于从根本上改变了AI处理信息的方式。

传统大语言模型(LLM)采用"记忆-获取-应用"的范式,本质上是通过被动接触人类内容来存储和运行数百万个微型程序。这种方法虽然能在特定任务上达到很高水平,但始终无法突破适应新环境或即时掌握新技能。

相比之下,Chollet推测,o3开创了全新的方法:

    在token空间内进行自然语言程序搜索和执行使用类似AlphaZero的蒙特卡洛树搜索方法通过评估器模型引导搜索过程

这种创新使o3能够:

虽然目前每个任务的计算成本仍然较高(低算力模式下约17-20美元/任务,相比人工解决方案的5美元/任务),但Chollet认为,这种成本预计将随技术发展快速下降。

距离AGI还有多远?

尽管o3取得了突破性进展,但称其为AGI还为时过早。Chollet在文章中提及,o3的主要局限包括:

    技术层面的局限:
    性能层面的局限:
    效率层面的局限:

结语

毫无疑问,o3的出现无疑是一个里程碑式的突破。

对于整个AI行业来说,o3的价值可能在于,它证明了AI进步不仅仅依赖于简单地扩大模型规模和增加训练数据,更关键的是架构创新,这种方法为AI的发展开辟了新的方向。

Chollet表示:

“实际上,o3代表了一种深度学习引导的程序搜索形式...

同时,由于推理预算的可变性,效率(如计算成本)已成为评估AI性能时的必要指标。”

本文来自微信公众号“硬AI”,关注更多AI前沿资讯请移步这里

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

OpenAI o3模型 ARC-AGI 人工智能 AGI
相关文章