新V观海外:o1模型的开源复现和智商测试
创始人
2024-09-26 10:54:08
0

经济观察报 社论 陈沛/文 自从OpenAI推出最新的高级推理模型o1,已经过去了10天左右的时间。

模型刚推出的时候,很多率先使用的用户会觉得这个预览版模型(o1-preview)的纯文本模式和类似规划代理的生成效果略感平淡,就像我在前一篇专栏中写过的情况。

也有一些研究者试图从OpenAI介绍的内容中针对自我对弈强化学习、数据合成等进行分析,以突出这个模型的特别提升之处。

在此期间,各种说法林林总总,不一而足。我则认为值得进一步分析的是随后很快出现的o1模型开源复现版,以及最新的智商测试结果。

一周内出现o1开源复现效果

美国SambaNova公司的Kaizhao Liang在o1模型发布一周内,就在HuggingFace上推出了一个类似o1模型思考过程的开源平替版——Llama3.1-Instruct-O1。

这个开源平替版用到了Llama-3.1-Instruct模型,用户可以选择405B、70B、8B三个开源模型版本,再设置思考步骤的限制(从1至100之间),然后就可以实现类似o1模型的思考过程。

实现原理非常清楚,作者给Llama-3.1-Instruct开源模型增加了额外的系统提示词,共包括八个阶段,要求模型仔细阅读问题,按照思考步骤数量设置计数器,并要求模型进行自我反思,完成全部解答阶段后进行重新组织,形成最终输出答案。

客观来看,这个方法比较讨巧,直接借用成熟的提示框架对开源模型的输出结果进行限定,以生成类似的思考效果,却不涉及上述的自我对弈强化学习过程。不过,这想必也不是开源复现版作者的本意。因为SambaNova作为AI推理加速服务商,更多是想展示它们在多步推理中的加速效果,而非高级推理能力。

测试发现o1模型智商超群

如何更加直观体现o1模型的推理能力,有人想到了进行智商测试。美国Tracking AI负责人Maxim Lott使用了门萨智商测试(Mensa Norway)对12个主流模型进行了测试,定期更新测试结果。

在最近的测试结果中,o1模型在35道题中答对了25道,智商达到121,是所有模型中唯一一个智商超过平均值(100)的模型。其它模型的智商多数普遍在80至90左右。

但是必须看到,由于这12个被测模型中既包括o1这样的纯文本模型,也包括GPT-4o、Gemini Advanced、Claude-3 Opus等多模态模型,而35道智商测试题中又有相当部分题目是复杂图形推理题,因此测试者需要把题目和选项转成非常全面的文本描述输入给纯文本模型,这个人工转换过程或多或少会让纯文本模型在测试结果上获得一定优势。

当然,就算排除掉这一点优势因素,o1模型在智商测试中所体现出来的复杂推理能力依然处于明显的领先位置。

OpenAI对o1模型的阶段定位

OpenAI的CEO Sam Altman在最近的表态中,将o1模型比喻成过去GPT系列模型的GPT-2,这似乎侧面印证了o1模型虽然表现出了显著的能力提升,但同时也存在着明显的缺点。

回顾过去,在发展GPT系列模型时,也是一直演进到GPT-3.5的阶段,才推出了ChatGPT引发了巨大关注。

展望后续的发展路线,如今o1模型已经来到了OpenAI之前提出5层通用人工智能的第2层(推理者,Reasoner),并将继续向之后第3层至第5层的智能代理(Agent)、创新者(Innovator)和组织者(Organizer)持续攀登。

相关内容

孙颖莎赢球仍点出不足之处 ...
北京时间7月7日凌晨,WTT美国大满贯2025展开正赛首日争夺。在...
2025-07-07 08:12:38
约翰斯·霍普金斯大学研发新...
IT之家 7 月 5 日消息,据新华社今日报道,美国约翰斯・霍普金...
2025-07-05 21:12:58
“AI搜索功能很强大,但我...
这要命的幻觉率! 听筒Tech(ID:tingtongtech)原...
2025-07-04 21:42:16
拥抱AI:开放与理性|如何...
7月4日,2025亚布力论坛第十一届创新年会在浙江杭州圆满举行。在...
2025-07-04 21:42:04
卓易信息:通过多智能体协作...
证券之星消息,卓易信息(688258)07月04日在投资者关系平台...
2025-07-04 18:13:00
AI+将给汽车产业打开什么...
作者 / 路 行 编辑 / 黄大路 设计 / 柴文静 编者按: ...
2025-07-04 16:41:55

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...