开源or闭源?Meta发布“最强开源大模型”Llama3.1 405B,大模型格局或迎来重新洗牌
创始人
2024-07-25 20:33:07
0

深圳商报·读创客户端记者 张郗郡

当地时间7月23日,Meta正式发布了最新版本的语言大模型Llama3.1。本次发布被AI社区视为对“开源落后论”的一次有力反击,Meta创始人、CEO扎克伯格也在发布时表示“开源AI是通往未来的道路”。

一直以来,OpenAI因为ChatGPT的封闭性遭到了外界不少诟病,称其虽名为“Open”但实际上做着“Close”的事情,而以ChatGPT-4o为代表的闭源大模型的实力却也常常让业界望而却步,似乎“闭源大模型性能一定强于开源大模型”的观念已成默认。

但是本次Llama3.1的发布似乎会改写这一格局。本次Meta发布了Llama3.1的三个版本,分别为8B、70B和405B,其中405B为“顶配”版本,Meta号称其性能可与最好的闭源模型相媲美。

“史上最强的开源大模型”

Llama3.1 405B凭什么能够与最好的闭源模型一争高下?发布Llama3.1的同时,Meta也发布了一篇题为《The Llama 3 Herd of Models》的论文,其中详细阐述了Llama3模型的研发细节。

首先,在使用上,Llama3.1 支持8种语言,并且三个版本的上下文窗口都扩展到了128K,与GPT-4 Turbo 相同;同时Llama3.1 405B拥有4050亿个模型参数,训练规模是 Llama 2的50倍,采用密集 Transformer 架构,以保持更稳定的性能。这样一来,Llama一次性可以处理的文本数量高达9.6万字,同时无论是长文本还是短文本,都可以进行“得心应手”的处理。

在论文中,Meta也公布了Llama3.1 405B与ChatGPT-4o和Claude3.5 Sonnet这些头部闭源大模型的性能对比数据。测试结果显示,Llama3.1 405B在通用性能、长文本处理与多语言处理等多个方面,得分都处于领先地位。例如在ZeroSCROLLS项目测试中,Llama3.1 405B的得分为95.2,后两者皆为90.5。

表现优异的性能与庞大的训练基数让Llama3.1拥有“最强开源大模型”的称号,但目前的Llama3.1仍然是一个以语言处理为主的大模型,并不支持处理图像、视频或语音,这也就意味着在多模态任务处理上,ChatGPT依然拥有突出的能力。此外,部分网友也对Llama进行了实测,实际操作发现,在回答一些经典的迷惑性问题,如“9.11与9.9哪个大”,或者处理中文指令的时候,Llama3.1 405B并不如Meta官方所说的那样强大。迄今为止,所有 Llama 版本的总下载量已超过 3 亿次,但对Meta所说,这才是他们的开始。

“开源AI是未来之路”

或许Llama的实际使用体验还没有达到完美的程度,但此次Llama3.1 405B的发布,对全世界AI工作者来说最大的意义还是在于大模型的开源与闭源之争又翻开了新的一页。

在Meta官网,扎克伯格发布了一封公开信,坚定地对外宣称“开源AI是通往未来的道路”。信中他表示,尽管多家公司正在开发领先的闭源模型,但开源正在迅速缩小差距。以Llama为例,去年Llama 2只能与通用大模型的老旧版本相媲美,今年Llama 3就做到了与最先进的大模型相竞争,并在一些领域领先。

因此,扎克伯格希望把Llama做成大模型时代的 Linux,成为开源 AI 的行业标准。“在高性能计算的早期,主要技术公司都投入巨资开发自己的闭源Unix版本……今天,开源的Linux成为了云计算和运行大多数移动设备的操作系统的工业标准基础,我相信人工智能将以类似的方式发展。”由此不难看出,Meta想做的,是利用开源的大模型打造未来的AI生态,让Llama成为孕育万种大模型的基座,或“母体”。

而Meta目前确实已经做出了行动。此次发布的Llama3.1已经与一系列公司达成了合作,其中包括亚马逊、英伟达、Databricks,戴尔、德勤等公司也已准备好帮助企业采用Llama,并使用自己的数据训练自定义模型。

距离ChatGPT-4o发布已经过去了两个多月,大模型仍然在以惊人的速度训练、迭代,下一代的闭源大模型还会有哪些突破性的发展,以Llama3.1为代表的开源大模型能否进一步弥合两者之间的差距,大模型“开源”与“闭源”的斗争,似乎还有很长的路。

相关内容

字节AI,先慢后快?
文 | 伯虎财经(bohuFN),作者 | 楷楷 一向低调的字节...
2026-08-15 21:22:58
超级小爱2.0,小米终于把...
前两天,看到小米澎湃OS 4 Beta版开启招募,没有发布会,直接...
2026-08-15 20:51:27
游戏产业进入AI时代,广州...
8月14日,广州海珠发布“词元经济八条”。 这份广东首个词元经济专...
2026-08-15 17:27:00
国家超算互联网AI社区已汇...
中新网北京8月15日电 (记者 张素)截至目前,国家超算互联网AI...
2026-08-15 16:52:14
47年厨电龙头,用AI重做...
当AI不再停留在屏幕里的对话,而是真正走进烟火升腾的厨房——一场关...
2026-08-15 15:00:26
厨房AI时代到来!老板电器...
当AI不再停留在屏幕里的对话,而是真正走进烟火升腾的厨房——一场关...
2026-08-15 14:59:00

热门资讯

莫言刷短剧拒绝“套路” 谈AI... 中新社上海8月15日电 (记者 王笈)著名作家莫言时隔6年推出的全新小说集《人呐》,用短的篇幅写出深...
如何面对无故的敌意?| 新黄河... 如何面对无故的敌意?| 新黄河AI晚读(综合编辑:郑楚翘 剪辑:郑楚翘)
字节AI,先慢后快? 文 | 伯虎财经(bohuFN),作者 | 楷楷 一向低调的字节跳动创始人张一鸣,却在近日高调发声...
超级小爱2.0,小米终于把AI... 前两天,看到小米澎湃OS 4 Beta版开启招募,没有发布会,直接上。 卢伟冰在微博上说,这次不开发...
AI女主发美瞳广告“戴着很舒服... AI短剧女主角发布美瞳广告,引发网友热议。 “方桃子”发布广告引争议 近日, AI短剧《被裁掉的女孩...
卡萨帝发布AI雪茄柜,控湿精度... 2026-08-15 18:35:37 作者:狼叫兽 在雪茄圈,有一个心照不宣的共识:买雪茄容易,养...
黄仁勋出手安抚AI算力市场 本周十分罕见的一大场景就是黄仁勋携手六位华尔街资管巨头,一起为“将AI算力打造为独立资产类别”背书,...
游戏产业进入AI时代,广州为什... 8月14日,广州海珠发布“词元经济八条”。 这份广东首个词元经济专项政策里,游戏、数字文娱被明确列入...
国家超算互联网AI社区已汇聚1... 中新网北京8月15日电 (记者 张素)截至目前,国家超算互联网AI(人工智能)社区已汇聚1700余款...
站稳4000亿港元市值,联想的... 最近一个季度,外界对联想乃至对联想服务器、PC业务的讨论,大多集中在一个问题上,它史无前例营收和净利...