Llama 3.1:Meta迄今为止规模最大、质量最高的开源模型
创始人
2024-07-25 15:08:41
0

早在今年4月,Meta就曾透露正在为AI行业开发一项首创技术:一种性能足以与OpenAI等厂商的最强私有模型相媲美的开源模型。

现如今,这套模型已经问世。Meta发布了有史以来体量最大的开源AI模型Llama 3.1。该公司声称该模型在多项基准测试中优于GPT-4o和Anthropic的Claude 3.5 Sonnet。新版本还为基于Llama的Meta AI助手带来更多国家和语种支持,同时绞架了一项可以根据特定人物肖像生成图像的新功能。公司CEO马克·扎克伯格更是大胆做出预测,称到今年年底,Meta AI将超越ChatGPT成为使用范围最广的AI助手。

Llama 3.1比几个月前发布的小型Llama 3模型复杂得多。其最大的版本拥有4050亿个参数,且使用超过1.6万张英伟达旗舰级H100 GPU训练而成。Meta没有透露Llama 3.1的开发成本,但单纯计算英伟达芯片的采购成本,就可以肯定资金投入不会低于数亿美元。

那么考虑到如此高昂的成本投入,Meta为何执意让Llama模型家族保持开源,将如此重量级的成果免费交付至众多用户手中?在Meta公司通过官博发表的公开信中,扎克伯格宣称开源AI模型终将超越专有模型——而且目前已经展现出优于专有模型的改进速度。这就如同开源Linux系统,如今成为大多数手机、服务器和小装置上的主导操作系统一样。

他还将Meta对于开源AI的投入,与公司早期的开放计算项目(OCP)进行了比较。他表示在Meta规划自己的基础设施容量时,惠普等其他厂商帮助Meta对数据中心设计进行了改进了标准化,帮助其成功节约下“数十亿美元”。展望未来,他预计同样的情况也将在AI领域上演。他在信中写道:“我相信Llama 3.1的发布将成为行业中的又一个转折点,大多数开发人员开始主要依赖开源成果。”

为了帮助将Llama 3.1推向世界,Meta正在与微软、亚马逊、谷歌、英伟达和Databricks等二十多家公司合作,帮助开发人员部署适合自身需求的版本。Meta声称,Llama 3.1在生产环境中的运行成本大约只相当于OpenAI GPT-4o的一半。他们还一并发布了模型权重,以便企业客户能够立足自身数据以模型进行训练,并根据实际偏好做出调整。

根据Meta公司发言人Jon Carvill的介绍,Gemini未被纳入此番基准比较,因为Meta难以使用谷歌提供的AIP来重现其先前声明的结果。

Meta主要合作伙伴清单及其为Llama 3.1部署提供的功能方案。

不出所料,Meta并没有透露太多关于用于训练Llama 3.1模型的数据信息。先后已经有多位曾经在AI企业工作过的雇员表示,由于涉及商业机密,他们无法透露这部分信息。但批评人士则认为,这是一种通过拖延来对抗版权诉讼纠纷的消极策略。

但Meta强调,他们使用的是合成数据,也就是由模型生成、而非来自真实人类的数据。此外,他们还利用4050亿参数版本的Llama 3.1,对原有小型700亿及80亿参数版本模型做出了改进。Meta公司生成式AI副总裁Ahmad Al-Dahle预计,Llama 3.1将在开发者群体当中受到欢迎,因为它堪称“小模型的老师,能够在提升前者性能之后以更具成本效益的方式实现AI部署”。

在被问及Meta是否认可业界日益增长的普遍共识,即可供模型使用的高质量训练数据即将耗尽时,Al-Dahle表示上限确实即将到来,只不过具体期限可能比部分人想象中的更远。“我们相信目前的数据应该还能再支撑几个训练周期,但具体情况也很难说。”

Meta还首次对Llama 3.1进行了红队测试(即对抗性测试),包括借此寻求潜在的网络安全与生物化学用例。而对模型开展严格测试的另一个理由,在于Meta提到的新兴“代理”行为。

例如,Al-Dahle告诉我们Llama 3.1能够与搜索引擎API相集成,以“通过复杂的查询从互联网上检索信息,并连续调用多种工具以完成用户提交的任务。”他还给出另一个例子,就是要求模型绘制过去五年来全美售出的房屋数量。“它可以检索网络结果,生成Python代码并加以执行。”

Meta自己的Llama实现方案是一款AI助手,其功能定位属于类似ChatGPT的通用型聊天机器人,且几乎能够在Instagram、Facebook和WhatsApp的各个功能模块上发挥作用。从本周开始,Llama 3.1将率先通过WhatsApp和美国Meta AI网站对外开放,并在随后几周内正式登陆Instagram与Facebook。此番更新将让Meta AI助手支持更多 新语种,包括法语、德语、印地语、意大利语和西班牙语。

虽然Llama 3.1最先进的4050亿参数模型已经在Meta AI中免费开放,但助手会在一周内提示词超过指定数量后将用户切换至体量更小的700亿参数模型。由此看来,4050亿参数模型对于Meta来说还是太过昂贵,仍无法全面运行。公司发言人Jon Carvil告诉我们,Metra将在评估早期使用情况之后提供关于提示词阈值的更多信息。

Meta AI还提供一项新的“Imagine Me”功能,可以通过手机摄像头扫描用户面部,进而将用户的肖像插入到其生成的图像当中。通过这种方式、而非直接从个人资料照片中捕捉人脸,Meta希望避免其AI功能被deepfakes滥用。该公司意识到越来越多的用户希望创建多种AI媒体,并将结果分享到自己的个人动态之内,尽管这有可能进一步模糊真实与虚假之间的判断边界。

Meta AI也将在未来几周内登陆Quest头显设备,取代其语音命令界面。与Meta Ray-Ban眼镜中的实现效果类似,用户可以在Quest上使用Meta AI来识别并理解头显直通模式下看到的内容,进而通过显示屏解读现实世界。

除了扎克伯格预计Meta AI将在今年年底成为使用率最高的聊天机器人(作为比较,ChatGPT目前拥有超过1亿用户)之外,Meta并未分享其AI助手的任何市场普及度数据。Al-Dahle表示:“我认为整个行业在产品的市场匹配方面仍处于早期探索阶段。”尽管AI科技存在严重的过度炒作之嫌,但Meta及其他参与厂商显然对未来抱有信心,并坚定认为新一轮竞争才刚刚开始。

相关内容

字节AI,先慢后快?
文 | 伯虎财经(bohuFN),作者 | 楷楷 一向低调的字节...
2026-08-15 21:22:58
超级小爱2.0,小米终于把...
前两天,看到小米澎湃OS 4 Beta版开启招募,没有发布会,直接...
2026-08-15 20:51:27
黄仁勋出手安抚AI算力市场
本周十分罕见的一大场景就是黄仁勋携手六位华尔街资管巨头,一起为“将...
2026-08-15 17:54:05
游戏产业进入AI时代,广州...
8月14日,广州海珠发布“词元经济八条”。 这份广东首个词元经济专...
2026-08-15 17:27:00
国家超算互联网AI社区已汇...
中新网北京8月15日电 (记者 张素)截至目前,国家超算互联网AI...
2026-08-15 16:52:14
站稳4000亿港元市值,联...
最近一个季度,外界对联想乃至对联想服务器、PC业务的讨论,大多集中...
2026-08-15 16:24:38

热门资讯

莫言刷短剧拒绝“套路” 谈AI... 中新社上海8月15日电 (记者 王笈)著名作家莫言时隔6年推出的全新小说集《人呐》,用短的篇幅写出深...
如何面对无故的敌意?| 新黄河... 如何面对无故的敌意?| 新黄河AI晚读(综合编辑:郑楚翘 剪辑:郑楚翘)
字节AI,先慢后快? 文 | 伯虎财经(bohuFN),作者 | 楷楷 一向低调的字节跳动创始人张一鸣,却在近日高调发声...
超级小爱2.0,小米终于把AI... 前两天,看到小米澎湃OS 4 Beta版开启招募,没有发布会,直接上。 卢伟冰在微博上说,这次不开发...
AI女主发美瞳广告“戴着很舒服... AI短剧女主角发布美瞳广告,引发网友热议。 “方桃子”发布广告引争议 近日, AI短剧《被裁掉的女孩...
卡萨帝发布AI雪茄柜,控湿精度... 2026-08-15 18:35:37 作者:狼叫兽 在雪茄圈,有一个心照不宣的共识:买雪茄容易,养...
黄仁勋出手安抚AI算力市场 本周十分罕见的一大场景就是黄仁勋携手六位华尔街资管巨头,一起为“将AI算力打造为独立资产类别”背书,...
游戏产业进入AI时代,广州为什... 8月14日,广州海珠发布“词元经济八条”。 这份广东首个词元经济专项政策里,游戏、数字文娱被明确列入...
国家超算互联网AI社区已汇聚1... 中新网北京8月15日电 (记者 张素)截至目前,国家超算互联网AI(人工智能)社区已汇聚1700余款...
站稳4000亿港元市值,联想的... 最近一个季度,外界对联想乃至对联想服务器、PC业务的讨论,大多集中在一个问题上,它史无前例营收和净利...