Meta发布最强开源大模型Llama 3.1,扎克伯格谈为何坚持开源之路
创始人
2024-07-24 20:37:02
0

图片来源:视觉中国

蓝鲸新闻7月24日讯(记者 朱俊熹)在很长一段时间内,占据大模型评测榜单最前列的大多是一些闭源模型,直到Meta再次发布了最新的开源模型。当地时间7月23日,Meta推出最新的开源大模型系列Llama 3.1,称“正迎来一个由开源引领的新时代”。

Meta将此次发布的Llama 3.1 405B模型称作“世界上功能最强大的公开基础模型”,在一系列任务中能够与目前的领先模型相媲美,包括OpenAI的GPT-4、GPT-4o,以及Anthropic的Claude 3.5 Sonnet。

例如,在评估大语言模型性能的MMLU基准测试中,Llama 3.1 405B模型得分为88.6,GPT-4o为88.7,Claude 3.5 Sonnet为88.3。而在部分数学、推理等能力测试中,Meta新模型的分数要高于GPT-4o等闭源模型。

Llama 3.1 405B模型也是Meta迄今为止参数规模最大的模型,同步推出的还有今年4月面世的8B和70B模型的升级版本。但相较而言,Meta新模型的参数规模仍比不过其他竞争对手。OpenAI的GPT-4拥有1万亿个参数,亚马逊此前也传正在训练一个拥有2万亿参数的大模型。

虽然Meta一直是开源模型阵营的执旗者,其所采取的开源模式却不同于传统的定义。Meta并不会公布Llama系列模型的训练数据和训练代码,虽然它们比闭源模型更开放和可访问,但在使用时仍需遵守特定的许可条款。而Meta此次也修改了模型许可证,允许开发者使用其模型的输出来改进其他模型。

拥有4050亿参数的最新模型是在超过16000个英伟达H100 GPU上进行训练的。在彭博社的采访中,Meta创始人兼首席执行官马克·扎克伯格透露称,Llama 3模型在训练计算能力方面花费了数亿美元,预计未来模型的训练成本将会继续升高,达数十亿美元。

“我认为现在很多公司都存在过度建设的情况,当你回头看时,会觉得‘哦,我们可能都花了比实际多几十亿美元的钱’。另一方面,我认为所有投资的公司都在做出理性的决定,因为落后的弊端在于,你在未来10到15年最重要的技术领域失去了位置。”扎克伯格表示。

但Meta在人工智能领域上的加大投资引发了投资者对成本飙升的担忧。在4月公布一季度财报时,Meta表示为支持AI产品开发及数据中心设施建设,将全年资本支出从300-370亿美元上调为350-400亿美元,同时二季度的业绩展望也不及预期。这导致Meta股价大跌,当日市值缩水近2000亿美元。

顶着AI领域的巨额支出,Meta为何一直支持开源模型?

7月23日,在Llama 3.1发布之时,扎克伯格发表了一篇名为“开源人工智能是前进的道路”的署名公开信,从开源模型为何有益于开发者、Meta、世界等多个角度展开阐述。

其中,扎克伯格提到,他的经验之一,是在苹果平台上构建Meta服务时受到限制,包括苹果对开发者征税的方式、适用的规则等。这让他意识到不能陷入竞争对手的封闭生态系统,同时还要确保自己能够使用最佳的技术。

在与彭博社的采访中,扎克伯格补充道,“如果AI在未来会变得和移动平台一样重要,那么我不想通过竞争对手来获取AI。我们是一家科技公司,需要不仅在应用层,而是在所有底层上都能构建东西。对我们来说,为此进行大规模投资是值得的。”

此外,推出开源模型有助于Meta扩大其AI生态系统。Meta表示,将有超过25个合作伙伴提供Llama 3.1模型的相关服务,包括亚马逊、英伟达、大数据公司Databricks等,支持开发者及企业等微调和蒸馏自己的模型。

Meta的开源模型也被集成到旗下多款应用中。目前在Facebook、Messenger和Instagram等应用上,AI助手Meta AI已支持使用Llama 3.1 70B模型。扎克伯格称,Meta AI已有数亿用户,预计到今年年底将超过ChatGPT成为最受欢迎的AI助手。

相关内容

阿里通义团队:AI如何理解...
在日常生活中,我们经常能从一个眼神、一句话的语调或是一个细微的表情...
2025-07-04 06:41:05
平安好医生入选首批“开源大...
7月3日,由全球数字经济大会组委会主办,中国信息通信研究院(以下简...
2025-07-03 21:41:09
黄山谷捷接待3家机构调研,...
2025年7月3日,黄山谷捷披露接待调研公告,公司于7月3日接待开...
2025-07-03 17:42:12
计算架构,行业AI竞争的下...
2025-07-03 16:25:26 作者:狼叫兽 当Dee...
2025-07-03 17:42:01
阿里与荣耀进一步深化AI生...
央广网北京7月3日消息(记者 冀文超)7月2日,荣耀全新年度折叠旗...
2025-07-03 17:12:53
光弘科技:公司并未向小米A...
光弘科技7月3日在互动平台表示,公司并未向 小米AI眼镜提供感知元...
2025-07-03 17:12:52

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...