Meta斥巨资打造AI未来 24万块GPU训练Llama4_linux资讯

创始人

2024-08-05 21:12:42

0次

【太平洋科技快讯】据了解，Meta公司正在投入巨额资源，开发新一代的Llama 4多模态人工智能模型。收集到的信息显示Meta计划在2025年发布这一模型，预计将使用24万块GPU进行训练，这是其前代Llama 3所使用GPU数量的十倍。

Llama 3模型是在拥有24,000块GPU的集群上训练的，而Llama 4的训练规模将扩大到24万块GPU，显示出Meta在人工智能领域的雄心壮志。

Meta的首席执行官马克·扎克伯格透露，为了支持Llama 4的训练，公司正在大规模投资计算资源。他提到，Meta计划在年底之前部署35万块英伟达H100 GPU，其中一部分将用于训练Llama 4模型。

从Llama 1的2048块GPU，到Llama 3.1的16384块GPU，Meta的GPU用量持续增长，显示出公司在人工智能领域的投入不断增加。

Meta的高额投资反映了人工智能模型的重要性。据财报显示，Meta在服务器、数据中心和网络基础设施上的资本支出增长了近33%，预计年度支出将达到370亿至400亿美元。

扎克伯格相信，AI智能体将成为在线企业的标配，每个企业都将拥有一个AI智能体来与客户互动。Meta的目标是使每个小企业甚至大企业都能轻松地将内容整合到AI智能体中，从而加速商业信息收入的增长。

企业显示 Meta Llama 公司巨资未来模型训练人工智能智能体太平洋科技