DeepSeek致谢腾讯技术团队,DeepEP开源通信框架性能显著提升
创始人
2025-05-07 21:17:53
0

腾讯技术团队针对DeepSeek开源的DeepEP通信框架进行深度优化,使其在多种网络环境下均实现显著性能提升。

经测试,优化后的通信框架性能在 RoCE网络环境提升100%,IB 网络环境提升 30%,为企业开展AI大模型训练提供更高效的解决方案。

该技术方案获得了DeepSeek公开致谢,称这是一次“huge speedup”代码贡献。

IT之家注:DeepEP是一个为专家混合(MoE)和专家并行(EP)量身定制的通信库。它提供高吞吐量和低延迟的全对全GPU内核,这些内核也被称为MoE派发和组合。该库还支持低精度运算,包括FP8。

据悉,腾讯星脉网络团队在DeepEP开源后便展开技术攻关,发现两大关键瓶颈:一是对于双端口网卡带宽利用率不足,二是CPU控制面交互存在时延。

在腾讯的技术优化下,DeepEP不仅在RoCE 网络实现性能翻倍,反哺到IB(InfiniBand)网络时更使原有通信效率再提升30%。

目前,该技术已全面开源,并成功应用于腾讯混元大模型等项目的训练推理,在腾讯星脉与H20服务器构建的环境中,这套方案展现出出色的通用性。

来源:IT之家

相关内容

外语专业“遇冷”:AI只是...
“人们没有必要恐慌。人工智能是大语言模型,本质仍然是语言。而语言是...
2026-08-03 07:50:23
ChinaJoy2026|...
【中国·上海,2026年7月31日】第23届中国国际数码互动娱乐展...
2026-08-02 19:33:57
给中国AI“扣帽子”,遮不...
最近,美国对中国AI的围堵,有点歇斯底里。 当地时间7月28日,美...
2026-08-02 19:23:35
从「AI误判」到「品牌正名...
国内一家同时覆盖两轮车充电与新能源直流快充的全产业链充电桩企业,凭...
2026-07-24 21:00:04
OpenAI模型罕见“失控...
PChome 7月22日消息,全球最大开源大模型托管社区Huggi...
2026-07-24 20:36:46
安谋科技Arm China...
2026-07-23 10:19:13 作者:狼叫兽 国内领先的芯...
2026-07-23 15:26:55

热门资讯

67岁男子误信AI喷农药,15... 安徽滁州67岁农户吴大伯因轻信AI生成的除草除虫方案喷洒农药,导致150亩芝麻苗一夜之间全部枯萎,损...
外语专业“遇冷”:AI只是催化... “人们没有必要恐慌。人工智能是大语言模型,本质仍然是语言。而语言是一切学科的基础,没有语言表达,就没...
AI国际合作的中国声音 [ 人工智能不是少数国家的“特权”,而应成为造福全人类的“公共产品”;人工智能治理不是零和博弈的“角...
特斯拉将开源Model S和M... 8月3日消息,据外电报道,三年前,特斯拉在其服务网站上发布了2012款初代特斯拉Roadster的所...
开源之争,撕裂硅谷 文|熔财经 每文 7月24日,黄仁勋发出了人生第一条X(原推特)。 这位英伟达掌门人没有发布新架构...
以AI大模型“伏羲”为基础,新... 台风为何经常“跑偏”?因为大气系统自带“混沌”属性,初始条件差之毫厘,最终路径就可能谬以千里。记者2...
ChinaJoy2026|延伸... 【中国·上海,2026年7月31日】第23届中国国际数码互动娱乐展览会(ChinaJoy)在上海新国...
给中国AI“扣帽子”,遮不住美... 最近,美国对中国AI的围堵,有点歇斯底里。 当地时间7月28日,美国联邦通信委员会(FCC)宣布,将...