linux办公网
DeepSeek致谢腾讯技术团队，DeepEP开源通信框架性能显著提升
创始人
2025-05-07 21:17:53
0次

腾讯技术团队针对DeepSeek开源的DeepEP通信框架进行深度优化，使其在多种网络环境下均实现显著性能提升。

经测试，优化后的通信框架性能在 RoCE网络环境提升100%，IB 网络环境提升 30%，为企业开展AI大模型训练提供更高效的解决方案。

该技术方案获得了DeepSeek公开致谢，称这是一次“huge speedup”代码贡献。

IT之家注：DeepEP是一个为专家混合（MoE）和专家并行（EP）量身定制的通信库。它提供高吞吐量和低延迟的全对全GPU内核，这些内核也被称为MoE派发和组合。该库还支持低精度运算，包括FP8。

据悉，腾讯星脉网络团队在DeepEP开源后便展开技术攻关，发现两大关键瓶颈：一是对于双端口网卡带宽利用率不足，二是CPU控制面交互存在时延。

在腾讯的技术优化下，DeepEP不仅在RoCE 网络实现性能翻倍，反哺到IB（InfiniBand）网络时更使原有通信效率再提升30%。

目前，该技术已全面开源，并成功应用于腾讯混元大模型等项目的训练推理，在腾讯星脉与H20服务器构建的环境中，这套方案展现出出色的通用性。

来源：IT之家

解决方案 技术 框架性 DeepSeek 网络 团队 星脉 通信 性能 环境 腾讯 内核 通信库 DeepEP

上一篇：安徽六安原市长潘东旭，已任省市场监督管理局党组书记、局长

下一篇：东莞市钜欣电子取得微透镜导光结构的 AI 键盘背光模组专利，解决现有 AI 键盘背光不均匀问题

相关内容

热门资讯

国产大模型下调推理服务价格，南... 近日，国内某大模型企业宣布下调其flash系列模型服务价格，输入缓存命中、输入缓存未命中及输出价格最...
AI新手用拼豆庆祝教师节
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息，OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5，图像生成延...
探索AI供应链产业化路径京东推... 2026年以来，人工智能应用范围加速拓展，持续从数字空间走向现实生活，广泛融入生产线、仓储厂房、配送...
教育部发文！AI生成内容，教师... 一篇论文，因为AI使用不当，相关高校师生被通报处理。 9月2日，安徽财经大学公布“教师与学生涉嫌学术...
夏夜逛吃记 #剪映让好作品告别...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手，开发出一款 人工智能（AI）工具，能从数千万种...
搭上低空经济、AI文旅？两连板... 桂林旅游（000978）回应市场热点。 9月8日，桂林旅游再度涨停，斩获2连板。当天晚间，该公司披露...
硅谷：我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章，题目叫《An ...