DeepSeek开源第四弹“教”优化 梁文锋参与研发
创始人
2025-02-27 21:49:45
0

2月27日消息,DeepSeek开源周(OpenSourceWeek)第四弹来了,DeepSeek于2月27日在X上宣布这次开源的是三项优化并行策略,并在Github上详细展开了DeepSeek-V3和R1模型背后的并行计算优化技术,通过这些阐述可以清晰了解团队是如何精细地优化计算和通信,最大限度利用GPU能力的。这三项优化并行策略其中包括DualPipe,这是一种用于V3/R1模型训练中计算与通信重叠的双向流水线并行算法,这种算法能够完全重叠前向和后向计算通信阶段,与传统方法相比减少了“流水线气泡”(设备在某些时刻的空闲等待)。在DualPipe的开发团队署名中,包括创始人梁文锋。(第一财经)

(来源同花顺,以上信息为南都·湾财社AI大数据自动生成)

相关内容

恒拓开源:10月15日融资...
证券之星消息,10月15日,恒拓开源(920415)融资买入95....
2025-10-16 12:15:09
数学能力对标IMO银牌,蚂...
封面新闻记者 张越熙 10月14日凌晨,蚂蚁集团正式推出万亿参数思...
2025-10-16 11:47:06
AI算法让制衣耗时从3天减...
AI算法让制衣耗时从3天减至4小时 精准指挥工厂生产线,“湖北智...
2025-10-16 09:17:44
每周半天校外活动、周三无作...
乘着“人工智能+”的东风,10月15日下午,“以AI科学 AI未来...
2025-10-16 09:16:26
NTU等联合提出A-Mem...
新智元报道 编辑:KingHZ 【新智元导读】在AI智能体日益依...
2025-10-16 07:43:59
华为盘古Ultra-MoE...
据华为计算官微消息,10月15日,openPangu-Ultra-...
2025-10-15 22:17:53

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...