DeepSeek开源周第三日 发布高性能通用矩阵乘法库
创始人
2025-02-26 11:51:24
0次
新京报贝壳财经讯（记者罗亦丹）北京时间2月26日，DeepSeek进行了其开源周第三日的发布——DeepGEMM，一个支持密集和MoE（专家混合模型）GEMM（通用矩阵乘法）的FP8 （8位浮点数）GEMM库，为V3/R1训练和推理提供支持。
据了解，通用矩阵乘法是许多高性能计算任务的核心，所以其性能优化也是大模型降本增效的重点。
DeepSeek表示，DeepGEMM在Hopper GPU（一种英伟达GPU架构）上最高可达到1350+FP8TFLOPS（每秒万亿次浮点运算），并且像教程一样简洁，可完全即时编译，其核心逻辑只有约300行代码，且在大多数矩阵尺寸上均优于专家调优的内核，并支持密集布局和两种MoE布局。
编辑 姜樊
校对 刘军
相关内容
热门资讯
国产大模型下调推理服务价格，南...
近日，国内某大模型企业宣布下调其flash系列模型服务价格，输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有...
中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图...
9月9日消息，OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5，图像生成延...
探索AI供应链产业化路径京东推...
2026年以来，人工智能应用范围加速拓展，持续从数字空间走向现实生活，广泛融入生产线、仓储厂房、配送...
教育部发文！AI生成内容，教师...
一篇论文，因为AI使用不当，相关高校师生被通报处理。 9月2日，安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化...
英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手，开发出一款 人工智能（AI）工具，能从数千万种...
搭上低空经济、AI文旅？两连板...
桂林旅游（000978）回应市场热点。 9月8日，桂林旅游再度涨停，斩获2连板。当天晚间，该公司披露...
硅谷：我们不能被硅谷“AI刹车...
【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章，题目叫《An ...