linux办公网
腾讯混元AI Infra核心技术开源
创始人
2026-02-05 10:18:57
0次

新榜讯 2月4日消息，腾讯混元AI Infra团队今日正式推出开源生产级高性能大语言模型（LLM）推理核心算子库HPC-Ops。据腾讯混元介绍，在实际应用场景中，借助HPC-Ops，混元模型推理的每分钟查询量（QPM）提升了30%，DeepSeek模型QPM提升17%。此外，在单算子性能表现上，HPC-Ops成果显著：其实现的Attention算子性能较FlashInfer/FlashAttention最高提升2.22倍；GroupGEMM算子相比DeepGEMM最高提升1.88倍；FusedMoE算子较TensorRT-LLM最高提升1.49倍。

混元 推理 DeepSeek FusedMoE 算子 模型 Infra HPC-Ops 消息 高性能 腾讯 Ops 榜讯

上一篇：OpenAI或为亚马逊AI产品开发定制化模型

下一篇：商业航天迈入AI纪元 信维通信精准卡位商业航天、AI硬件终端等核心赛道

相关内容

和讯投顾余荣卓：这次国产A...
回顾2025年的市场行情，4月份受关税冲击，指数大幅回调，但随后4...
2026-03-22 15:08:52
腾讯AI Lab撤销 部分...
新榜讯 3月21日讯，业内传出消息，腾讯TEG技术工程事业群的组织...
2026-03-22 15:06:14
腾讯AI助手元宝更换LOG...
3月21日，经鞭牛士查看发现，腾讯AI助手元宝已更换LOGO。 ...
2026-03-22 15:04:07
华为云CEO：全面开放盘古...
3月20日，在华为中国合作伙伴大会2026，华为云CEO周跃峰现场...
2026-03-22 15:01:55
原创 ...
作者 | 陈序宁 3月20日，小鹏汽车(NYSE:XPEV/HK....
2026-03-21 23:36:33
美团开源5677亿参数大模...
IT之家 3 月 21 日消息，美团现已开源 LongCat-Fl...
2026-03-21 23:34:20

热门资讯

原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
骁龙本这么猛？联想YOGA A... 在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
苹果macOS 15.1：允许... 苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上，一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻，随着生成式AI的流行，各家手机厂商都在积极备战AI手机...