linux办公网
腾讯推出业界已开源Transformer最大MoE模型“混元Large”
创始人
2024-11-05 18:53:06
0次

腾讯今日宣布推出Hunyuan-Large大模型，官方表示这是目前业界已开源的基于Transformer的最大MoE模型，拥有3890亿总参数和520亿激活参数，该项目有望为研究人员和开发者提供强大的工具和支持。

腾讯在Hugging Face上开源了Hunyuan-A52B-Pretrain、Hunyuan-A52B-Instruct和Hunyuan-A52B-Instruct-FP8，并发布了技术报告和训练推理操作手册，详细介绍了模型能力和训练与推理的操作。

Hunyuan-Large通过高质量合成数据增强训练，能够学习到更丰富的表示，处理长上下文输入，并更好地泛化到未见数据。该模型采用了分组查询注意力（GQA）和跨层注意力（CLA）策略，显著减少了KV缓存的内存占用和计算开销，提高了推理吞吐。此外，为不同专家设置不同的学习率，确保每个子模型都能有效地从数据中学习，并为整体性能做出贡献。

Hunyuan-Large的预训练模型支持高达256K的文本序列，Instruct模型支持128K的文本序列，显著提升了长上下文任务的处理能力。该模型在多种语言和任务上进行了广泛实验，验证了其实际应用效果和安全性。

Hunyuan-A 混元 推理 数据 Hugging 模型 训练 上下文 业界 支持 腾讯 序列 Large 文本

上一篇：原创 2球领先遭绝平！亚冠-于汉超传射 申花2-2中央海岸水手

下一篇：走向边缘智能，AI模组成为推动AI应用落地的动力之源

相关内容

聚焦AI+大模型、三维重建...
中新网北京5月31日电 (记者 孙自法)记者5月31日从中国图像图...
2026-06-01 00:57:14
国泰海通：维持海外AI算力...
国泰海通维持海外AI 算力及应用产业链“增持”评级。其研报指出，O...
2026-06-01 00:54:38
小米开源可控视频音效生成模...
IT之家 5 月 29 日消息，小米大模型应用团队今日发布 Con...
2026-06-01 00:41:13
仁宝电脑与GMI Clou...
（全球TMT2026年5月28日讯）5月28日，仁宝电脑宣布，与美...
2026-05-28 21:09:59
科大讯飞进军AI眼镜，内置...
新京报贝壳财经讯（记者罗亦丹）5月28日，科大讯飞在澳门威尼斯人金...
2026-05-28 20:46:43
5月28日天通股份涨10....
证券之星消息，5月28日天通股份（600330）涨10.00%，收...
2026-05-28 20:40:40

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息，作为国产GPU的杰出代表，摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
微软 Azure AI 语音服... IT之家 8 月 23 日消息，微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息，谷歌于 8 月 27 日发布博文，宣布旗下 Gemini AI 支持...
青云QingCloud Kub... 日前，青云科技宣布开源 Thanos 的企业级发行版 Whizard，为企业带来真正高可用、可扩展、...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具，以帮助您完全卸载...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...