linux办公网
腾讯发布开源MoE大语言模型Hunyuan-large，总参数398B为业内最大
创始人
2024-11-05 16:27:22
0次

钛媒体App 11月5日消息，腾讯发布开源MoE大语言模型Hunyuan-large，总参数398B为业内最大，激活参数量52B。公开测评结果显示，腾讯混元Large在CMMLU、MMLU、CEval、MATH等多学科综合评测集以及中英文NLP任务、代码和数学等9大维度全面领先，超过Llama3.1、Mixtral等一流的开源大模型。据了解，该模型在技术创新上可实现高质量合成数据，通过使用合成数据增强训练，有效应对自然数据的不足。在上下文处理能力方面，预训练模型支持高达256K的文本序列，显著增强了处理长上下文任务的能力。

同时，腾讯混元宣布，为填补行业真实长文评测集不足，腾讯混元即将开源企鹅卷轴评测集助力业界应用研究。自研企鹅卷轴(PenguinScrolls)基于公开金融、法律、学术论文等多种自然长文本，长度范围达1K-128K，覆盖各种深度阅读理解、长文推理任务。

混元 语言 评测 卷轴 模型 文本 长文 总参 自然 任务 腾讯 参数量 Large

上一篇：受贿1145万余元 安徽淮北市委原副书记操隆山获刑10年

下一篇：参考封面|AI揭示罗马帝国失落的秘密

相关内容

PandaAI李昱琦：AI...
上证报中国证券网讯（记者 胡尧）8月1日，在上海虹口举行的Pand...
2026-08-03 20:18:41
原生统一多模态进阶！Sen...
今年4月，商汤科技发布了SenseNova U1，首次完整展示了基...
2026-08-03 20:08:19
开放通用智能，MiniMa...
8月3日，据MiniMax消息，MiniMax正式开源新一代通用视...
2026-08-03 20:02:14
商汤科技开源多模态模型Se...
IT之家 8 月 3 日消息，商汤科技今日宣布，面向社区开源轻量级...
2026-08-03 20:01:37
MiniMax开源H3，视...
长期封闭的视频模型赛道，出现了一个开源旗舰。 7月31日，Mini...
2026-08-03 19:59:29
外语专业“遇冷”：AI只是...
“人们没有必要恐慌。人工智能是大语言模型，本质仍然是语言。而语言是...
2026-08-03 07:50:23

热门资讯

韩国启动全民AI成长阶梯项目，... 2026年8月3日，韩国科学技术信息通信部正式启动全民AI成长阶梯项目，项目整合全民AI学习馆、全民...
从全民AI入门到创业孵化，韩国... 8月3日，财闻海外资讯消息，韩国科学技术信息通信部正式启动全民AI成长阶梯项目，整合全民AI学习馆、...
AI赋能包 | 产品介绍⑪——... 产品介绍 短视频AI剪辑与碰一碰批量发布系统是一套面向企业短视频矩阵营销的“AI剪辑+碰一碰发布”系...
PandaAI李昱琦：AI交易... 上证报中国证券网讯（记者 胡尧）8月1日，在上海虹口举行的PandaAI第三届因子大赛颁奖典礼暨AI...
真人短剧被AI“抢饭碗”？从业... “去年下半年AI短剧开始兴起，过完年真人短剧行情跌到谷底。真人短剧拍摄量锐减，大量专门承接平台真人剧...
Genspark 发布 Gen... 用 Al-Native 的方式，打造一款新时代的 Office。 8 月 3 日，在 AGI Pla...
原生统一多模态进阶！Sense... 今年4月，商汤科技发布了SenseNova U1，首次完整展示了基于NEO-Unify架构的原生统一...
开放通用智能，MiniMax ... 8月3日，据MiniMax消息，MiniMax正式开源新一代通用视频模型MiniMax H3。据介绍...
商汤科技开源多模态模型Sens... IT之家 8 月 3 日消息，商汤科技今日宣布，面向社区开源轻量级统一多模态模型的预览版本 Sens...
MiniMax开源H3，视频模... 长期封闭的视频模型赛道，出现了一个开源旗舰。 7月31日，MiniMax发布视频旗舰模型H3，并在8...