linux办公网
腾讯发布开源MoE大语言模型Hunyuan-large，总参数398B为业内最大
创始人
2024-11-05 16:27:22
0次

钛媒体App 11月5日消息，腾讯发布开源MoE大语言模型Hunyuan-large，总参数398B为业内最大，激活参数量52B。公开测评结果显示，腾讯混元Large在CMMLU、MMLU、CEval、MATH等多学科综合评测集以及中英文NLP任务、代码和数学等9大维度全面领先，超过Llama3.1、Mixtral等一流的开源大模型。据了解，该模型在技术创新上可实现高质量合成数据，通过使用合成数据增强训练，有效应对自然数据的不足。在上下文处理能力方面，预训练模型支持高达256K的文本序列，显著增强了处理长上下文任务的能力。

同时，腾讯混元宣布，为填补行业真实长文评测集不足，腾讯混元即将开源企鹅卷轴评测集助力业界应用研究。自研企鹅卷轴(PenguinScrolls)基于公开金融、法律、学术论文等多种自然长文本，长度范围达1K-128K，覆盖各种深度阅读理解、长文推理任务。

混元 语言 评测 卷轴 模型 文本 长文 总参 自然 任务 腾讯 参数量 Large

上一篇：受贿1145万余元 安徽淮北市委原副书记操隆山获刑10年

下一篇：参考封面|AI揭示罗马帝国失落的秘密

相关内容

强化AI技术优势与产业根基...
党的二十届四中全会明确提出“加快高水平科技自立自强，引领发展新质生...
2025-11-18 12:45:34
日本AI创企Sakana ...
11月18日消息，据 SiliconANGLE 报道，日本人工智能...
2025-11-18 12:17:05
能源如何拥抱AI？业内：把...
本报（chinatimes.net.cn）记者何一华 李未来 北京...
2025-11-17 23:16:22
谷歌DeepMind AI...
IT之家 11 月 17 日消息，当热带风暴“梅丽莎”（Melis...
2025-11-17 16:15:49
阿里巴巴打响“AI未来之战...
11月17日，阿里巴巴正式宣布“千问”项目，全力进军AI to C...
2025-11-17 13:17:25
“千问”正式上线，阿里要认...
文｜邓咏仪 编辑｜苏建勋 《智能涌现》获悉，11月17日，阿里巴巴...
2025-11-17 11:45:58

热门资讯

原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
骁龙本这么猛？联想YOGA A... 在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
苹果macOS 15.1：允许... 苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上，一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻，随着生成式AI的流行，各家手机厂商都在积极备战AI手机...
原创 华... 想在竞争残酷的市场中发力，必须要带来一些激进的卖点，但是随着功能特性的提升，硬件也必须要进行给力才可...
Thinkpad T14 AI...