腾讯发布开源MoE大语言模型Hunyuan-large,总参数398B为业内最大
创始人
2024-11-05 16:27:22
0

钛媒体App 11月5日消息,腾讯发布开源MoE大语言模型Hunyuan-large,总参数398B为业内最大,激活参数量52B。公开测评结果显示,腾讯混元Large在CMMLU、MMLU、CEval、MATH等多学科综合评测集以及中英文NLP任务、代码和数学等9大维度全面领先,超过Llama3.1、Mixtral等一流的开源大模型。据了解,该模型在技术创新上可实现高质量合成数据,通过使用合成数据增强训练,有效应对自然数据的不足。在上下文处理能力方面,预训练模型支持高达256K的文本序列,显著增强了处理长上下文任务的能力。

同时,腾讯混元宣布,为填补行业真实长文评测集不足,腾讯混元即将开源企鹅卷轴评测集助力业界应用研究。自研企鹅卷轴(PenguinScrolls)基于公开金融、法律、学术论文等多种自然长文本,长度范围达1K-128K,覆盖各种深度阅读理解、长文推理任务。

相关内容

真 AI 才实用!2026...
当前企业采购语音机器人的核心痛点,在于市场同质化内卷严重。许多产品...
2026-01-17 22:48:20
从“企业AI”到“AI企业...
作者:于佳卉 在2026第五届AIGC开发者大会上,由至顶科技主办...
2026-01-17 20:47:27
腾讯科技申请网络内容页面快...
国家知识产权局信息显示,腾讯科技(深圳)有限公司申请一项名为“页面...
2026-01-17 20:19:05
原创 ...
推动AI翻译,这会让日本漫画的全球化面临风险? “为促进日本漫画...
2026-01-17 11:47:11
AI“行不行”?华强北说了...
深圳商报·读创客户端首席记者 袁静娴 文/图 AI陪伴机器人、AI...
2026-01-16 18:18:09
AI 医疗还在比进度,百川...
近一年来,AI 医疗正在进入一个明显不同于以往的新阶段。无论在国内...
2026-01-16 17:45:53

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...