阿里云发布开源模型Qwen2
创始人
2024-07-28 06:11:24
0

北京商报讯(记者 魏蔚)6月7日,阿里云发布开源模型Qwen2-72B。通义千问团队披露,Qwen2系列包含5个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B,其中Qwen2-57B-A14B为混合专家模型(MoE)。Qwen2所有尺寸模型都使用了GQA(分组查询注意力)机制。在中英文之外,模型训练数据中增加了27种语言相关的高质量数据。Qwen2还增大了上下文长度支持,Qwen2-72B-Instruct能够完美处理128k上下文长度内的信息抽取任务。

相关内容

英伟达的世界:AI芯片巨头...
人工智能这台巨型引擎本周继续高速运转,英伟达强劲的财报表现成为最大...
2026-08-31 22:38:32
山西移动举办移动引擎AI应...
央广网太原8月31日消息(记者张晋鹏 通讯员刘齐)8月28日下午,...
2026-08-31 20:23:22
明日起,苹果换帅!“头号任...
John Ternus于9月1日正式接任苹果首席执行官一职,成为继...
2026-08-31 17:29:27
企业级AI Agent站上...
上证报中国证券网讯(记者 韩宋辉)随着coding(编程)应用增长...
2026-08-31 15:53:12
AI正在缩小出海能力差距 ...
一家中小跨境企业提出采购需求后,AI智能体开始寻找供应商、比较方案...
2026-08-31 14:54:05
抢占AI时代战略制高点开源...
近日,英伟达被曝用129亿美元收购全球最大开源AI模型社区之一Hu...
2026-08-31 14:52:11

热门资讯

AMD、思科联手沙特HUMAI... 沙特阿拉伯AI算力基础设施建设取得新进展。 据报道,8月31日,AMD、思科与沙特AI公司HUMAI...
陕国投A拟斥资2.11亿元受让... 8月31日,陕国投A(000563.SZ)发布公告称,公司拟以自有资金受让曲江金控持有的开源证券1....
英伟达的世界:AI芯片巨头引领... 人工智能这台巨型引擎本周继续高速运转,英伟达强劲的财报表现成为最大亮点,就连被视为"SaaS末日"风...
家庭AI迎来系统级重构!海信J... 8月31日,海信正式发布行业首个家庭智能伴侣级AIOS——海信JUOS。该系统面向家庭全场景,原生适...
AI走进门店、仓库和产线,斑马... 作者:王聪彬 斑马技术大中华区副总裁兼总经理于放 Frontline AI套件,让手持终端成为AI...
陕国投A:拟2.11亿元受让开... 钛媒体App 8月31日,陕国投A公告称,公司拟以自有资金受让曲江金控持有的开源证券1.0371%股...
博通宣布推出企业级开源软件产品... 钛媒体App 8月31日,博通宣布推出TrueSource,其是面向企业的、提供商业支持且可验证构建...
山西移动举办移动引擎AI应用共... 央广网太原8月31日消息(记者张晋鹏 通讯员刘齐)8月28日下午,由中国移动山西公司与火山引擎联合主...
海光信息联合腾讯云开源项目Cu... 据海光信息(688041.SH)消息,近日,海光信息联合腾讯云开源项目Cube Sandbox完成深...
开源证券:给予福田汽车买入评级 开源证券股份有限公司赵悦媛,邓健全,游泽晨近期对福田汽车进行研究并发布了研究报告《公司信息更新报告:...