linux办公网
阿里云发布开源模型Qwen2
创始人
2024-07-28 06:11:24
0次

北京商报讯（记者 魏蔚）6月7日，阿里云发布开源模型Qwen2-72B。通义千问团队披露，Qwen2系列包含5个尺寸的预训练和指令微调模型，Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B，其中Qwen2-57B-A14B为混合专家模型（MoE）。Qwen2所有尺寸模型都使用了GQA（分组查询注意力）机制。在中英文之外，模型训练数据中增加了27种语言相关的高质量数据。Qwen2还增大了上下文长度支持，Qwen2-72B-Instruct能够完美处理128k上下文长度内的信息抽取任务。

阿里云 数据 尺寸 长度 模型 训练 上下文 魏蔚 Qwen 处理 Qwen2

上一篇：美国务院发布首个开源情报战略

下一篇：南京市开源产业联盟成立，定位协同合作打造开源软件项目策源地

相关内容

4月13日石大胜华涨5.1...
证券之星消息，4月13日石大胜华（603026）涨5.17%，收盘...
2026-04-13 21:49:25
奥克股份等成立新公司，含A...
公开资料显示，近日，江苏极拓奥克能源科技有限公司成立，经营范围包含...
2026-04-13 14:02:40
白天练AI，晚上“练队友”
羊城晚报记者 刘克洪 11日至12日，2026电竞粤超深圳站在深圳...
2026-04-13 13:53:33
统一VLA范式！港科大开源...
新智元报道 编辑：LRST 【新智元导读】当前具身智能的VLA（...
2026-04-13 13:51:15
MiniMax M2.7开...
4月13日消息，MiniMax M2.7 于今日正式开源。该公司宣...
2026-04-13 13:49:10
中科闻歌冲刺港股：国家队A...
雷递网 雷建平 4月12日 北京中科闻歌科技股份有限公司（简称：“...
2026-04-13 02:56:56

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
骁龙本这么猛？联想YOGA A... 在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
苹果macOS 15.1：允许... 苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻，随着生成式AI的流行，各家手机厂商都在积极备战AI手机...