将开源贯彻到底 阿里云发布开源模型Qwen2
创始人
2024-07-22 23:13:57
0次

新京报贝壳财经讯(记者罗亦丹)6月7日,阿里云更新技术博客:重磅发布开源模型Qwen2-72B,所有人均可在魔搭社区和Hugging Face免费下载通义千问最新开源模型。

一直以来,来自Meta的开源大模型Llama系列都是开源大模型当之无愧的顶流,不过有个人开发者对贝壳财经记者表示,Qwen系列的开源模型在国外技术社区的讨论度一直居高不下。最近一个月内,通义千问Qwen系列模型总下载量翻了一倍,已突破1600万次,全球开源社区已经出现了超过1500款基于Qwen二次开发的模型。

而相比2月推出的通义千问Qwen1.5,Qwen2实现了整体性能的代际飞跃。刚刚开源的Qwen2-72B,整体性能相比Qwen1.5-110B又取得了大幅提升。阿里云方面表示,通义千问Qwen2系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。

通义千问团队在技术博客中披露,Qwen2系列包含5个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B,其中Qwen2-57B-A14B为混合专家模型(MoE)。Qwen2所有尺寸模型都使用了GQA(分组查询注意力)机制,以便让用户体验到GQA带来的推理加速和显存占用降低的优势。

在中英文之外,模型训练数据中增加了27种语言相关的高质量数据,提升了模型的多语言能力。Qwen2还增大了上下文长度支持,Qwen2-72B-Instruct能够处理128k上下文长度内的信息抽取任务。

阿里云CTO周靖人表示,“坚持开源开放是阿里云的重要策略,我们希望打造一朵AI时代最开放的云,让算力更普惠、让AI更普及。”

编辑 王琳琳

校对 赵琳

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...