刚刚,小米“小身材”MiMo大模型开源!
创始人
2025-04-30 16:45:56
0

4月30日,据“Xiaomi MiMo”公众号消息称,小米开源首个为推理而生的大模型“Xiaomi MiMo”,通过联动预训练到后训练,全面提升推理能力。

据介绍,在数学推理(AIME24-25)和代码竞赛(Live Code Benchv5)公开测评集中,参数规模仅7B的MiMo,超越了OpenAI的闭源推理模型o1-mini,以及阿里Qwen更大规模的开源推理模型QwQ-32B-Preview。

随着DeepSeek-R1引发业界强化学习共创潮,DeepSeek-R1-Distill-7B和Qwen2.5-32B已成为广泛使用的强化学习起步模型。在相同RL训练数据情况下,MiMo-7B在数学与代码领域的强化学习潜力显著领先。

我们了解到,MiMo推理能力的提升,得益于预训练和后训练阶段在数据和算法等多层面的创新。预训练阶段,重点是让模型接触更多推理模式数据,为此着重挖掘富推理语料,合成约200B tokens推理数据,并进行三阶段训练,逐步提升训练难度,总训练量达25T tokens。

目前,MiMo-7B全系列已开源4个模型至Hugging Face。MiMo来自新成立不久的“小米大模型Core团队”的初步尝试。#大模型# #人工智能# #大厂# #科技造福人类# #小米# #雷军# #MiMo# #开源# #参数# #科技的力量# #开发# #科技数码新鲜事儿#

相关内容

养蛊:AI员工的某种真相
你的新同事,是小龙虾还是爱马仕? 最近这个问题席卷大江南北。从互联...
2026-05-06 20:26:05
苹果iOS 27将允许用户...
5月6日,知名苹果爆料人马克·古尔曼在最新文章中透露,苹果公司将在...
2026-05-06 20:25:27
美国政府将干预新AI模型发...
当地时间5日,美国政府宣布和三家公司,分别是谷歌的AI研究部门De...
2026-05-06 20:25:23
开源打破“AI黑箱”!集结...
都说我们正处在 AI 最好的时代。到了 2026 年,这句话已经不...
2026-05-06 20:25:16
国产双开源:让Mac成为你...
编辑|panda、+0 2026 年 3 月底,Ollama 发布...
2026-05-06 20:23:52
AI+Python数据分析...
教学大纲 01 课程性质和目的 数据分析与可视化为数据科学与大数据...
2026-05-06 20:23:25

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息,摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...