刚刚，小米“小身材”MiMo大模型开源！
创始人
2025-04-30 16:45:56
0次
4月30日，据“Xiaomi MiMo”公众号消息称，小米开源首个为推理而生的大模型“Xiaomi MiMo”，通过联动预训练到后训练，全面提升推理能力。
据介绍，在数学推理（AIME24-25）和代码竞赛（Live Code Benchv5）公开测评集中，参数规模仅7B的MiMo，超越了OpenAI的闭源推理模型o1-mini，以及阿里Qwen更大规模的开源推理模型QwQ-32B-Preview。
随着DeepSeek-R1引发业界强化学习共创潮，DeepSeek-R1-Distill-7B和Qwen2.5-32B已成为广泛使用的强化学习起步模型。在相同RL训练数据情况下，MiMo-7B在数学与代码领域的强化学习潜力显著领先。
我们了解到，MiMo推理能力的提升，得益于预训练和后训练阶段在数据和算法等多层面的创新。预训练阶段，重点是让模型接触更多推理模式数据，为此着重挖掘富推理语料，合成约200B tokens推理数据，并进行三阶段训练，逐步提升训练难度，总训练量达25T tokens。
目前，MiMo-7B全系列已开源4个模型至Hugging Face。MiMo来自新成立不久的“小米大模型Core团队”的初步尝试。#大模型# #人工智能# #大厂# #科技造福人类# #小米# #雷军# #MiMo# #开源# #参数# #科技的力量# #开发# #科技数码新鲜事儿#
相关内容
热门资讯
原创 2...
#春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37...
2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐
当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
骁龙本这么猛？联想YOGA A...
在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu...
CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
苹果macOS 15.1：允许...
苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹...
前言 IQUNIX在做好看的桌面产品上，一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华...
在2024年这个被誉为"AI元年"的关键时刻，随着生成式AI的流行，各家手机厂商都在积极备战AI手机...
原创 华...
想在竞争残酷的市场中发力，必须要带来一些激进的卖点，但是随着功能特性的提升，硬件也必须要进行给力才可...