（图片来源：摄图网）

据“小米大模型”公众号消息，小米开源首个为推理（Reasoning）而生的大模型「XiaomiMiMo」，联动预训练到后训练，全面提升推理本领，现在MiMo-7B的全系列模型均已完成开源。

在数学推理（AIME24-25）和代码比赛（LiveCodeBenchv5）公然测评集上，MiMo仅用7B的参数范围，超出了OpenAI的闭源推理模型o1-mini和阿里Qwen更大范围的开源推理模型QwQ-32B-Preview。

小米技术团队表示，MiMo的核心突破在于预训练与后训练阶段的协同优化。在预训练阶段，模型经过挖掘高质量推理语料并分解约2000亿tokens专项数据，采纳三阶段渐进训练策略，累计训练量达25万亿tokens。

后训练阶段则引入创新强化学习技术，包括自研的"Test Difficulty Driven Reward"算法和"Easy Data Re-Sampling"策略，有效提升模型在复杂任务中的波动性。技术团队还开辟了"Seamless Rollout"零碎，使训练效率提升2.29倍，考证速度加快1.96倍。

展开剩余 66 %

大模型是指包含超大范围参数(通常在十亿个以上)的神经网络模型。这些模型基于神经网络结构组成，遭到人脑神经零碎结构的开导，由野生神经元(节点)和它们之间的连接组成。经过调解这些连接的权重，神经网络可以或许学习和适应输入数据的模式。以后，环球AI大模型行业正处于技术创新与商业化加速推进的阶段。OpenAI、Google、微软等美国企业在这一范畴处于领先地位，主导着天生式AI、自然语言处置惩罚等技术的发展，其模型如GPT系列和PaLM等已经得到了广泛运用。

个中，中国科技公司在大模型范畴掀起的开源海潮，正以技术破局之势重塑环球野生智能创新幅员。

中国大模型发展履历了三个首要阶段。早期索求阶段（2000年月初至2010年月初）首要集中在底子AI实际和小范围运用的研究，缺乏大范围数据和高功能较量争论资源。随着2012年深度学习的兴起，进入了快速发展阶段（2010年月初至2020年初），时代海内大企业如阿里巴巴、百度、腾讯和华为最先鼎力大举投资AI技术，推动了大模型技术的发展和运用。到了成熟与运用阶段（2020年初至今），中国在自然语言处置惩罚和较量争论机视觉等范畴的大模型技术已达到国际先辈程度，模型广泛运用于商业、医疗、执法等多个行业。预测未来，预计中国将进一步加强跨模态、多任务学习的运用，提升模型的透明度和平安性，巩固其在环球AI竞争中的地位。

以后环球的野生智能家当处于高速发展期，大模型技术引领着野生智能范畴正在迈向新的发展高度。前瞻家当研究院开端测算，到2030年，我国大模型市场范围将超过2200亿元，年复合增速在40%以上。

创新工厂董事长兼零一万物CEO李开复表示，在AI技术快速发展的海潮下，2025年会是AI运用大范围落地的元年。已往两年大模型本领没有断提升，在问答本领上已经远超人类。新技术持续突破，数字化AI与真实物理世界将进一步融合。较云较量争论，AI2.0运用层的爆发周期将缩短到两年内。超大预训练模型的价值将进一步表现在“西席模型”的角色中，其素质将更趋近于大模型时代的底子设施。学习范式正从“人教AI”到“AI教AI”转变。

前瞻经济学人APP 家当观察组

更多行业研究阐明详见：

【1】《》，前瞻家当研究院

同时前瞻家当研究院还提供、、、、、、、、、、、等解决计划。如需转载引用本篇文章内容，请注明材料来源（前瞻家当研究院）。

公布于：广东省