罗福莉官宣小米强化学习路线,直播 MiMo-V2.6 训练全程一小时烧 3 万美元

大模型之家讯 9月17日,小米负责人罗福莉在沉寂近半年后公开了小米的强化学习路线,并将 MiMo-V2.6 的训练过程搬上直播页面,训练花费、步数、奖励曲线以及显卡故障节点全部公开可查。从 Pro 模型开始训练算起,36 小时两款模型已花费超过 108 万美元,平均每小时 3 万美元,成为业界首次开放训练过程本身。能力提升已经显现:Pro 的 dynsam/avg@n 从第 1 步约 0.565 提升至 0.614,Flash 从约 0.514 提升至 0.603。罗福莉表示,这半年只研究了一件事——强化学习能扩展到多远。小米沿训练计算量、环境与执行框架、评分计算量三个维度扩展,采用完全异步执行方式,每个训练 Step 大约处理 20 亿 Token。

上一篇:

下一篇:

发表回复

登录后才能评论