跳到主要内容
返回时间线
arXiv来源发表:

零数据多模态自训练不再一直啃旧题:训练日志一报警就换400道新题,八轮把均分从57.77推到61.05

核心概要

零数据多模态自训练此前主要关心生成什么任务,较少处理何时该换掉已经学不出信号的题池。A-RSI把换池时机交给训练日志:当组内奖励差异消失的提示数量相对两轮前下降至少15%,或记录准确率上升至少10个百分点,就整池换成400道未用过的程序生成题,答案由程序算出而非模型投票。Qwen3-VL-8B-Instruct在11项基准的等权平均从57.77升到61.05,共引入800道新题;每窗口都换的对照用3200道新题得到60.64。

AI-generated editorial illustration: A-RSI: Adaptive Task Refresh for Zero-Data Multimodal Self-Improvement

深度剖析

零数据自训练现在多了一个不依赖测试分数的换池开关:模型自己训练日志里的奖励差异信号变弱,就说明当前题池该换了。 此前的零数据方法把重点放在下一步生成什么任务,例如更难的问题或接近模型能力边界的任务,对何时引入新经验关注较少。 在Qwen的旧题池上,具有非零组内优势的提示数在三轮窗口内从239降到195,保留率81.59%,低于85%阈值,触发换池;记录准确率条件从未单独触发。

换进来的新题答案由程序从同一份底层配置算出,不靠模型自洽投票或多数表决产生标签。 当训练目标来自自洽或多数投票时,模型自身预测的错误可能变成下一轮更新的标签。 从实际消耗的替换池中按五类生成器各抽200题共1000题,独立求解器与全部1000个参考答案一致,源标签与图像哈希也全部一致。

在11项基准的等权平均上,按日志触发换池并随机抽新题的策略在八轮续训后达到61.05。 同一协议下,每窗口都换并自适应调整难度的对照为60.64,每两轮换一次为59.89,同样由检测器触发但按难度前沿选题为59.59。 A-RSI共引入800道新题,每千题增益4.09;每窗口都换的对照引入3200道,每千题增益0.90;在第六轮匹配进度上,A-RSI为60.40,继续用旧池为58.35。

同一套固定阈值的控制器在MiMo-VL-7B-SFT上给出不同决策:前两个池触发替换,第三个池保留。 固定三轮换一次的计划会把两个模型的第三个池都换掉。 MiMo第二个替换池的信号保留率为98.68%,准确率上升6.63个百分点,回放判定保留;Qwen第二个替换池保留率83.98%,回放判定替换。

启示与展望

演示范围是Qwen3-VL-8B-Instruct与MiMo-VL-7B-SFT在11项基准、8192 token 输出上限下的续训,任务来自固定的程序模板库,覆盖几何、图表、表格和计数,不含函数图像、数值估计和空间任务。作者提出的下一步包括跨随机种子复现、为检测器时机补一个固定三轮计划的随机对照、对本轮做16k评测,以及为低熵模型设计换池策略。

作者明确说明各臂只训练一次,小分差没有显著性检验,前两次随机换池恰好落在三轮计划上,因此现有轨迹不能证明依赖历史的时机优于固定计划;No-Refresh在第七轮因健康检查失败中止,预注册的端点没有观测到;MiMo相对每窗口换池和周期换池的领先幅度很小,不足以确立时机优势。