视频推理模型学会审计自己的视觉依赖：VIOS在12项基准上把三个骨干平均提升3.60至4.63分
核心概要
视频推理的正确答案常取决于少数几个视觉关键位置，而GRPO一类后训练方法给整条推理轨迹打一个粗粒度分数，还要多次采样或外部裁判。VIOS改为让模型自己审计视觉依赖：比较带视频与不带视频时下一词分布的差异，得到学生与答案特权教师之间的逐词依赖差，把监督集中到学生低估视觉证据的位置。在12项视频理解基准上，Qwen2.5-VL-7B-SFT平均分从46.35升到49.95，InternVL2.5-4B与InternVL2.5-8B分别提升4.63和3.93分，且只需单次在线采样、无外部奖励或裁判。
深度剖析
视频推理后训练获得了一种逐词、按视觉依赖加权的监督信号，不再需要为每个问题采样多条轨迹或调用更大的裁判模型。 此前后训练主要沿用GRPO及其视频变体，每个提示采样八条以上轨迹、按组均值给一个标量奖励，并把同一奖励摊到整条推理链上。 在12项视频理解基准上，Qwen2.5-VL-7B-SFT经VIOS训练后平均分由46.35升至49.95，在MVBench、Video-MME、MINERVA、MMVU、VideoMathQA、TempCompass、LongVideoBench和VSI-Bench上排名第一，在TVBench、MLVU和SciVideoBench上排名第二。
方法的核心是让模型自己测量每个词对视频的依赖程度，再用学生与教师之间的依赖差决定在哪里施加监督。 教师由学生的指数滑动平均更新，并额外看到标准答案，因此能给出比冻结教师更高的监督上限。 训练配置为Qwen2.5-VL-7B-SFT、InternVL2.5-8B和InternVL2.5-4B三个骨干，使用Video-R1-260k语料，每个模型在8块NVIDIA H200上训练100步VIOS。
依赖差门控与视觉对比项分别贡献可叠加的增益，使监督落在视觉上真正关键的位置。 只用蒸馏时平均分为48.21，加入门控后为48.69，再加入对比项后达到49.95。 消融在Qwen2.5-VL-SFT主配置上进行：门控相对无门控蒸馏在12项基准中9项取胜、平均提高0.6分，对比项在此基础上再提高1.3分。
启示与展望
演示范围是Qwen2.5-VL-7B-SFT、InternVL2.5-4B和InternVL2.5-8B三个骨干，在Video-R1-260k语料上训练，并在12项视频理解基准以及4项静态图像基准上评测；训练时视频帧数上限16、每帧视觉token上限128，推理时翻倍为32帧和每帧256个token。方法要求基座模型已能产出连贯思维链，因此Qwen2.5-VL从SFT检查点初始化。
计算依赖差需要在每个位置分别评估学生和教师带视频与不带视频的分布，每步前向开销约为标准蒸馏的两倍，这一开销靠取消多次采样强化学习来抵消。方法假设每条训练样本都有标准最终答案，因而限于带答案的VQA式数据。对比项只促进视觉利用，并不强制对齐到具体帧或区域，与视频整体内容相符的幻觉仍可能出现；正确性只通过答案特权教师隐式进入，模型会继承教师在该训练步的合理化偏差。