推理能力不必整段搬运：只留RL更新最强方向，Qwen视觉数学涨8.55分
核心概要
把语言模型强化学习阶段的参数更新单独取出，只保留每个矩阵中最强的一个方向并按原幅度缩放，再注入视觉语言模型的语言模块，这种免训练迁移在三个模型家族、五个视觉推理基准的15组比较中有12组优于整段更新插值，Qwen接收方在MathVision上提升8.55个百分点。对照实验显示，仅匹配更新幅度或使用任意低秩方向都无法复现这一增益，说明后训练中获得的能力与可跨模型迁移的部分并不等同。
深度剖析
跨模型迁移推理能力时，被搬运的不再是语言模型与视觉语言模型之间的整体参数差，而是强化学习阶段单独产生的参数更新。 此前的端点式迁移直接构造供体与接收方之间的位移，这一位移会把强化学习之前就存在的模型差异和强化学习期间获得的变化混在一起。 在Qwen3-VL-8B-Instruct上，保留强化学习更新最强方向的插值在MathVista上达到81.00，而共享同一参数支撑的整段更新插值为76.70。
迁移时只保留每个可迁移语言层矩阵中最强的一个奇异方向，再把它缩放到与原矩阵更新相同的幅度。 完整更新是针对源语言模型优化出来的，其各个方向对多模态接收方未必同样有用，因此保留更多方向并不必然更好。 在Qwen3-VL-8B-Instruct的MathVista上，秩从1增加到16时准确率从81.00降到78.30；十个匹配的随机方向平均低于接收方原始水平，最弱方向为73.10。
增益在三个模型家族上重复出现，但并非每个基准都提升。 此前缺少把强化学习阶段更新与初始化位移分开、并在同一幅度下比较方向选择的对照。 15组骨干与基准比较中12组优于整段更新插值；LLaVA-NeXT-LLaMA3-8B在四个任务上提升但MMStar下降，Idefics2-8B在MathVista、MathVerse、DynaMath上提升，在MathVision和MMStar上下降。
启示与展望
该方法在Qwen3-VL-8B-Instruct、LLaVA-NeXT-LLaMA3-8B和Idefics2-8B三个多模态接收方上验证，供体为在DAPO-Math-17K上做DAPO式后训练得到的语言模型，迁移支撑限定为注意力与MLP的七个投影矩阵，视觉模块、嵌入、输出头、LayerNorm和偏置保持不变。评估覆盖MathVista、MathVerse、MathVision、DynaMath和MMStar五个视觉推理基准，另有TextVQA、MMMU、OCRBench和POPE的补充结果。构建过程离线完成，合并后的检查点仍是标准稠密视觉语言模型，不增加推理期模块。
增益并非一致：LLaVA-NeXT-LLaMA3-8B在MMStar上相对整段更新插值下降，Idefics2-8B在MathVision和MMStar上下降。秩一被描述为固定经验规则，而非假定单个方向就构成推理能力；秩从1增到16时准确率逐步下降。源模型重建与接收方提升被明确区分为两种测量，秩一重建在MATH上恢复供体相对强化学习前增益的97.18%。离线SFT、离线蒸馏和同策略蒸馏也能带来MathVista提升，说明该效应并非强化学习独有。生成行为分析中，选择性方法独有的MathVista成功案例里，一部分对应整段更新的重复、截断或抽取异常，其余对应普通推理或感知错误，机制归因仍需单独分析。