# Qwen3-1.7B

该工作研究能否用无字幕、无文本损失的原始网络视频对预训练语言模型做中期训练：将视频帧编码为连续视觉token，让模型预测下一个视觉token，在YT-Temporal-1B的原始片段上中期训练Qwen3-1.7B，再与未做中期训练的模型施加相同的图文指令微调；结果视频基准平均提升2.9分、图像基准提升5.1分，文本平均分由48.0升至48.9，且预测字幕并不优于预测视觉token。

该工作研究能否用无字幕、无文本损失的原始网络视频对预训练语言模型做中期训练：将视频帧编码为连续视觉token，让模型预测下一个视觉token，在YT-Temporal-1B的原始片段上中期训练Qwen3-1.7B，再与未做中期训练的模型施加相同的图文指令微调；结果视频基准平均提升2.9分、图像基准提升5.1分，文本平均分由48.0升至48.9，且预测字幕并不优于预测视觉token。

该工作提出任务进度蒸馏（TPD），在离线条件下把教师演示中的每个动作与一个简短任务阶段标签配对，学生通过联合打分可行动作与阶段对来选择动作；在ALFWorld上，1.7B学生用404条演示在TPD或仅动作监督下均达到72.4%平均未见任务成功率，而用受限动作选择的推理训练学生为48.3%；显式阶段在200条演示时把成功率从48.0%提升到67.7%，演示增多后仅动作监督追平，两者在808条时均达76.9%。

该工作提出任务进度蒸馏（TPD），在离线条件下把教师演示中的每个动作与一个简短任务阶段标签配对，学生通过联合打分可行动作与阶段对来选择动作；在ALFWorld上，1.7B学生用404条演示在TPD或仅动作监督下均达到72.4%平均未见任务成功率，而用受限动作选择的推理训练学生为48.3%；显式阶段在200条演示时把成功率从48.0%提升到67.7%，演示增多后仅动作监督追平，两者在808条时均达76.9%。

该工作从数学上证明，在稀疏奖励的 RLVR 中省略或截断对富集 rollout 的重要性权重校正会隐式重新加权所定义的奖励，并将由此产生的梯度误差分解为尺度、旋转与方差；作者提出一种序贯蒙特卡洛（SMC）权重校正机制，在稳定性与粒子序假设下把标准校正方差随样本长度的指数累积缓和为加性累积，并用该分析解释 Qwen3-1.7B 在 OpenMathReasoning 稀疏片段上微调的结果，说明富集（无论校正与否）如何帮助避免稀疏域中的崩溃。

该工作从数学上证明，在稀疏奖励的 RLVR 中省略或截断对富集 rollout 的重要性权重校正会隐式重新加权所定义的奖励，并将由此产生的梯度误差分解为尺度、旋转与方差；作者提出一种序贯蒙特卡洛（SMC）权重校正机制，在稳定性与粒子序假设下把标准校正方差随样本长度的指数累积缓和为加性累积，并用该分析解释 Qwen3-1.7B 在 OpenMathReasoning 稀疏片段上微调的结果，说明富集（无论校正与否）如何帮助避免稀疏域中的崩溃。