arXiv 2026年10月13日自蒸馏的推理增益经不起换题:代码题上只在训练过的题目里有效,梯度方向还常与策略梯度相反两项自蒸馏方法在代码、科学推理、工具使用和数学任务上的增益,换到没见过的题目就消失或转为下降,数学上的提升主要来自把思考模式搬进非思考模式,而不是用了参考答案这类特权信息。两项自蒸馏方法在代码、科学推理、工具使用和数学任务上的增益,换到没见过的题目就消失或转为下降,数学上的提升主要来自把思考模式搬进非思考模式,而不是用了参考答案这类特权信息。Massachusetts Institute of TechnologyJason Ken Adhinarta(第一作者)#自蒸馏#自蒸馏策略优化#在线策略自蒸馏#组相对策略优化#梯度对齐