不改一个权重，只把中间层跑两遍：Qwen3-1.7B 在 GSM8K 上从 42.30% 升到 79.61%

学生模型仍按原来的层顺序逐层执行一次，但准确率明显提高，说明监督信号可以来自同一模型多算的那部分计算，而不必来自更大的外部教师。 此前的自蒸馏靠给教师额外上下文或额外指令来获得比学生更有用的预测，教师本身仍是标准路径。 GSM8K 上 400 token 思考预算下，Qwen3-1.7B 从 42.30% 升到 79.61%；Phi-4-reasoning-plus 从 89.54% 升到 94.92%。

做法是先用带标签的问题搜出该重复哪一段连续层，把重复执行后的模型冻结成教师，再让学生在它自己生成的回答前缀上对齐教师的下一词分布。 搜索与蒸馏交替进行，每一轮从更新后的学生重新搜出教师，直到验证集不再找到有用的重复路线或达到轮数上限。 GSM8K 上留出 100 道训练题做验证，其余 7,373 道用于蒸馏，路线搜索用其中 1,000 道题的标签；每轮 200 次更新，最多十轮。

在同样的思考预算下，学生不仅更准，生成的 token 也更少。 此前在固定预算下提高准确率通常伴随更长的推理链。 Qwen3-4B 在 GSM8K 上 400 token 思考预算下，准确率从 74.98% 升到 89.76%，平均总生成长度从 385.04 降到 299.98 token。

报告面向做推理模型训练与蒸馏的研究人员和工程师。已展示的范围是数学与逻辑推理任务上的准确率、固定思考预算下的生成长度、标签效率、消融以及逐层答案读出；GSM8K 上训练的学生在 GSM-Plus 与 SVAMP 上未做目标任务训练即被评估。教师选择需要带标签的搜索题与验证集，蒸馏本身只用问题与学生生成的回答。

采用重复层路线需要验证集上严格优于标准路线，否则保留标准执行；在简洁教师提示下，GSM8K 的验证就保留了标准路线。标签效率比较中，两种方法的标签数与更新次数对齐，但搜索计算量与对无标签问题的访问并不相同。逐层读出分析在固定的 ProofWriter 上下文与原始读出头上进行，不训练逐层探针。