蒸馏采样不再照抄学生：Qwen3-4B数学均分涨6.91、生成长度降41%
同策略蒸馏不再把学生自己采样的轨迹直接当作唯一采样分布：此前每轮都从当前学生采样，教师必须在学生走到、但自己很少到达的轨迹上给逐词监督，这类监督会变得有噪声，重复等退化模式还会在后续轮次被反复采样。新方法按教师相对支持度重加权，在KL信任域内得到学生与教师的几何混合，并训练一个提议策略在一次前向中近似该混合。16个数学、知识问答和医学推理基准上，Qwen3-4B-Base的数学平均准确率比OPD高6.91，平均生成长度低41%。