只用1%的token就能追平全量蒸馏：IER用梯度估计可靠性重排稀疏监督
该工作把在线策略蒸馏（OPD）中的token选择问题重新表述为固定前缀下的梯度估计可靠性问题，在信息几何下把单样本反向KL梯度分解为信号与采样噪声，提出信息效率比（IER）作为最优标量基线下的信噪比，并用top-K候选集近似来排序token；在数学与医学推理任务上，IER单独作为选择器在0.1%–1%的极小token预算下接近或超过全量OPD，与已有有用性分数结合后（IER-OR、IER-AND）在多个设置下匹配甚至超过全量OPD。