跳到主要内容
检索

# 奖励对齐蒸馏

1 篇关联报道

订阅更新
  1. arXiv

    教师监督不再逐词照搬:按对奖励的影响加权,数学基准最高涨6.5个百分点

    蒸馏教师模型的监督信号时,不再对每个词一视同仁,而是先估计该词对更新后奖励的影响再决定权重。此前的方法依赖不确定性或师生分歧这类代理指标,未必对应真正提升奖励的监督。RAD用一次临时优化步做可微打分,再以投影上升更新词权重,在相同训练响应预算下把六个竞赛数学基准的平均准确率对Qwen3-1.7B提升6.5个百分点、对Qwen3-4B-Instruct-2507提升2.5个百分点,并在LiveCodeBench-v6上取得54.69%与58.67%的pass@1。

已读完全部报道