跳到主要内容
检索

# 奖励加权传输蒸馏

1 篇关联报道

订阅更新
  1. arXiv

    RWTD 用奖励加权传输蒸馏把一步生成器的 GenEval 从 0.73 提到 0.80

    该工作提出奖励加权传输蒸馏(RWTD),一种只需生成样本与标量奖励评估的一步生成器后训练方法,它把当前模型与参考模型各自的奖励倾斜分布混合成自适应目标,并用特征空间最优传输与不动点回归实现,在一步 SANA Sprint 1.6B 上把 GenEval 从 0.73 提升到 0.80,并在偏好对齐实验中表现出跨奖励泛化。

已读完全部报道