跳到主要内容
检索

Zihan Lin

1 篇关联报道

订阅更新
  1. arXiv

    TGRL 把温度差异变成训练信号:数学平均分提升 1.6%、CodeForces 评分提高 196.7 分,且不增加 rollout 预算

    该工作提出温度分组强化学习(TGRL),对每个提示把 rollout 组划分为低温参考子集与高温探索子集,用两组奖励差估计提示级探索增益,并用同一 logits 下温度缩放下一词分布之间的 Jensen–Shannon 散度把该增益分配为 token 级信用;在 11 个基准上,TGRL 在不扩大 rollout 预算的前提下,把 32B 六项数学平均分提高 1.6%、CodeForces 评分提高 196.7 分、LiveCodeBench Pass@16 提高 4.4%,ALFWorld/WebShop 成功率提高 6.3%/4.9%,并以最高快 36% 的速度达到与强 RLVR 基线相当的准确率。

已读完全部报道