跳到主要内容
检索

# 奖励建模

6 篇关联报道

订阅更新
  1. arXiv

    不同大模型也能联邦协作:FedVP 不合并参数,只汇集本地训练的验证器

    联邦学习通常要求各机构共享同一套模型骨干,才能聚合参数更新,这使使用不同家族、不同规模大模型的机构难以协作。FedVP 把协作从参数聚合改为共享验证:每个客户端用本地数据和自家冻结大模型生成的候选回答训练一个验证器,服务器把这些独立训练的验证器汇成池,推理时按池内评分挑选回答,骨干参数始终不合并。在五个医疗问答数据集上,各中心分别使用 3B 到 14B 的 Qwen 与 LLaMA 骨干,同一个验证器池无需重新训练即可复用于全部五个骨干,平均准确率比最强的常规联邦基线高 1.46 到 5.79 个百分点。

  2. 文学翻译的奖励改由大模型打分:只用原文做强化学习,7B模型在隐喻句上超过QwQ-32B-preview

    文学翻译的强化学习奖励改由大模型按预设标准打分,不再依赖人工偏好标注或成对参考译文。此前DRT系列推理翻译模型靠合成的长思维链与译文做监督微调,R1-T1、MT-R1等强化学习路线则以COMET、CometKiwi等机器翻译指标作奖励。以Qwen2.5-7B为底座,DeepTrans-7B在MetaphorTrans上相对其底座在GEA5、GEA100、GRF上分别提升16.3%、13.8%、9.0%,并在多数指标上优于30B以下的基线。

  3. arXiv

    机器人奖励不再被灯光和机位带偏:把任务相关动态从视频里拆出来,MetaWorld成功率94.3%

    DiTaR把视频奖励建在任务相关潜动态上,MetaWorld-v3最终成功率94.3%,高于最强视频奖励基线ReWiND的65.2%,并在真实机器人离线强化学习中把成功率从43.3%提到83.3%。

  4. arXiv

    LexReward 用 Style、Element、Chain 三维度评分体系训练中文法律奖励模型,使 GRPO 在 Element 平均分上比 SFT 提升 6.04 分

    该工作提出 LexReward,一个由法律专家参与构建、把法律回答质量拆解为 Style(词汇与句法)、Element(主体、事实、法条、裁判)与 Chain(推理顺序、完整性、正确性、非冗余)三个维度的分类体系,并据此设计规则或 LLM 评判的评分细则,用其构建偏好数据训练中文法律奖励模型 LexRM;实验显示评分细则能区分不同质量回答,DPO 在三个维度上均提升生成表现,LexRM 在测试时扩展中优于随机选择,用于 GRPO 时各维度均有增益并优于基于结果规则的奖励。

  5. arXiv

    TRM 先为每个案例生成自适应评分细则再打分,在图像生成与编辑奖励建模基准上超过开源模型并逼近专有模型

    该工作提出“Think Before You Score”范式与 Thinking Reward Model(TRM):先针对每个任务条件与候选输出生成案例自适应评分细则,再逐条判定并汇总为细粒度逐点奖励,同时提出 PD-GRPO 用成对偏好监督提升区分度并抑制分数极化;在图像生成与编辑奖励建模基准上,TRM 在开源奖励模型中达到最优并与专有模型高度接近,作为强化学习奖励信号还能持续提升多种视觉生成模型。

  6. arXiv

    DRM 用扩散头替代标量奖励头:在五个基准上匹配或超越同数据同骨干基线,并让奖励分布随人类分歧变得更双峰

    该工作提出 DRM(Diffusion Reward Model),把奖励建模改写为对条件奖励分布的密度估计:在冻结的 LLM 编码器之上用一个轻量 Diffusion Transformer 从高斯噪声去噪出奖励向量,不预设任何参数族,同一架构同时支持多属性回归与成对偏好数据,在五个基准上匹配或超越同数据同骨干的标量头 ArmoRM 与分位数头 QRM,并在重复人类标注数据上显示出与人类分歧相关的多峰结构,同时通过不确定性拒绝、LCB 聚合与下游 RLHF 实验展示分布信息的实用价值。

已读完全部报道