搜索智能体不再只奖励最终答案:过程监督让检索召回更高,跨域与跨模型都更稳
面向多跳信息检索的搜索智能体,训练信号从只看最终答案正确与否,改为对每一步搜索动作打分。RAG-Gym把搜索建模为马尔可夫决策过程,并比较架构、参数优化与动作评估三个维度,选出推理反思架构、偏好优化与评论家引导推理的组合,构成Re2Search++。在HotpotQA上训练后,它在未见过的Bamboogle上优于结果监督基线,检索召回更高且搜索步数相当或更少;在Llama-3.1-8B上训练的评论家还能提升GPT-4o-mini的MedQA准确率。