冻结模型不改参数也能进步:TextualRL把同题多次尝试写成上下文补丁,六个基准平均最高提升24.4个百分点
核心概要
TextualRL把同一任务、同一上下文下的多次执行作为一个整体来批评,而不是只看单条轨迹,再把评审后的文本补丁写回共享上下文,模型参数始终冻结。在五个目标模型、六个基准上,它取得每个目标的六基准平均最高分,相对无技能基线提升11.4至24.4个百分点,相对最强基线SkillOpt提升0.9至3.2个百分点。
深度剖析
智能体不改模型参数,只改引导行为的文本上下文,也能从执行奖励中持续改进;TextualRL把这一过程组织成无梯度的策略优化循环。 此前的上下文优化多从单条轨迹或小批量轨迹中提取经验,单条轨迹能提供的比较证据有限,而针对具体任务的修补写进共享上下文后又容易过度泛化。 在五个冻结目标模型和六个基准上,TextualRL在每个目标上都取得六基准平均最高分,相对无技能基线提升11.4至24.4个百分点,相对最强基线SkillOpt提升0.9至3.2个百分点,并在30个目标—基准组合中29个优于全部基线、1个与SkillOpt持平。
做法是把同一任务、同一上下文下的一组执行放在一起比较,成功与失败并存的组直接对比行为差异,全部成功或全部失败的组则借助跨任务证据判断该保留什么或提出修补假设。 组内对比只在结果混合时才有信息,结果一致时对比消失,因此需要按结果结构分流,而不是把所有轨迹混在一起分析。 在Qwen3.8-27B上的消融显示,去掉结果分流使六基准平均下降1.5个百分点,把每任务多次执行减为单次则下降2.5个百分点。
评审阶段把各组提出的修改与独立汇总的证据卡对照,证据卡即使没有产生修改也会保留,用来限定其他组提议的适用范围。 只合并各组提议无法暴露全部例外:一次成功的执行可能不需要任何修改,却与另一组提出的规则相矛盾。 同一消融中,只使用来源组的证据卡使平均下降1.2个百分点,去掉未产生修改的证据卡下降1.7个百分点,关闭跨组提议评审下降2.7个百分点。
评审后的修改组成有上限的文本补丁,只有候选上下文在留出验证集上的奖励超过记录参考分时才被采纳。 补丁的采纳由留出验证奖励决定,而不是由提出修改的那组轨迹本身决定。 在Qwen3.8-27B上重复三次完整优化,TextualRL总体均值为70.68%,SkillOpt为67.43%,六项基准均值均更高,总体优势在三次运行中为3.18至3.36个百分点。
启示与展望
演示范围是五个冻结目标模型与六个基准,每个目标—基准对单独优化一份上下文,训练、验证、测试使用SkillOpt发布的划分;另在GPT-5.5的Codex与Claude Code运行框架上做了五项基准测试。
训练动态显示大部分测试提升出现在早期,DocVQA与LiveMath的验证分随后进入平台期而测试分在区间内波动,OfficeQA在第一个epoch后没有持续提升;在OfficeQA与LiveMath上验证分提升远大于测试分,固定验证集偏好的指令在未见任务上可能效果更弱。
