EvoGuard给在线技能演化加一道筛选:ALFWorld平均成功率56.5%,高于全盘接受的45.5%
核心概要
语言智能体可以把经验写成自然语言技能文档,但部署后每完成一个任务就按单条轨迹重写技能,会让技能质量漂移。EvoGuard把每次更新变成一次二选一:离线用私有测试集给技能打效用标签,用拒绝采样保留效用差距明显的技能对,训练一个只读两个标签词logit的选择器;部署时一次前向传播即可决定新旧技能谁留下。在ALFWorld上,Qwen3-4B与Qwen3-8B执行器的平均成功率为56.5%,全盘接受重写为45.5%,无技能为36.7%。
深度剖析
在线技能演化多了一道逐次更新的接受判断:每次单轨迹重写后,智能体要决定新技能是否替换当前技能,而不是默认采纳。 此前的做法要么离线用一批轨迹更新技能后直接采用,要么在留出验证集上跑额外回合确认有提升才保留,后者对每个任务都做一次代价过高。 在ALFWorld上,基础生成器写出的1,137次重写中有42.2%在私有测试集上低于其父技能,另有7.7%持平、50.0%提升;用强化学习训练的专家生成器写出的900次重写中仍有40.0%低于父技能。
EvoGuard把比较两个技能文本变成一次前向传播,不生成词元,也不在环境中跑额外回合。 留出验证集式的检查需要为每次更新执行许多额外回合,成本远高于触发更新的那个任务本身。 选择器以Qwen3-4B为骨干、只训练LoRA适配器,读取提示末尾两个标签词元的logit并在这两个值上归一化;在训练中未见的技能对上,它挑中更优技能的比例为95.0%。
在三个基准上,经过筛选的技能演化优于全盘接受重写,也优于无技能执行。 全盘接受重写会让技能随任务流漂移,在ScienceWorld上甚至低于无技能执行。 ALFWorld上Qwen3-4B与Qwen3-8B执行器的平均成功率为56.5%,全盘接受为45.5%,无技能为36.7%;ScienceWorld成功率从10.2%升到15.3%;LiveCodeBench通过率为28.4%,比无技能高2.3个百分点。
启示与展望
实验覆盖ALFWorld、ScienceWorld、LiveCodeBench与WebShop这些文本环境,执行器均来自Qwen3模型家族;技能池的构建与打分需要部署前的一次性离线计算,且每个基准训练一个选择器。
选择器只能在收到的重写中挑选,无法修复写出的技能本身无益的任务族,在Pick2与Heat的个别设置上低于无技能执行;其他模型家族可能对技能给出不同排序,多模态或具身场景留待后续工作。
