跳到主要内容
返回时间线
arXiv来源发表:

自进化智能体不再只改权重或只改外壳:Evo2让两者互相喂养,SWE-bench Verified解决率48.3%

核心概要

Evo2把智能体外壳的改写结果反过来训练负责改写的模型,在SWE-bench Verified上把解决率从最强基线的41.0%提到48.3%,Polyglot通过率从62.6%提到82.1%。

Source-provided article image: Evo^2: Evolving the Evolver through Weight-Harness Co-Evolution
Figure 1 · arXiv

深度剖析

自进化智能体此前分成两条互不相通的路线:一条用自生成经验更新模型权重,另一条改写定义提示、工具、上下文和执行反馈的外壳程序。 两条路线各自把经验积累在模型参数或可执行程序里,却通常分开推进,没有利用权重与外壳之间的关系。 Evo2把外壳修改及其执行结果作为训练信号,在Polyglot、SWE-bench Verified和LiveCodeBench三个编程基准上,进化出的最佳外壳都超过SICA、DGM、HGM和GEA四个自进化基线。

同一个策略模型同时扮演提议者和反思者:提议者写出外壳编辑,反思者查看执行结果并给出修改、跨分支借用或保留三种指令。 外壳搜索被组织成一棵变体树,反思者可以从策略库中挑出一条能补当前外壳短板的机制,由提议者把它适配到当前源码上。 权重更新用EvoTIDE完成,先做监督微调,再对两个角色做交错GRPO;训练数据来自编辑抽取和前缀续写恢复出的轨迹,父代池同时保留强候选和需要修复的弱外壳。

启示与展望

报道覆盖的是Evo2在编程与记忆两类任务上的自进化结果:Polyglot、SWE-bench Verified、LiveCodeBench上的留出表现,六个跨基准迁移方向,60题SWE-bench Verified子集上的专有模型实验,以及LoCoMo与LongMemEval上的记忆任务。任务执行器在协同进化期间保持固定,候选外壳的性能因此反映的是外壳变化的效果。适合关注智能体自进化、外壳搜索与强化学习训练流程的研究人员和工程师阅读。

专有模型实验在60题SWE-bench Verified子集上进行,每种方法在小型搜索子集上做三次独立搜索并报告种子均值,基线评估其排名最高的外壳,Evo2报告两个最高排名外壳中较好的结果。记忆任务上每个搜索评估来自七个训练对话的1500个问题,LongMemEval在进化和选择阶段均未见过。这些设置界定了当前结果的适用范围。