智能体记忆不再照单全收:FGSE先做迁移、证伪与回归测试,再决定写入长期记忆
核心概要
长期运行的LLM智能体常把每个回合总结出的经验直接写进记忆,但局部成功并不等于可复用、安全的知识。FGSE把每条候选经验写成带前置条件、行为改变、预期效果和验证器的结构化假设,先在临时状态里做目标迁移、证伪和归档回归三类探针测试,再决定提交、收窄或拒绝。在WebArena、AppWorld与τ-bench等验证器可用的基准上,以DeepSeek-V3.1为骨干的FGSE取得39.8的WebArena成功率、78.8的AppWorld平均完成度,并把证伪失败率、回归损伤和有害提交更新分别压到5.0%、1.3%和3.6%。
深度剖析
智能体的自我进化从“经验即写入”改为“经验先当假设检验”:一条从回合中总结出的行为更新,只有在通过迁移、证伪和回归三类检查后才进入持久记忆。 此前的自反馈、反思、技能记忆和上下文演化方法通常把回合经验直接写入记忆或改写上下文,缺少判断一条更新是否可迁移、是否值得保留、提交风险多大的准则。 在WebArena、AppWorld、τ-bench、AgentDojo以及LongMemEval、LoCoMo等验证器可用的基准上,FGSE与反思式、记忆式和上下文演化基线比较,任务表现提升的同时证伪失败率、回归损伤和有害提交更新均下降。
每条候选更新被写成结构化假设,包含前置条件、行为变换、预期效果和验证器四部分,只在临时状态下生效,不立即改动持久记忆。 自由形式的经验条目往往范围过宽,诊断研究显示宽泛、缺少条件的经验比具体的经验造成更大的边界伤害和归档伤害,顺序写入还会累积错误。 提交门用三类探针上的统计量判定:目标迁移增益、证伪失败率和回归损伤,分别对应假设应当帮助的情形、暴露过度泛化的情形,以及智能体原本已解决、不能被削弱的情形;探针只接纳能被可执行或外部可检查信号验证的样本。
未通过门控但失败集中在可分离子范围的假设,会做一次前置条件收窄后重评;仍不通过的被拒绝,提交的假设连同探针、验证结果和提交后违规记录一起存档。 消融显示去掉结构化假设带来的下降最大,WebArena成功率降4.2、AppWorld平均完成度降5.9、LoCoMo平均R-L降4.78;去掉证伪探针则使证伪失败率从5.0%升到18.6%、有害更新率从3.6%升到10.6%。 运行时只检索前置条件匹配且违规记录低于阈值的已提交假设,多个假设按归一化前置条件分数组合并保留非零基础策略贡献,违规分数超阈值的假设被移出检索。
启示与展望
演示范围限于验证器可用的环境:网页与浏览器控制、应用与API交互、工具调用、对抗性工具输出以及长期记忆基准,另有代码与数学推理诊断;所有实验使用冻结的语言模型,不训练也不微调,只改动持久智能体状态与提交规则。作者提出的后续方向是把证伪门控扩展到多模态智能体、协作式工具使用系统,以及验证器必须学习或近似的场景。
门控的理论保证是相对于探针生成分布而言的,若部署分布与探针分布不同,需要额外的分布偏移项;探针生成器的质量决定这些分布覆盖部署时边界情况的程度。消融还显示SWE-bench这类仓库级改动高度依赖上下文,仍然容易发生回归。
