跳到主要内容
返回时间线
arXiv来源发表:

智能体不再只改行为:把环境规律写成可证伪假设,漂移后自己换掉旧规则

导语

EvoBelief 让冻结的语言模型在部署中把环境规律写成可证伪假设,只有通过独立证据检验的规则才能改变预测和计划;在 ALFWorld 无迁移记忆设置下,它比同配对的 Frozen World Model 分别高出 23.9% 和 31.3%。

Source-provided article image: EvoBelief: Falsifiable World Models for Self-Improving LLM Agents
Figure 1 · arXiv

正文

智能体的自我改进多了一条路径:不改模型参数,改它对环境如何响应的信念。 此前的自进化智能体主要改进行为,靠积累轨迹、反思、记忆或把经验蒸馏成技能,这些机制针对的是策略或流程不足。 在 ALFWorld 不使用 actor 侧迁移记忆时,EvoBelief 相对同配对的 Frozen World Model 把成功率提高 23.9%(Claude Haiku 4.5)和 31.3%(GPT-5.4)。

环境知识被写成可证伪的假设,先检验再获得指导预测和计划的权限。 新形成的假设没有任何权限,一次意外结果本身不构成证据,也不能作为已确立知识去支持任务动作。 承诺门槛要求支持来自至少两个不同绑定、至少两个不同回合,且其中至少一个独立于该假设自身影响的决策;阈值在基准运行前设定,从不在基准结果上调参。

反例会让规则收窄、降级或退役,环境漂移时旧知识不会一直拖累智能体。 规则先被收窄到仍有证据支持的适用范围并重算承诺条件,证据不足则降级但保留证据记录,只有反复反例使其失去全部支持证据才退役。 在 MiniGrid 每 40 回合的流中,开门钥匙在第 20 回合后静默切换;反例使旧规则退役并重新开启实验,随后验证出后继规则,成功率回到切换前水平。

验证过的规则可以跨任务复用,因为规则描述的是环境而不是某个任务。 规则在获得权限的任务里很少被使用,因为验证本身就需要来自至少两个任务的独立证据。 在 ALFWorld 的四种配置中,超过 80% 的受验证规则指导的决策发生在规则获得验证的任务家族之外。

接下来

这套机制在文本环境中得到验证,转移可以被记录、预测可以在所需结果可观测时被核对。读者对象是研究 LLM 智能体持续适应与科学发现的研究人员和工程师,适用场景是环境动力学与预训练先验不一致、且可能在部署中变化的交互任务。作者把扩展到多模态、具身和真实世界软件智能体列为下一步。

实验使用文本环境,转移可记录、预测可核对。作者指出,随机效应场景需要用统计检验替代计数阈值来承诺规则,而代价高昂或不可逆的干预需要在明确风险限制或人工批准下运行。当回合记忆已经补上先验缺失时,它与显式信念部分重叠,何时依赖哪一种仍是开放问题。

来源