智能体不再从零试错:代码世界配实时神经渲染器,捉迷藏第4轮就搭出掩体
核心概要
AgentGarten把环境拆成两半:模拟器或游戏引擎保存持久状态并执行可编程的交互规则,共享的神经渲染器只负责把引擎导出的几何条件实时变成智能体看到的画面。渲染器由预训练视频模型经几何条件适配、块因果改造和Adversarial Forcing蒸馏得到,在单张H100上以超过35帧每秒生成观测。在捉迷藏中,只通过渲染画面观察的预训练智能体第4轮用挡板搭出掩体、第10轮用斜坡翻墙,另有四个世界在四轮练习中成绩提升。
深度剖析
环境的状态与外观被拆开:场景程序在模拟器或游戏引擎里运行,维护持久状态并执行显式交互规则,智能体看到的画面则由一个共享的神经渲染器从引擎导出的结构化条件生成。 此前的模拟器和游戏引擎能提供显式状态与可编程规则,但扩充视觉多样性要制作大量三维资产和复杂渲染管线;视频世界模型能从数据合成丰富的交互画面,但任务相关状态和物理转移规则隐含在生成历史与学习到的表示里,无法直接检查、编辑和测试。 渲染器只通过条件观察状态,转移过程不以渲染画面为输入,因此渲染误差不会累积进状态;同一段记录下来的状态轨迹可以在不同外观参考或不同相机下重新渲染,而不改变底层事件。
渲染器由预训练双向视频模型改造而来,先适配几何条件,再转成块因果生成,最后蒸馏成少步实时渲染器。 把视频模型当作交互渲染器,需要它严格跟随更新后的引擎条件、在长时程推演中保持视觉一致,并以细粒度短块合成观测,让智能体在短暂动作后立刻得到反馈。 Adversarial Forcing在模型自身推演上做分布匹配,并用精确重放让后续损失更新历史编码;重放按块执行,与采样轨迹逐位一致,而全序列FlexAttention重放的相对误差为3.99%。
智能体只通过渲染出的第一人称画面感知世界,每轮结束后把经验写成可继承的技能文件,下一轮由全新对话中的智能体读取。 2019年的捉迷藏研究用自对弈强化学习从随机权重学起,报告约2500万回合后出现搭建掩体、再约7500万回合后出现使用斜坡,且智能体直接观察物体状态。 在只接收渲染观测、不获得物体坐标或隐藏世界状态的设定下,躲藏方在第4轮用挡板搭出掩体,寻找方在第10轮用斜坡翻墙;另外四个世界各跑四轮,伴犬互动得分从13升到19,单车道桥双方到达用时从71秒降到41秒,牧羊四轮中除首轮外都把四只羊全部赶进围栏,采石场装载机第4轮在360秒中的329秒内清石、运送并停车。
启示与展望
这套结果覆盖的是渲染器在单张H100、BF16、四步采样、四潜帧一块的设定下的视觉质量、重放精度与吞吐,以及五个代码世界中预训练智能体多轮练习的成绩。适用读者是构建具身智能体训练环境或交互式世界模型的研究与工程人员。渲染器接收的几何条件只描述可见几何,颜色、材质与物体身份由外观参考和视觉历史承载。
作者指出深度与表面法线作为条件接口存在冗余,空间下采样可能抹掉细结构、窄缝和微小接触变化;几何本身也不决定全部状态,旋转对称物体的自转在深度和法线上不可见,材质、颜色与物体身份不由几何确定,视觉历史在长时间遮挡或超出记忆窗口的重访后可能丢失这些属性。作者把更抽象紧凑的条件表示、让编码智能体自动编写与校验世界、以及跨世界经验的取舍与合并列为待解问题。
