跳到主要内容
返回时间线
arXiv来源发表:

世界模型测试时适应不再只拟合预测:OpTTA加入乐观规划项,15个偏移设置中14个最终成功率高于AdaJEPA

核心概要

预训练潜世界模型在测试时通常保持冻结,分布偏移会让基于它的规划变差;只按预测损失在线更新,模型只拟合自己已执行动作的结果,对能到达目标的动作仍可能判断错误。OpTTA在预测损失之外加入规划器对候选想象轨迹的目标到达代价,让适应偏向“乐观”的模型参数。在三个JEPA世界模型、15个视觉与环境偏移设置上,只适应预测器时OpTTA相对冻结模型的最终成功率平均提高13.5个百分点,预测-only的AdaJEPA为6.9个百分点;同时适应编码器时为13.5对7.5个百分点。

AI-generated editorial illustration: Adapt for Planning, Not just Prediction: Optimistic Test-Time World Model Adaptation

深度剖析

世界模型在部署时的在线更新目标从单一预测损失扩展为预测损失加规划代价,使适应过程直接面向“能否到达目标”,而不只是拟合已观测到的转移。 此前的AdaJEPA在测试时只最小化最近观测转移上的一步潜空间预测损失,模型只在自己动作产生的结果上被拟合,因此可能对这些结果拟合得很好,却对真正能到达目标的动作判断错误。 在15个偏移设置中,OpTTA的最终成功率有14个高于AdaJEPA;只适应预测器的8个设置里,OpTTA相对冻结模型平均提高13.5个百分点,AdaJEPA为6.9个百分点,联合适应编码器的7个设置为13.5对7.5个百分点。

适应目标由两项组成,一项是观测转移上的预测损失,另一项是规划器对候选想象轨迹计算的目标到达代价,两项都对世界模型参数求梯度。 第二项借用自适应控制中的奖励偏置最大似然思想,不需要置信集或显式不确定性估计,也不增加额外的环境交互;乐观权重按预测梯度与规划梯度的相对量级调度,并随重规划步数逐步增大。 实验覆盖LeWM、DINO-WM和时间拉直三个JEPA世界模型,任务包括PushT、PushObj操作、Reacher到达和TwoRoom与迷宫导航,偏移包括七类视觉损坏以及颜色、几何、质量和阻尼变化;CEM与基于梯度的规划器都做了测试。

启示与展望

演示范围是三个JEPA潜世界模型上的目标条件规划,任务为操作、到达和导航,偏移为视觉损坏与环境参数变化,规划器为CEM和基于梯度的规划;适应是任务局部的,每个任务结束后模型重置为预训练参数并清空缓冲区。

在TwoRoom的视觉损坏下,AdaJEPA和OpTTA在两种适应范围下都使最终成功率低于冻结模型,最佳可更新参数也随任务变化,这种任务依赖性尚未解释;OpTTA每次重规划增加计算,DINO-WM上更新耗时接近规划本身,默认配置未必最优,乐观权重的设计仍是开放问题。