跳到主要内容
返回时间线
arXiv来源发表:

世界模型打分不必逐个跑:一次提取局部形状,16个候选快过源生成器

核心概要

把动作条件数据流形的局部形状一次提取出来,之后任意多个候选动作只需矩阵乘法即可打分,16个候选比源生成器快一个数量级以上,短时域预测还更准。

Source-provided article image: Action Jets: Learning the Local Shape of the Action-conditioned Data Manifold
Figure 3 · arXiv

深度剖析

动作条件世界模型给每个候选动作打分都要跑一次完整前向,候选一多,规划器就付不起这个代价。 IRASim 每个候选动作块要跑 25 步扩散,WorldGym 要跑 40 步,因此比较一百个候选就是一百次模型推演。 在 BridgeData V2 上,16 个候选从一次提取打分比两个源生成器都快一个数量级以上,且候选越多差距越大。

固定当前状态、只改变动作,可达的潜在图像状态落在一张低维曲面上,这张曲面由数据分布决定,而不是由某个模型决定。 此前只能靠反复采样生成器来逼近这张曲面,每个候选都要重新推演。 在 Kubric 上,探针提取的每单位动作场与可微生成器的自动微分雅可比在余弦相似度上吻合,说明测到的是生成器对动作的响应。

做法是先测出每个图像区域随每条动作轴移动多少,再用一个几何编码器一次前向输出这个动作雅可比,最后用一个修正头补上二阶和三阶项。 一阶项来自生成器,二阶、三阶项以及一阶修正都拟合真实记录的转移,因此只有切向来自生成器。 在 BridgeData V2 上,带微调解码器的 Action Jet 在 gap 1 的 PSNR 和 LPIPS 上超过提供切向的 IRASim,在 gap 2 持平,而计算量低一个数量级以上。

启示与展望

所有几何都在一个固定自编码器的潜在空间中测量,因此严格说恢复的是数据与编码器的复合流形,实验改变的是生成器而不是潜在空间。每张图只在其探测尺度上成立,对源生成器的优势也只在短时域内成立,全部评估都是开环的。

去遮挡没有多项式形式,即使注入噪声,仍会有一些模糊集中在可见性边界。每张图只在其探测尺度上成立,对源生成器的优势只在短时域内成立。在 BridgeData V2 上,从 WorldGym 学到的图没有锚定到真实转移,被保留为负对照。