world2vec 不靠奖励学世界模型:参数少一个数量级,还能从 71 个吸引子里读出系统
核心概要
world2vec 只用观测和动作、不用奖励信息,学习一个把物理状态换成隐坐标的编码器和描述其演化的隐动力学。它要求编码后的未来与在隐空间里滚动积分得到的结果一致,这一条件只依赖观测和动作即可计算。在 Pendulum、Reacher、Cartpole 三个 MuJoCo 环境上,它用比 DreamerV3、TD-MPC2、LeWM 至少少一个数量级的参数完成从像素出发的连续控制,并在 71 个吸引子的基准上做系统辨识。
深度剖析
世界模型可以在控制任务上表现很好,却未必忠实复现环境的真实动力学,这限制了它用于机制解释和科学发现;world2vec 把忠实复现动力学本身作为学习目标,而不只是把控制分数当作成功标准。 此前的做法包括基于重建的预测、在隐空间里用奖励训练的无重建规划,以及无奖励的联合嵌入预测架构;这些路线并不保证学到的隐动力学与真实系统一致。 在 Pendulum、Reacher、Cartpole 三个 MuJoCo 环境上,world2vec 同时取得较高回报和较好的预测表现,并在其中 2 个环境上完成模型预测控制,而此前最好的 JEPA 路线 LeWM 在这 3 个环境上都没能解出。
做法是让编码器把一小段观测历史映射成隐状态,再让一个动力学模型预测隐状态的变化率,用数值积分一步步往前推。 训练时比较的是编码后的未来观测与从起点滚动积分得到的隐轨迹,这一“隐动力学匹配”条件的两边都能只从观测和动作算出,不需要真实状态或真实动力学。 主实验的 world2vec 模型共 263k 参数,其中编码器 221k、动力学 42k;编码器用小型视觉 Transformer 处理 16×16 的图像块,动力学用 3 层、每层 128 单元的 MLP,训练 20k 次迭代。
动力学函数的形式可以替换,换成可解释的结构化形式后,模型能给出显式的方程描述。 主实验用 MLP 把隐状态和动作映射到变化率;另一版本沿用 SINDy 的思路,用固定的特征库加可学习系数来拟合动力学,并对系数施加惩罚。 在 71 个吸引子的基准上,world2vec 完成了准确的系统辨识,这一结果被用来展示世界模型可用于科学发现。
启示与展望
展示范围是 Pendulum、Reacher、Cartpole 三个 MuJoCo 环境上的离线训练与隐空间模型预测控制,以及 71 个吸引子基准上的系统辨识;控制实验使用 64×64 像素、20 万帧的随机策略数据,目标以目标观测序列的形式给出。
可辨识性保证是在理想化条件下从理论上给出的,实际能否达到取决于数值估计;一致性用独立训练编码器经最优仿射对齐后的差异衡量,隐 rollout 一致性可能被塌缩的嵌入取巧,因此还辅以基于检索的等变准确率。Reacher 的目标本身欠定,两种肘部构型都被规划后取平均报告。
