SLA把视觉-语言-动作模型的空间对齐从只在任务后训练阶段做，扩展到持续预训练阶段，并在下游后训练中保留。它从预训练策略初始化，联合优化动作预测与中间视觉嵌入对冻结三维感知模型空间表示的余弦对齐，训练时用特征相关门聚合多层视觉嵌入、用概率状态丢弃减少对示范轨迹的依赖；在RoboTwin 2.0的Clean2Random设置上达到72.3%，在八种真实部署条件上平均成功率83.8%，比基线高24.0个百分点。
作者在无原始数据的持续预训练与微调中，通过逐组冻结把灾难性遗忘定位到新语料中罕见词的输出嵌入行，并指出这些行因持续单向的softmax梯度被Adam的二阶矩归一化放大成全尺寸更新；据此仅在输出投影上调高Adam的二阶矩，在160M至12B、四个模型家族的八个设置中于七个稳定配置消除39.4%–67.9%的遗忘，且不损害目标域学习。
该工作发现基于损失的数据选择会使持续预训练后的Fisher对角在高Fisher坐标上系统性下降、而低Fisher坐标基本不变，据此提出将候选样本梯度分解为锚定分量与前沿分量、并用对数行列式子模目标在单遍流式流程中优化的Fisher感知选择器，在TinyLlama-1.1B与Llama-3.1-8B的医学数据持续预训练中提升目标域质量并约束遗忘，且1B精选token在适配与遗忘两项上均优于10B token的回放策略，呈现约10倍token效率优势。
已读完全部报道