自回归图像模型不必重训：加一张位置表、排一门顺序课，补全与外扩就能从旧权重里解锁
核心概要
预训练好的光栅顺序自回归图像模型原本只能从左到右、从上到下逐块生成，无法在推理时补全或外扩。新的适配方案只加一张未来感知位置嵌入表，并用一条从光栅顺序渐变到随机顺序的课程继续训练，让同一套权重按任意顺序条件生成。在 ImageNet 上，LlamaGen-XL 适配后 FID 从 2.63 升到 3.91，却换来补全与外扩能力，且推理仍可沿用 KV 缓存与 vLLM。
深度剖析
预训练的光栅顺序自回归图像模型可以被改造成任意顺序生成器，补全、外扩和区域编辑因此成为同一套权重的推理时条件生成，而不必另训一个模型。 此前的任意顺序路线要么从零开始在多种词元顺序的混合上训练，要么改用离散扩散；后者按构造无法复用 KV 缓存和 vLLM 这类自回归推理设施。 在 ImageNet 上，LlamaGen-XL 适配后补全与外扩的 FID 均优于 MaskGIT 的两种调度，与 MAR-L 相比两项任务的 FID 更低，而 MAR-L 的外扩 Precision 与 Recall 更高，作者据此把两者视为互有胜负。
改造只动两处：给每一步输入加上“下一个要预测哪个空间位置”的嵌入，并让训练顺序从光栅逐步过渡到完全随机。 缺少目标位置信息时，同一段可见上下文要对应不同预测目标，梯度互相冲突；而一上来就用随机顺序，梯度幅度大且方向不一致，会把模型推出预训练解所在的区域。 消融显示，去掉未来感知嵌入后损失降不到一个明显的下限，生成质量在所有顺序下都差；把课程系数从第一步就设为 1，收敛后在 LlamaGen-L 的全部保真度指标上落后于完整方案，而 Recall 基本不变。
启示与展望
演示范围是 ImageNet 上的类别条件图像生成，基座为 LlamaGen-L/XL 与 RAR-L/XL 四个公开检查点，编辑评测只覆盖区域补全。作者指出，方案是否适用于文本到图像自回归模型或更高分辨率仍需检验，且适配对象限于基于离散词元的自回归模型。
作者把类别条件 FID 的上升称为有测量的质量与灵活性权衡，而非无损转换，并说明这一代价是否根本、是否随规模单调尚不作断言。随机初始化对照只对齐了总轮数而未对齐训练日程，编辑评测也只覆盖区域补全。