# 自回归词元生成

自回归逐词生成的能力边界被完整刻画：带少量私有状态的采样器无法采样伪随机生成器输出，而允许任意位置插入的插入式采样器可以做到。

自回归逐词生成的能力边界被完整刻画：带少量私有状态的采样器无法采样伪随机生成器输出，而允许任意位置插入的插入式采样器可以做到。

作者提出MPAD：先用3D自编码器把MRI体积压成各向同性隐表示，再用2D扩散模型重建被掩码的目标对比度隐切片，并以源对比度切片、未掩码目标切片和文本模态提示为条件；推理时按平面自回归生成，把已合成体积作为正交平面的先验，从而仅用2D操作完成全容积3D合成，相比3D隐扩散基线训练FLOPs降7倍、推理FLOPs降3倍，并在ADNI与IXI上取得更优的PSNR、SSIM与NMSE。

作者提出MPAD：先用3D自编码器把MRI体积压成各向同性隐表示，再用2D扩散模型重建被掩码的目标对比度隐切片，并以源对比度切片、未掩码目标切片和文本模态提示为条件；推理时按平面自回归生成，把已合成体积作为正交平面的先验，从而仅用2D操作完成全容积3D合成，相比3D隐扩散基线训练FLOPs降7倍、推理FLOPs降3倍，并在ADNI与IXI上取得更优的PSNR、SSIM与NMSE。

该工作提出两种可学习的离散潜在蛋白质语言：序列侧的 PLL 基于冻结的 ESM-2 编码器构建 4096 状态上下文词表，结构侧的 SLL 在 GCP-VQVAE Lite 上加入序列与置信度辅助监督并保持可解码为骨架坐标；在匹配的下游训练下，PLLM 的拟合计算缩放指数为 0.038，高于氨基酸自回归模型的 0.020，且将低于 1.5 比特残基组成熵阈值的样本比例降低 54%；用 SLL 替换原分词器使序列到结构预测的最佳验证困惑度降低 34%。

该工作提出两种可学习的离散潜在蛋白质语言：序列侧的 PLL 基于冻结的 ESM-2 编码器构建 4096 状态上下文词表，结构侧的 SLL 在 GCP-VQVAE Lite 上加入序列与置信度辅助监督并保持可解码为骨架坐标；在匹配的下游训练下，PLLM 的拟合计算缩放指数为 0.038，高于氨基酸自回归模型的 0.020，且将低于 1.5 比特残基组成熵阈值的样本比例降低 54%；用 SLL 替换原分词器使序列到结构预测的最佳验证困惑度降低 34%。