Bocconi University

离散扩散模型的采样此前每一步都要重新抽取随机数，轨迹无法固定。指数残差流为每个位置和词元配一个连续残差变量，初始化后按分段常微分方程确定演化，残差归零即触发一次词元替换，并证明该构造保持原扩散模型各时刻的边缘分布。在匹配模型评估次数下，其生成质量与祖先采样相当，确定性轨迹还可用于一致性蒸馏。

离散扩散模型的采样此前每一步都要重新抽取随机数，轨迹无法固定。指数残差流为每个位置和词元配一个连续残差变量，初始化后按分段常微分方程确定演化，残差归零即触发一次词元替换，并证明该构造保持原扩散模型各时刻的边缘分布。在匹配模型评估次数下，其生成质量与祖先采样相当，确定性轨迹还可用于一致性蒸馏。

自回归逐词生成的能力边界被完整刻画：带少量私有状态的采样器无法采样伪随机生成器输出，而允许任意位置插入的插入式采样器可以做到。

自回归逐词生成的能力边界被完整刻画：带少量私有状态的采样器无法采样伪随机生成器输出，而允许任意位置插入的插入式采样器可以做到。