BYOD给出一种只训练LoRA适配器的自回归到扩散语言模型转换方法：冻结全部基座参数，把每层因果注意力换成双向注意力，用掩码扩散目标在单张Google Colab GPU上训练最多102.4M token、3.1–4.0小时，即把Gemma 2 9B、Llama 3.1 8B、Qwen2.5 7B和Ministral 8B转成可从全掩码序列生成的扩散模型，适配器占最终参数4.1–5.8%。九项任务上最强的BYOD-Gemma平均准确率50.6%，同一评测框架下LLaDA 8B Instruct为51.9%；低NFE预算下的开放生成质量仍是主要短板。
扩散语言模型每步并行提交多个词元时准确率会大幅下滑，RePara 用分组相对策略优化强化连续短词元块，在 LLaDA 上把 GSM8K 的 Diff#16 准确率从 JustGRPO 的 28.20 提到 68.54。
该工作提出免训练的 WaveFront Decoding（WFD）自推测解码框架，利用循环语言模型中间递归输出可作草稿、权重共享可让不同位置与不同递归深度的状态在同一次批处理递归块调用中处理这两个性质，把混合深度状态组织成对角波前，使草稿与验证在同一批递归调用中并行进行，并用全深度预测纠正被拒绝的草稿；在 Spec-Bench 六个任务类别上相对自回归解码取得 Ouro-2.6B 2.42 倍、Huginn-3.5B 3.54 倍加速，结合跨递归 KV 共享后 Huginn-3.5B 加速最高达 4.81 倍。
这篇综述把并行推理定义为「分解—并行处理—聚合」三阶段推理范式，给出形式化公式并区分其与思维链、长思考的差异，随后按非交互（自洽性、Best-of-N排序、结构化推理）、交互（模型内交互、多智能体交互）与效率（并行解码、并行函数调用、推测解码）三条主线梳理代表性方法，并总结应用场景、核心挑战与未来方向。
该研究对7个代表性扩散大语言模型（含闭源Mercury-Coder-Small）与4个开源自回归基线在HumanEval/HumanEval+、MBPP/MBPP+、HumanEval-X、LiveCodeBench、RepoQA、RepoBench-C及SWE-Bench Verified上做了代码生成中心的实证评测，发现扩散模型能力有前景但不均衡：闭源扩散模型在多数基准上最强（如MBPP+ 79.1%对最佳自回归基线73.3%），代码专用开源扩散模型优于通用扩散模型，开源扩散模型整体尚未稳定追平最强自回归基线，但在若干函数级基准上已具竞争力，且所选扩散与自回归模型组解决的问题集合部分不重叠（3
Flash-dLLM 是一个免训练的扩散语言模型推理加速框架：用 I/O 感知的融合 KV 缓存内核（把 QKV 投影、RoPE 与缓存写入合并并在 SRAM 内完成、直接写回 KV 缓存）和调度式 Flash Attention 缓解 GPU 显存读写瓶颈，用选择性缓存更新只保留最受关注的少量 token，并让模型自身同时充当草稿者与验证者（Flash-Verify）；在 LLaDA-1.5 上的 GSM8K、MATH、HumanEval、MBPP 实验中，它报告相对最强基线 Elastic-Cache 在 GSM8K 与 HumanEval 上分别 5.1× 和 11.0× 的加速，并保持生成质量。
已读完全部报道