LLoCoT 用循环 Transformer 迭代精炼潜在工作区,在 HumanEval 与 MBPP 上以并行潜在推理达到与显式 CoT 相当的准确率,并将首答延迟降低约 36 倍
作者提出 LLoCoT:用共享 Transformer 对紧凑潜在工作区做少量迭代精炼,替代从左到右的潜在生成,再由概率头并行采样潜在 token 以条件化自回归解码器;在 HumanEval 与 MBPP 上其平均准确率与显式 CoT 基线 Reasoning SFT 相当,并优于基座模型、仅答案 SFT 与 NF-CoT,同时相对 Reasoning SFT 将首答时间降低约 36 倍、推理阶段延迟降低约 42 倍、端到端吞吐提升 9.2%。