思维链为何能解没见过的多步题：同一步预测器反复复用，误差按步数亚线性累积
核心概要
思维链的分布外泛化被解释为组合式泛化：训练只给单步原子转移，目标任务却需要多步组合。理论把目标风险写成各单步风险之和乘以一个与步数无关的系数，并证明共享同一个预测器使估计项按步数的平方根倒数收缩，而非随步数线性增长。Atom-Task 与 GSM8K 实验支持短链到长链、以及未见操作组合上的迁移，同时显示显式状态跟踪不可缺少。
深度剖析
思维链模型能处理训练中从未完整出现过的多步任务，原因在于它把复杂映射拆成可复用的单步转移，在推理时反复调用同一个单步预测器。 此前的理论分析多停留在定性描述、两步设定或窄任务上，没有给出自回归逐词预测下显式的泛化界；直接学习复合映射又缺少目标任务的输入输出样本。 在 Atom-Task 上，只用单步数据训练的思维链模型表现出一定组合能力，但在更长测试步数上退化；而用 3 步或 3+5 混合短链训练的模型在更长的 3、5、7、9 步测试集上表现良好，不用中间步骤的模型则在长链上退化。
误差随推理深度的增长被拆成两部分：推理误差的乘性代价由每步生成的词块长度决定，与步数无关；统计估计代价则因所有步骤共享一个预测器而按步数的平方根倒数增长。 若把每一步单独做复杂度分析，泛化间隙会随步数线性增长；把各步样本合并到同一个受统一容量约束的假设类下分析，偏差项与复杂度项都从线性改善为亚线性。 在 Atom-Task 的深度扩展实验中，误差随步数增加而上升，但单步训练下的增量递减；样本量增加时测试错误率下降，长链尤为明显，与估计误差随样本量减小的趋势一致。
在逐词预测设定下，最终任务风险被最佳单步风险乘以同一个与步数无关的系数所界定，再加上一个量级为步数平方根倒数的估计项。 该界把最佳单步风险显式保留在最终风险中，并给出对推理深度、样本量和解码器容量的依赖；一个奇偶耦合构造表明，对子任务经验风险最小化器而言，这一依赖无法再改进。 在 GSM8K 上，用 MetaMathQA 微调的 Llama2-7B 与 Qwen2.5-3B 在主题、复杂度、答案量级三类分布偏移下准确率仅有轻微波动，支持组合模式向真实数学推理迁移。
启示与展望
分析针对显式思维链在监督式逐词预测训练下的情形，其中中间状态与单步转移都可观测；实验在自建的 Atom-Task 符号序列任务上用 Qwen3-4B 微调，并在 GSM8K 上用 Llama2-7B 与 Qwen2.5-3B 基于 MetaMathQA 的 3 万条样本验证。作者提出把该分解框架推广到强化微调与测试时搜索是自然的后续方向。
该理论不覆盖强化微调、测试时搜索等会筛选、修正或奖励轨迹的自适应范式；对模型自身生成轨迹漂移的处理只通过硬解码归约完成，本身不构成分布层面的保证；GSM8K 实验评估的是 MetaMathQA 到 GSM8K 的同族受控偏移，而非来源不相交的迁移。