TaH2 让循环 Transformer 按 token 分配迭代深度，AIME 上把准确率-算力斜率提高 53%

论文系统刻画了循环 Transformer 的测试时扩展行为：在相同预训练检查点和后训练数据下，固定深度 Ouro、自适应 Ouro 与 Huginn 的准确率-算力斜率分别为 2.44、2.44 和 2.36 分/算力翻倍，均高于非循环基线 Standard 的 1.79，但在重叠算力区间内准确率始终低于 Standard。 以往研究多在匹配参数量或每 token FLOPs 下比较循环与非循环模型，本文改为在输出 token 预算从 4K 扫到 16K 的条件下测量“解码 FLOPs 每翻一倍带来的准确率增益”，把比较轴从模型规模移到测试时算力。 基于 Qwen3-1.7B-Base 的统一后训练设置，AIME24–26 每题 32 个样本，输出截断从 4K 到 16K 以 2K 为步长扫描，并对准确率与解码 FLOPs 的对数做线性拟合。

逐 token 分析显示固定深度循环把额外迭代花在了大量并不受益的 token 上：Ouro 与 Huginn 的下一 token 损失变化分布集中在零附近，分别有 68% 和 66% 的 token 变化不超过某阈值，另有 21% 和 24% 的 token 反而变差超过该阈值。 这为“循环为何在同等算力下落后”给出了 token 粒度的解释，并直接指向按 token 分配迭代深度的设计，而不是继续加深或加宽循环。 在从训练混合数据中随机抽取并排除于训练的 1000 条验证样本上，比较第一次与最后一次迭代后的下一 token 损失。

TaH2 联合后训练主干与迭代决策器，用前瞻深度监督从当前主干在线生成“继续迭代是否改善预测”的标签，并以代价敏感损失监督每次深度决策；在 AIME 上把准确率-算力斜率提升 53%（2.74 对 1.79），在同等测试算力下超过 Standard 峰值约 3.4 分。 与 TaH 使用离线错配标签的分阶段训练、以及 Ouro 第二阶段冻结主干只训练门控不同，TaH2 的深度标签在训练过程中由当前主干实测的迭代增益在线导出，主干与决策器同步更新。 1.7B 规模、AIME24–26 的 avg@32 评测，评测长度扩展到 32K token；消融显示把增益标签换成 top-1 错配标签平均掉 1.1 分，把代价敏感权重换成均匀权重掉 3.6 分，保留全部正增益掉 1.9 分。

随最大迭代深度上限提高，已有循环模型基本进入平台期，而 TaH2 相对非循环基线的增益从深度 2 时的 +2.8 分增长到深度 8 时的 +3.9 分；该优势在 4B 与 8B 规模上依然存在，并扩展到代码、问答与工具调用任务。 深度上限在已有循环模型中往往只带来饱和甚至退化，而 TaH2 把深度上限转化为持续可用的准确率收益，说明自适应深度分配改变了深度扩展的收益结构。 1.7B 上十个基准的平均增益随深度上限从 +2.9 分增至 +4.8 分；4B 平均提升 3.2 分、8B 平均提升 2.4 分，AIME 上最高提升分别达 7.4 分与 4.4 分。

该结果面向以 Qwen3-{1.7B,4B,8B}-Base 为基座、在数学、代码、问答与工具调用数据上做监督微调后训练的场景，评测以 AIME24–26 等基准的 avg@32 与解码 FLOPs 为核心指标，并配合支持不同迭代深度批处理的 Mini-SGLang 引擎验证实际吞吐。它使“把循环引入已有预训练模型”这一后训练路线在同等测试算力下具备超过非循环基线的可能，也为后续在更大模型、更长输出预算和更多任务族上检验自适应深度提供起点。

论文自述其方法仅在监督微调下研究，向在线策略蒸馏与强化学习的扩展留待未来工作；训练 FLOPs 高于标准 SFT，虽然作者指出后训练总算力远低于预训练。推理深度超出训练上限时准确率基本不变而平均深度上升，说明额外深度既未破坏模型也未带来进一步提升。此外，本次读取的是论文全文文本，图表以文字描述形式呈现，具体曲线形状与逐点数值仍需对照原文图件确认。