# 测试时扩展

大模型并行测试时扩展通常把每条推理路径完整生成后才用内部置信度打分，低质量路径的算力已经花掉。PreG改为先并行生成短前缀，用内部置信度排序，只把最有希望的候选补全，再按原有投票方式聚合。在Qwen3-8B与Llama-Nemotron-4B上的数学竞赛题和GPQA-Diamond评测中，它以更少token达到原方法1000k预算的准确率，60种配置里54种省token，最多省80%。

大模型并行测试时扩展通常把每条推理路径完整生成后才用内部置信度打分，低质量路径的算力已经花掉。PreG改为先并行生成短前缀，用内部置信度排序，只把最有希望的候选补全，再按原有投票方式聚合。在Qwen3-8B与Llama-Nemotron-4B上的数学竞赛题和GPQA-Diamond评测中，它以更少token达到原方法1000k预算的准确率，60种配置里54种省token，最多省80%。

掩码扩散语言模型可以重新遮盖已生成的文本，但按置信度或自评决定改哪里，往往改不动错误。DiVR 改为在生成器自身的解码轨迹上学习一个结果判别器，在块边界判断这段部分解是否还能走向正确答案，分数低就整块重采样。在 LLaDA-8B-Base 的监督微调生成器上，五个数学与代码基准的平均准确率从35.3%升到43.4%，代价与贪心解码相当。

掩码扩散语言模型可以重新遮盖已生成的文本，但按置信度或自评决定改哪里，往往改不动错误。DiVR 改为在生成器自身的解码轨迹上学习一个结果判别器，在块边界判断这段部分解是否还能走向正确答案，分数低就整块重采样。在 LLaDA-8B-Base 的监督微调生成器上，五个数学与代码基准的平均准确率从35.3%升到43.4%，代价与贪心解码相当。

Eco-RNA把推理深度变成可调资源：同一个80M参数检查点重复执行共享核心，在70项RNAGym适应度实验上把聚合绝对Spearman相关从0.242提到0.286，四次迭代即超过40B的Evo 2。

Eco-RNA把推理深度变成可调资源：同一个80M参数检查点重复执行共享核心，在70项RNAGym适应度实验上把聚合绝对Spearman相关从0.242提到0.286，四次迭代即超过40B的Evo 2。

该工作研究仅以 LLM 输入查询为条件信号的超网络来估计 LoRA，并提出分布型超网络，通过可微蒙特卡洛近似的端到端损失输出 LoRA 上的分布；结果显示即使只用所学分布的均值也能超越确定性超网络，且对权重更新采样可形成不同于 token 采样的测试时扩展，样本越多性能越好并强于对应的 token 采样基线，生成的更新还能跨查询迁移。

该工作研究仅以 LLM 输入查询为条件信号的超网络来估计 LoRA，并提出分布型超网络，通过可微蒙特卡洛近似的端到端损失输出 LoRA 上的分布；结果显示即使只用所学分布的均值也能超越确定性超网络，且对权重更新采样可形成不同于 token 采样的测试时扩展，样本越多性能越好并强于对应的 token 采样基线，生成的更新还能跨查询迁移。

该工作提出 SCOUT，一个离线多智能体强化学习框架：它分别训练流匹配行为先验与分解式价值函数，在测试时用 Stein 变分梯度下降把行为样本输运到高价值区域，并以输运步数替代固定正则系数；在个体-全局-最大（IGM）原则下证明了联合软价值差的单项 KL 界随输运收敛而消失、并留有与 IGM 违背成正比的不可约加性残差；实验上在离散与连续离线 MARL 基准上取得最佳平均性能，并在所有离线到在线配置中都有提升。

该工作提出 SCOUT，一个离线多智能体强化学习框架：它分别训练流匹配行为先验与分解式价值函数，在测试时用 Stein 变分梯度下降把行为样本输运到高价值区域，并以输运步数替代固定正则系数；在个体-全局-最大（IGM）原则下证明了联合软价值差的单项 KL 界随输运收敛而消失、并留有与 IGM 违背成正比的不可约加性残差；实验上在离散与连续离线 MARL 基准上取得最佳平均性能，并在所有离线到在线配置中都有提升。

该工作提出“架构采样”：一种免训练方法，通过复用解码器层中选定的层块，让冻结模型沿不同前向计算路径生成候选，在五个Qwen检查点和十二个多模态基准上，以相同的九个候选预算将pass@9相对标准路径温度采样平均提升6.58个百分点，复用早期层收益最强，候选覆盖提升在贪心解码下依然存在，且候选词面重叠更低，用作无标签测试时强化学习的rollout时准确率提升。

该工作提出“架构采样”：一种免训练方法，通过复用解码器层中选定的层块，让冻结模型沿不同前向计算路径生成候选，在五个Qwen检查点和十二个多模态基准上，以相同的九个候选预算将pass@9相对标准路径温度采样平均提升6.58个百分点，复用早期层收益最强，候选覆盖提升在贪心解码下依然存在，且候选词面重叠更低，用作无标签测试时强化学习的rollout时准确率提升。

该工作提出 Mid-Harness，在动作生成器与执行框架之间对候选动作进行采样与验证后再执行其中一个，在保持生成器和框架不变的前提下研究动作级测试时计算扩展：在 TerminalBench-Lite 上，用 GPT-5.6 Sol 作为验证器把 TMAX-9B 的 Pass@1 从 50.00% 提升到 68.03%（8 个候选动作），而弱验证下增加采样宽度收益很小，成对验证在自验证设置中表现最好，把强验证器的响应蒸馏进 TMAX-9B 可进一步提升 Pass@1，且动作级扩展与轨迹级扩展（Best-of-N 与 Sequential Refine）组合后能以更低的估计 token 成本取得更高成功率。

该工作提出 Mid-Harness，在动作生成器与执行框架之间对候选动作进行采样与验证后再执行其中一个，在保持生成器和框架不变的前提下研究动作级测试时计算扩展：在 TerminalBench-Lite 上，用 GPT-5.6 Sol 作为验证器把 TMAX-9B 的 Pass@1 从 50.00% 提升到 68.03%（8 个候选动作），而弱验证下增加采样宽度收益很小，成对验证在自验证设置中表现最好，把强验证器的响应蒸馏进 TMAX-9B 可进一步提升 Pass@1，且动作级扩展与轨迹级扩展（Best-of-N 与 Sequential Refine）组合后能以更低的估计 token 成本取得更高成功率。