推理不再只靠事后投票：VGSC在解码中随机接受候选步，平均准确率63.1%
核心概要
大模型多步推理的测试时搜索长期在两种不完美信号之间取舍：事后投票保留多样性却无法把生成引向正确路径，束搜索式验证器引导能提前干预却容易过度集中并放大验证器误差。VGSC把逐步正确性与未来结果预测合成一个接受权重，在解码时对候选步做有上限的拒绝重采样，同时保留多条轨迹做最终自洽投票。在五个推理基准、Qwen2.5 Math 1.5B Instruct生成器与Qwen2.5 Math PRM 7B验证器下，VGSC在验证器信任指数为10时取得63.1%的平均准确率，高于最强非VGSC基线BS+SC-Future的60.7%。
深度剖析
测试时推理多了一种解码方式：验证器不再只在完整推理链生成后排序或加权投票，而是在每一步生成时就参与决定保留哪个候选步。 事后聚合方法从基础模型采样完整轨迹，验证器只在生成结束后使用，因此当生成器很少采到正确轨迹时无法补救；束搜索式引导在解码中介入，但确定性剪枝会让搜索过度集中在狭窄轨迹集上并放大验证器误差。 在MATH、OlympiadBench、ScienceQA、CommonsenseQA和Knights&Knaves五个基准上，使用Qwen2.5 Math 1.5B Instruct生成器与Qwen2.5 Math PRM 7B验证器，VGSC在验证器信任指数为10时平均准确率为63.1%，最强非VGSC基线BS+SC-Future为60.7%，权重自洽WSC在相近名义预算下为59.4%。
每一步的候选由基础语言模型提出，再由一个接受权重决定是否采纳，被拒绝就重新提出，直到达到每步的提议上限。 接受权重同时乘上两个概率型信号：逐步验证器给出的当前步正确概率，以及未来结果预测器给出的该前缀能走到正确最终答案的概率，两者都按验证器信任指数取幂。 未来结果预测器从同一PRM检查点初始化，只在其28层Transformer的最后四层训练LoRA适配器，训练标签来自PRM800K前缀上每条采样10条续写中到达正确答案的比例；若一步内所有提议都被拒绝，则按权重从缓存候选中选一个，实测在信任指数为5时约一成解码步触发回退，信任指数更高时仍低于两成。
启示与展望
演示范围是五个可抽取最终答案的推理基准：MATH与OlympiadBench为数学，ScienceQA为科学，CommonsenseQA为常识，Knights&Knaves为逻辑；主实验使用Qwen2.5 Math 1.5B Instruct生成器与Qwen2.5 Math PRM 7B验证器，附录另报Llama 3.2 3B Instruct、Gemma3 4B Instruct以及ReProbe验证器家族的结果。
VGSC依赖学习到的引导信号质量与任务对齐程度，验证器弱、失准或与目标域不匹配时收益可能更小，CommonsenseQA上使用ReProbe的结果就属于这一情形；验证器信任指数是方法特有的超参数，默认范围在多个数据集上表现良好，但最佳取值可能随验证器质量、生成器行为和任务域变化，新场景下可能需要验证或调参。