并行推理不再把每条路径写完：PreG先看前缀再决定，54/60种配置省下token
核心概要
大模型并行测试时扩展通常把每条推理路径完整生成后才用内部置信度打分，低质量路径的算力已经花掉。PreG改为先并行生成短前缀，用内部置信度排序，只把最有希望的候选补全，再按原有投票方式聚合。在Qwen3-8B与Llama-Nemotron-4B上的数学竞赛题和GPQA-Diamond评测中，它以更少token达到原方法1000k预算的准确率，60种配置里54种省token，最多省80%。
深度剖析
并行测试时扩展的算力分配方式变了：不再把所有采样路径写到结尾再评估，而是先花一小段预算看前缀，把大部分预算留给少数被看好的候选。 此前的置信度加权并行方法要等每条路径完整生成后才计算置信度，路径越多，花在最终被淘汰的低质量路径上的token就越多。 在Qwen3-8B与Llama-Nemotron-4B、四个数学竞赛数据集加GPQA-Diamond、100k/300k/1000k三档预算下，PreG在15个数据集-预算组合中分别有13个（Qwen）和14个（Llama）取得对比方法中的最好结果。
做法是把一次生成拆成两段：先并行写出固定长度的前缀，用模型自身的置信度给前缀排序，再只补全排名靠前的那一部分。 置信度信号取自模型内部，不需要过程奖励模型或验证器这类外部打分器，因此可以跨模型套用。 前缀阶段取前4096个token，补全阶段沿用Borda投票或保留前10%路径再加权投票；在CMIMC的1000k预算下，Qwen上的SCert-PreG配合W-10%比所有基线高5.4%。
省下的算力体现在token账上：达到原方法1000k预算的准确率，PreG多数情况下用更少的token。 原方法要先把预算全部花在完整路径上，才能得到同等准确率。 60种配置中54种token用量低于对应原方法，其中27种不到一半；BRUMO上最多省80%，Qwen的数学数据集除一种配置外都省40%以上。
启示与展望
评测覆盖Qwen3-8B与Llama-3.1-Nemotron-Nano-4B-v1.1两个推理模型，任务为AIME25、BRUMO25、HMMT25-Feb、CMIMC25四个数学竞赛数据集与GPQA-Diamond，预算为100k、300k、1000k token；系统级测量在四块NVIDIA H200上用vLLM完成。
效果受底层置信度信号质量约束，信号弱时增益有限，GPQA-Diamond上的AUROC低于数学数据，加入置信度有时反而降低表现；token预算很小时PreG可能不如原方法，W-10%投票在100k预算下Qwen约与基线持平、Llama略有下降。