# 幂采样

PowerMH 的接受/拒绝判定必须串行，每次判定后才能生成下一个提议；PreSTO 把未来若干步的提议放进一次批量调用预取，在七个数据集和五个基座模型上对 PowerMH 取得 1.71 倍中位加速，且不改变其转移核。

PowerMH 的接受/拒绝判定必须串行，每次判定后才能生成下一个提议；PreSTO 把未来若干步的提议放进一次批量调用预取，在七个数据集和五个基座模型上对 PowerMH 取得 1.71 倍中位加速，且不改变其转移核。

对幂分布做MCMC与SMC采样在现实算力下无法收敛，其推理增益大多可由简单的Best-of-N选择复现；直接微调逼近幂分布的Power-RLOO只在基座模型已与任务对齐时才带来提升。

对幂分布做MCMC与SMC采样在现实算力下无法收敛，其推理增益大多可由简单的Best-of-N选择复现；直接微调逼近幂分布的Power-RLOO只在基座模型已与任务对齐时才带来提升。

该工作提出免训练采样方法 Power-SMC，通过并行维护多条候选序列、以重要性权重衡量其与序列级幂分布的匹配程度并周期性剪除低分序列，在 MATH500、GSM8K、GPQA 和 HumanEval 上取得与 Metropolis-Hastings 采样相当或更高的准确率、保持输出多样性，同时把推理速度提升至多 17.6 倍。

该工作提出免训练采样方法 Power-SMC，通过并行维护多条候选序列、以重要性权重衡量其与序列级幂分布的匹配程度并周期性剪除低分序列，在 MATH500、GSM8K、GPQA 和 HumanEval 上取得与 Metropolis-Hastings 采样相当或更高的准确率、保持输出多样性，同时把推理速度提升至多 17.6 倍。