子后验合并改走回归:只取各分量样本,HIGGS上合并耗时0.0122分钟
导语
Product Monte Carlo 把“密度乘积下的期望”改写成一个回归问题,只用各分量分布的抽样、不需要计算密度值,就能估计乘积分布的期望并给出不确定度。
正文
合并多份独立算出的子样本推断,现在可以只靠各分量分布的抽样完成,不必写出或计算乘积密度。 此前的做法要么把每个分量近似成参数族再解析相乘,要么对子后验抽样重新加权,要么构造以乘积分布为目标的融合采样过程。 在 HIGGS 的 1100 万条模拟碰撞事件上,把数据分批后合并,估计误差为 0.0020,合并耗时 0.0122 分钟,总耗时约为全数据 MCMC 的 10%。
做法是把乘积分布表示成“共识”在“差异”为零时的条件分布,再回归这个条件均值并在差异为零处取值。 共识是各分量样本的一个汇总值,差异衡量各分量之间的分歧;两者都由样本直接算出,因此不需要密度值。 在模拟实验中,分量族、分量间距、样本量、维度和分量个数都被改变,PMC 的三种实现分别用最小二乘、多层感知机和高斯过程回归,结果在 20 次重复上取平均。
回归用完全贝叶斯形式给出后验方差和可信区间,同时覆盖蒙特卡洛误差与认知误差。 已有方法通常只报告蒙特卡洛误差,当分量分布彼此分离时,即使估计不准,区间也会随粒子数增加而收窄。 在分量分离度增大的高斯例子里,PMC-GP 的后验不确定度随之增大;在覆盖率实验中,PMC-GP 的区间给出合理的频率派覆盖,而 GBF 的区间随粒子数增加越来越欠覆盖。
接下来
这套方法面向需要合并多份独立推断结果的研究者与工程师,适用条件是能从每个分量分布独立抽样,且分量之间相互独立。演示范围包括模拟数据,以及隐私受限的呼吸系统临床试验、HIGGS 大规模推断和 HSP90 蛋白质图像的模拟推断。作者建议把 PMC 及其诊断纳入分批与合并的工作流程,并指出当分量重叠不足时,应改从完整目标分布抽样,或重新设计分量以改善重叠。
分量重叠有限会降低差异为零附近的局部有效样本量,使估计更依赖外推,这一点由收敛速率结果和相应命题给出。作者指出,此时较大的后验不确定度或未通过的后验预测检验会提示样本可能不足以支撑可靠估计。分批还存在取舍:更小的批降低局部抽样成本,但子后验可能更分散;更大的批改善重叠,但抽样成本更高。HSP90 的图像模拟器是第三方软件,未获准再分发,因此完整流程无法仅凭代码仓库复现。
