量子线路不再只留最优解:把29个模型按认知多样性挑出5个融合,四个数据集全部超过最强单体
核心概要
把量子线路搜索中通常被丢弃的候选模型按认知多样性挑出5个与经典模型融合,在心脏病、电离层、皮马糖尿病和垃圾邮件四个二分类数据集上全部超过池中最强单体模型,最大提升6.03%。
深度剖析
量子机器学习流水线通常只保留搜索出的单个最优线路,其余候选被丢弃;这项工作报告的是把这些候选当作独立评分系统保留下来,用多样性感知的选择与组合规则做融合,在四个二分类基准上融合结果都优于池中最强单体模型。 此前的量子架构搜索,包括可微量子架构搜索,最终只返回一个选定的线路结构,搜索过程中评估过的其他候选全部被丢弃;量子机器学习中的集成方法也大多停留在对输出概率做简单平均或按经验加权,没有用多样性度量来指导选择与组合。 在心脏病、电离层、皮马印第安人糖尿病和垃圾邮件四个数据集上,融合模型相对最强单体模型的提升分别为AUC 0.9106到0.9444、准确率0.9434到0.9811、0.7845到0.8448、0.9349到0.9407,其中皮马糖尿病上的6.03%为四个数据集中最大。
做法是把每个量子线路或经典模型都看成一个独立的评分系统,先按认知多样性挑出彼此差异最大的模型子集,再在分数空间或排名空间把它们的预测合起来。 认知多样性是组合融合分析里的一个度量,它比较两个评分系统的秩-分数函数之间的距离,也就是两个模型把样本按分数排序后,判别能力在排序人群上分布得有多不一样,而不是只看输出之间的相关性或预测是否一致。 模型池共29个评分系统,包括12个来自可微量子架构搜索空间扩展后的线路配置、8个手工挑选的量子线路和9个经典模型;选择时先剔除验证集AUROC不高于0.5的模型,再按成对认知多样性排序并用Kneedle算法找拐点,最后把候选集截到5个模型,在四个数据集上分别得到不同的量子与经典混合子集。
启示与展望
报告的范围是四个二分类基准数据集上的离线实验,覆盖医疗诊断、信号处理和网络安全三个领域,样本量从270到4601、特征数从8到57。适合关注量子机器学习集成方法、模型融合与多样性度量的研究人员和工程师阅读。作者提出的下一步是把当前单层融合扩展为多层组合融合,用扩展-缩减算法迭代改进组合,并评估该流程在量子噪声下的表现。
作者把当前工作限定为单层组合融合流程,并明确把多层组合融合和量子噪声下的稳健性列为未来工作,也就是说噪声环境下的多样性模式与融合增益是否保持尚未检验。四个数据集上被选中的模型子集各不相同,没有任何一个模型在四个数据集上都被选中,因此最优组合依赖具体数据集。垃圾邮件数据集上的提升只有0.58%,作者将其归因于该数据集上各模型的秩-分数函数彼此非常相似。
