子群发现不再把支持度折进分数:AtomSD在任意支持阈值下直接给出最偏离子群
核心概要
子群发现长期把“偏离多大”和“覆盖多少人”压成一个加权分数,用户给定最小支持度后往往找不到对应的最偏离子群。AtomSD把问题改写为对有限个同质区域(原子)的选取:理论上每个支持阈值下的最优子群都是若干完整原子加至多一个部分原子。在19个UCI基准数据集上,它在5个支持阈值下取得1.25的平均排名、95个数据集与阈值组合中78次最优,并可作为后处理改进四种已有方法返回的子群。
深度剖析
子群发现现在可以按用户给定的最小支持度直接求解最偏离子群,而不必先选定一种支持度与偏离度的折中。 此前的主流做法把支持度和偏离度折叠成一个标量质量分数,例如加权KL散度、RSD的描述长度惩罚和SyFlow的支持加权KL目标,这等于隐含固定了一种折中。 在19个UCI基准数据集、3折交叉验证、留出集估计KL散度的设置下,AtomSD在支持阈值50、100、150、200、300上平均排名1.25,95个数据集与阈值组合中78次最优;作为对照,RSD为3.49、SD-KL为3.92、SD-为3.22、SyFlow为3.13。
做法是先学出一个把特征空间切成同质条件分布区域的划分,再在这些区域上做贪心选取。 理论结果把最优子群刻画为若干完整“原子”加至多一个部分原子,原子指条件目标分布相同的区域,从而把对全部可测子集的不可数搜索变成有限组合问题。 实现用条件密度估计树CDTree得到叶子区域作为原子,再用贪心原子剪枝GAP交替执行整原子增删和单个原子的边界收缩,在19个数据集的留出集KL上评估。
同一结构条件还能当作后处理:把已有方法返回的子群限制到与之重叠的原子内重新选取,通常能提高留出集KL散度。 若一个子群同时部分切过两个或更多原子,它就不满足最优子群的必要结构条件,因而原则上可以被改进。 对四种对比方法返回的子群施加该后处理,在全部支持阈值下KL差值的分布以正值为主,中位数持续高于零,负值少见且幅度大多较小。
启示与展望
理论保证建立在划分式生成模型之上,即特征空间可分解为条件目标分布相同的原子;实验在19个UCI基准数据集上以3折交叉验证和留出集KL散度评估,目标为一维连续变量。
真实数据只是不同程度地近似该生成模型,对分布误设的正式稳健性结果仍未给出;此外,少于50个训练样本的子群其KL估计方差过大,作者据此在比例阈值比较中提高了阈值。
