跳到主要内容
返回时间线
Knowledge and Information Systems来源发表:

BHyGNN+ 用超图对偶做自监督对比学习,在 11 个基准数据集上超过监督与自监督基线,且无需负样本

核心概要

该工作提出 BHyGNN+,一个面向异质超图表示学习的自监督框架:它把超图与其对偶超图(节点与超边角色互换)的增强视图用余弦相似度进行对比,从而在不需要真实标签、也不需要负样本的情况下学习表示,并在 11 个基准数据集(含异质与同质超图及一个合成异质数据集)上取得优于监督与自监督基线的节点分类准确率。

Source-provided article image: Bhygnn+: unsupervised representation learning for heterophilic hypergraphs
Fig. 1

Fig. 1

深度剖析

提出以超图对偶为核心的对比式自监督框架 BHyGNN+,把超图与其对偶的增强视图用余弦相似度对齐,从而在训练中完全不使用真实标签。 此前的 BHyGNN 是监督框架,依赖下游类别标签来学习传播动作与节点表示;BHyGNN+ 把目标函数中的下游任务损失替换为对比损失,使同一套广播/接收传播机制可以在无标签条件下训练。 论文给出完整的目标函数推导:对比损失与变分损失相加,并说明推理时直接把原始超图送入编码器再接分类器;实验在 20%/20%/60% 划分下重复十次、每次 500 轮并报告均值与标准差。

该对偶对比形式天然不需要负样本,只使用正对比对。 现有超图对比学习方法(如 HyperGCL、TriCL、HyGCL-ADT、HypeBoy)依赖负样本,而高质量负样本在大规模超图上难以构造;BHyGNN+ 通过对比超图与其对偶绕开了这一要求。 论文在方法部分明确说明对比目标只最大化对偶表示与对应超图表示之间的余弦相似度,并在引言中把“消除负样本需求”列为主要贡献之一。

在 11 个基准数据集上,BHyGNN+ 在异质与同质超图上均优于监督与自监督基线。 论文同时覆盖异质超图(Senate、Congress、House、Walmart 及一个合成数据集)与同质超图(Twitter、Citeseer、DBLP、Cora、Cora-CA、Pubmed),并额外把同质数据集增广以模拟异质性,比只报告单一设置的评测更全面。 以准确率为指标,20%/20%/60% 划分、十次运行取均值与标准差;例如 Senate 在噪声 σ=0.6 时 BHyGNN+ 为 68.13,高于 BHyGNN 的 67.87 与 HyperGCL 的 66.89;Walmart 在 σ=1.0 时为 68.51,高于 BHyGNN 的 66.85。

在训练样本极少时优势更明显,且对隐藏维度与增广比例保持稳定。 在 10%/10%/80% 划分下,BHyGNN+ 在 Congress 上达到 93.16,明显高于 BHyGNN 的 90.23;而在 50%/25%/25% 划分下自监督与监督基线的差距变小。 论文报告了两组额外划分的对比表,并给出隐藏维度 {64,128,256,512,1024} 与增广比例 {0.1,0.2,0.3,0.4} 的敏感性分析,指出多数数据集在增广比例 0.2 时最佳。

启示与展望

该结果面向以超边刻画高阶关系的超图数据,适用于训练阶段没有标签、但推理阶段可用少量标注做节点分类的场景;论文的评测以节点分类准确率为主,并说明推理时把原始超图送入训练好的编码器再接分类器。对希望减少标注成本、又需要处理异质高阶关系的读者,这套对偶对比加变分传播的组合提供了可直接复用的训练范式;论文也指出可扩展到超边级或超图级任务。

论文把理论基础的探究列为未来工作,因此对偶对比为何在异质场景有效目前仍属经验观察;增广策略是针对异质结构专门设计的,其最优比例在不同数据集上并不一致(多数在 0.2 最佳,继续增大则略有下降)。此外,异质基准数据集本身不含节点特征,论文按既有做法用依赖标签的高斯分布合成特征,这一设定会影响结果可迁移到真实特征场景的程度。当前框架聚焦节点级任务,超边级与超图级任务的表现尚待验证。

来源