跳到主要内容
返回时间线
arXiv来源发表:

近分布外检测不再另起炉灶:PLUS给18个现成检测器补上类内子空间信号,126个组合全部提升

核心概要

近分布外(near-OOD)样本与训练类在特征上高度相似,现有事后检测器擅长远分布外却在此处失效。PLUS不替换检测器,而是用稀疏自编码器为每个类别挑出最活跃神经元、张成低维子空间,再以该类别的白化马氏距离给出补充分数,按单一固定权重与任意已校准基础分数相加。在ImageNet-1K的OpenOOD v1.5基准上,18个检测器与7种骨干的全部126个组合近分布外AUROC均提升,远分布外大体保持,仅在基础分数已接近饱和处出现不超过1个点的回落。

Source-provided article image: Don't Replace, Complement: A Detector-Agnostic Subspace Signal for Near-OOD Detection
arXiv

深度剖析

近分布外检测多了一个可与现有检测器叠加的独立信号,而不是又一个需要替换原方法的检测器。 此前的事后检测器依赖密度、残差能量或分类置信度等全局特征汇总,这类轴能把远分布外样本分出来,却让贴着训练流形的近分布外样本几乎与分布内样本无法区分。 在ImageNet-1K的OpenOOD v1.5基准上,18个检测器与7种骨干的全部126个组合近分布外AUROC都得到提升;以ViT-B/16上的MSP为例,近分布外AUROC从73.52升到78.13,FPR95从81.85降到68.82。

补充信号来自每个类别自己的低维坐标,衡量输入在预测类别子空间内偏离该类别训练分布的程度。 做法是用TopK稀疏自编码器在分布内训练特征上取过完备字典,为每个类别固定选出激活最强的16个神经元,再对其解码方向做符号固定的QR正交化,得到稳定的投影基。 子空间支撑与统计量取自分布内训练图像(每类至多300张)的随机子集,分数标准化则用分布内验证负样本;融合权重固定为2:1的基础分数偏好比例,不按骨干、数据集或部署调整。

增益来自子空间与逐类度量两者的组合,缺一不可。 在随机16维正交子空间里用同样的逐类度量,相对单独的MDS++没有近分布外增益;而在该子空间内改用共享或各向同性度量,只能拿回部分提升,ResNet-50上共享度量几乎无收益。 以MDS++为基座,ViT-B/16、ResNet-50、Swin-T上的近分布外AUROC分别为81.23、78.22、80.90,而单独的MDS++为79.87、74.71、78.92。

启示与展望

评测限定在ImageNet-1K作为分布内数据的OpenOOD v1.5基准上,近分布外使用SSB-hard与NINCO,远分布外使用iNaturalist、Textures与OpenImage-O,骨干为ViT-B/16、ResNet-50、Swin-T及其余四种ImageNet架构。PLUS保持基础分类器冻结,只需在分布内训练特征上一次性拟合稀疏自编码器,推理时每张图做一次投影与一次白化。

融合权重固定为2:1是部署默认值而非最优性主张,敏感性分析显示近分布外增益在部分骨干上约在权重1附近饱和,而远分布外通常在1附近见顶后下降。Textures上出现集中的此消彼长,在ViT-B/16与Swin-T上18个检测器中9个提升、9个下降,原因是纯纹理裁剪在预测类别子空间内偏离很小。远分布外AUROC的回落均不超过1个点,出现在已接近饱和的马氏家族基座上,ResNet-50上的ASH也出现回落。