跳到主要内容
返回时间线
arXiv来源发表:

长尾识别的尾部类别不再压向统一目标:留出类内差异后,四个长尾基准整体精度领先此前方法

核心概要

长尾识别不再把所有类别都对齐到同一个等角紧框架——一个各类共用、两两方向等夹角的目标:头类继续坍缩到框架上,尾部类别保留类内差异。此前的做法把等角紧框架当作所有类别统一的目标,强制尾部完全坍缩会把它们的样本压得过紧,削弱泛化。分类器一侧用特征条件门控做类别相关的节点专门化,让尾部类别占住自己的特征方向,损失一侧按类别频次给头部小间隔、尾部大间隔。在 CIFAR100-LT、ImageNet-LT、Places-LT 和 iNaturalist-2018 四个长尾基准上,整体精度优于此前方法,类内离散度从头部到尾部单调增大。

Source-provided article image: Full Collapse Is Suboptimal: Controlled Partial Neural Collapse for Long-Tailed Recognition
arXiv

深度剖析

长尾识别的特征不再被要求全部对齐到同一组固定方向上:头类照旧收拢,尾部类别保留自己的类内差异。 此前的长尾方法把固定的等角紧框架当作所有类别统一的对齐目标,等角紧框架指各类共用、两两方向夹角相等的一组目标方向。 把尾部也压向这个统一目标会过度约束尾部样本、削弱泛化;放开尾部后,CIFAR100-LT、ImageNet-LT、Places-LT 和 iNaturalist-2018 四个基准上的整体精度优于此前方法。

这项改动落在骨干网络上的两处协同控制上,分别决定坍缩占用的维度和类别之间的间隔。 类别自适应稀疏激活分类器用特征条件门控让节点按类别专门化,尾部类别因此占住自己的特征方向;等角紧框架约束的自适应间隔损失按类别频次设置间隔,头类小、尾部大。 在经验分析中,类内离散度从头部到尾部单调增大,与尾部保留变异性、而非完全坍缩相符。

启示与展望

演示的范围是四个长尾图像识别基准上的整体精度比较,以及类内离散度从头部到尾部单调增大的经验趋势。

类内离散度从头部到尾部单调增大被表述为与尾部保留变异性相符,属于一致性观察;完全坍缩会过度约束尾部样本、削弱泛化,则是改动所依据的判断。