跳到主要内容
返回时间线
arXiv来源发表:

交叉子群公平性遇到分辨率极限:SAFER只惩罚统计上站得住的差距,稀疏子群不再拖累效用

核心概要

交叉公平性审计中,子群划分越细,每个子群的样本越少,观测到的差距很容易只是抽样噪声。SAFER把公平惩罚挂在一个可微的软计数似然比证据统计量上,只对超过噪声可解释范围的子群差距施加梯度,并保留一个固定权重的小型无门控项防止优化停滞。在Adult、COMPAS、German Credit等表格基准及专门构造的压力变体上,它在存在可认证差距时给出更好的公平—效用前沿,在无可认证差距时保持无约束模型的效用。

Source-provided article image: Overcoming the Resolution Limit: Significance-Aware Regularization for Intersectional Fairness
arXiv

深度剖析

交叉公平性训练开始区分“统计上站得住的差距”和“抽样噪声”,不再把观测到的子群差距一律当作真实偏差去惩罚。 此前的训练内处理方法对不确定性不敏感:只要观测到子群差距就计入目标函数,无法分辨可认证的不公平与抽样波动,在稀疏交叉子群里因此出现公平性过拟合,模型牺牲效用去修正虚假差距。 在Adult Income、COMPAS、German Credit三个基准以及针对各机制构造的压力变体上,去掉SAFER任一组件的单旋钮消融都在至少一个压力变体上出现理论预测的失效;在稀疏交叉设置中,SAFER的公平—效用帕累托前沿优于基线方法。

做法是把每个子群的差距先换算成一个连续的不确定性感知分数,再用它决定训练时给该子群多少公平梯度。 这一分数称为显著超额,只保留子群差距中超出给定置信水平下抽样波动所能解释的那一部分;区间包含零时该子群贡献恰好为零。 训练时用阈值平滑后的软计数构造两样本偏差似然比统计量作为门控信号,该统计量不需要估计方差,避免了稀疏单元中方差估计塌缩导致的边界不稳定;统计认证仍由留出的硬计数审计完成。

门控之外还保留一个权重固定的小型无门控项,使强正则化下优化不会在差距尚未消除时停住。 门控项在子群差距低于阈值时梯度按指数衰减,强正则化会把活跃子群推回阈值附近,使优化停滞;无门控项不带门控乘子,因此仍能提供下降方向。 在COMPAS的20/80压力划分上,去掉该致密尾部项的变体从某一公平权重起在MSEE上停滞,与完整SAFER相差约十个标准误;在German Credit上两者重合,因为门控已使铰链项保持不活跃。

启示与展望

已展示的范围是Adult Income、COMPAS、German Credit、ACS Coverage与Taiwan Credit等表格基准,交叉层级最多到四层、审计子群至多几百个,并配有低训练预算、更深交叉和小验证预算的压力变体;结论按情形表述,只在存在可认证差距时谈前沿改进,在无可认证差距时谈效用保持。

显著超额为零只表示在当前置信水平和样本量下无法认证差距,小样本子群中的真实差距可能未被认证,此时SAFER会不给出本可减小该差距的梯度;训练时显著性检验尚未加入多重性校正,扩展到高基数属性空间以及子群归属不确定或部分观测的情形仍是开放问题。