可解释性结论何时可信:特征维度会跳变,岭正则版本在12个玩具模型上给出同一判定
机制可解释性常靠带阈值的数字支撑安全结论,而权重、随机种子或阈值的微小变化就可能让结论翻转。这项工作在已知真实特征的玩具模型与合成字典上刻画了特征维度不连续的确切位置,并用岭正则版本替换它,证明其稳定性常数随特征尺度增长且系数最优。在12个训练好的玩具模型上,岭正则求和规则在预先设定的21个平滑参数取值上给出同一判定,而忽略短特征向量的版本对其中两个模型给出相反判定。
机制可解释性常靠带阈值的数字支撑安全结论,而权重、随机种子或阈值的微小变化就可能让结论翻转。这项工作在已知真实特征的玩具模型与合成字典上刻画了特征维度不连续的确切位置,并用岭正则版本替换它,证明其稳定性常数随特征尺度增长且系数最优。在12个训练好的玩具模型上,岭正则求和规则在预先设定的21个平滑参数取值上给出同一判定,而忽略短特征向量的版本对其中两个模型给出相反判定。
已读完全部报道