情绪识别机器人被扰动骗过:攻击后准确率跌破0.16,置信度却仍有0.964
面向人机交互的面部情绪识别通常只看干净测试集准确率,但机器人据此选择动作时,还需要知道预测是否可信。该研究在FER2013五分类上比较五种流程,最强的深度残差网络达到0.760准确率和0.753宏F1,却在梯度攻击下与其他架构一同崩溃:FGSM在ε=0.01时把四个训练模型全部压到0.16以下,PGD在ε≥0.02时接近零。被攻击的预测仍保持高置信,PGD下平均置信度达0.964,温度缩放后仍有96.0%越过0.70阈值,说明按最大softmax概率设阈值无法把合法预测与对抗预测分开。