跳到主要内容
检索

# 后门检测

2 篇关联报道

订阅更新
  1. researchsquare.com

    后门样本不再只看最后一层:CLEAR把跨层极值响应拼起来,Tiny-ImageNet平均TPR达99.54%

    CLEAR把后门样本检测从单层激活搬到跨层极值响应上:先用批归一化统计量把各隐藏层特征对齐到同一尺度,再取每个通道的空间最小值作为异常表示,并用粒子群优化搜索层间权重。在CIFAR-10与Tiny-ImageNet上,CLEAR的平均真阳性率分别为97.54%和99.54%,平均假阳性率为0.16%和0.03%,高于AC、SCALE-UP、AIBD与CCD;用其清洗后的数据重训,模型准确率接近良性模型。

  2. aclanthology.org

    黑盒大模型后门改看推理图:GCoTD在GPT-4o上把TPR提高3.44个百分点

    GCoTD把黑盒大模型的推理过程转成图结构,再用轻量检测器判断回答是否被后门触发,而不依赖权重、梯度或训练数据。此前后门检测多依赖白盒信号、带标签的投毒数据或输出层特征,在闭源API上容易失效。在四种攻击类型、六个模型上,GCoTD在多数设置中取得最高或接近最高的TPR,并在GPT-4o与LLaMA-3-8B上分别比此前最优方法高3.44和3.75个百分点的TPR。

已读完全部报道