跳到主要内容
检索

# 减法加成(ABS-Align安全对齐加固方法)

1 篇关联报道

订阅更新
  1. arXiv

    安全对齐不再只靠几千个神经元:ABS-Align逐步剪掉它们再微调,部分攻击成功率降约九成

    开源权重模型的安全对齐高度稀疏,剪掉少量安全关键神经元或消融单个拒绝方向就能让模型输出有害内容。ABS-Align在偏好微调过程中逐步剪除这些已识别的安全关键神经元,迫使拒绝行为由网络其他部分重新建立,微调结束后再恢复被剪神经元。在Gemma-2-2B-IT、Llama-3-8B-Instruct、Llama-3.2-3B-Instruct和Qwen-3-4B四个模型上,该方法对TwinBreak、NeuroStrike、拒绝方向消融及十种SORRY-Bench黑盒攻击的成功率普遍下降,部分攻击降幅约90%,同时TruthfulQA提升而通用能力变化很小。

已读完全部报道