跨语言越狱有了共同靶点:安全内核只占0.12%神经元,掩码微调压低多语攻击成功率
大模型的安全能力在不同语言间并不一致,同一有害请求换一种语言就可能绕过拒答。研究者先在每种语言内部独立找出与安全行为相关的神经元,再取六种语言候选集合的交集,得到跨语言共享的“安全内核”,并用激活抑制和激活状态迁移验证其功能作用。在此基础上提出的SK-Masked LoRA只把微调更新限制在安全内核对应的前馈网络输出维度上,在多个模型和多语言安全基准上降低攻击成功率,对未参与内核发现的语言也有一定效果。
大模型的安全能力在不同语言间并不一致,同一有害请求换一种语言就可能绕过拒答。研究者先在每种语言内部独立找出与安全行为相关的神经元,再取六种语言候选集合的交集,得到跨语言共享的“安全内核”,并用激活抑制和激活状态迁移验证其功能作用。在此基础上提出的SK-Masked LoRA只把微调更新限制在安全内核对应的前馈网络输出维度上,在多个模型和多语言安全基准上降低攻击成功率,对未参与内核发现的语言也有一定效果。
已读完全部报道