Chengyu Xie

大模型的安全能力在不同语言间并不一致，同一有害请求换一种语言就可能绕过拒答。研究者先在每种语言内部独立找出与安全行为相关的神经元，再取六种语言候选集合的交集，得到跨语言共享的“安全内核”，并用激活抑制和激活状态迁移验证其功能作用。在此基础上提出的SK-Masked LoRA只把微调更新限制在安全内核对应的前馈网络输出维度上，在多个模型和多语言安全基准上降低攻击成功率，对未参与内核发现的语言也有一定效果。

大模型的安全能力在不同语言间并不一致，同一有害请求换一种语言就可能绕过拒答。研究者先在每种语言内部独立找出与安全行为相关的神经元，再取六种语言候选集合的交集，得到跨语言共享的“安全内核”，并用激活抑制和激活状态迁移验证其功能作用。在此基础上提出的SK-Masked LoRA只把微调更新限制在安全内核对应的前馈网络输出维度上，在多个模型和多语言安全基准上降低攻击成功率，对未参与内核发现的语言也有一定效果。