跳到主要内容

# 拒绝子空间

2 篇关联报道

arXiv 2026年11月1日
预填充越狱有了推理期防线：不改权重，把被削弱的拒绝信号按请求锚点补回
预填充越狱通过在助手回复开头强行写入一段前缀，让本应拒绝的模型继续生成有害内容。研究者在雅可比透镜给出的词表语义空间里追踪发现，随着前缀加深，拒绝信号比有害性信号衰减得更快，到自由生成开始时已接近良性基线。据此设计的J-Anchor不训练、不改权重，以攻击前助手头位置的信号为每个请求设定锚点，只在前缀处理和后续解码中补回低于目标的拒绝分量，在四个开源指令模型上把固定与深度预填充攻击的成功率压到很低，同时良性拒答率和推理成绩接近原模型。
预填充越狱通过在助手回复开头强行写入一段前缀，让本应拒绝的模型继续生成有害内容。研究者在雅可比透镜给出的词表语义空间里追踪发现，随着前缀加深，拒绝信号比有害性信号衰减得更快，到自由生成开始时已接近良性基线。据此设计的J-Anchor不训练、不改权重，以攻击前助手头位置的信号为每个请求设定锚点，只在前缀处理和后续解码中补回低于目标的拒绝分量，在四个开源指令模型上把固定与深度预填充攻击的成功率压到很低，同时良性拒答率和推理成绩接近原模型。
Vector Institute University of British Columbia
Running Yang（第一作者）Xiaoxiao Li（通讯作者）
J-Anchor 预填充攻击防御雅可比透镜拒绝子空间
arXiv 2026年10月2日
Needle 用权重正交化一次性移除大模型后门：代码注入攻击成功率降到 0，同时把能力与安全损失压到最低
该工作提出免训练的后门移除方法 Needle：在已知触发词的前提下，用激活向量估计一个后门方向和一个拒绝子空间，再对模型权重做逐层顺序正交化，在 Gemma-3-4B-IT、Qwen3-4B-Instruct-2507 及 Gemma-3-12B-IT 上把平均攻击成功率降到所评估防御中最低，并在代码注入攻击上实现完全移除，同时取得最低的 KL 散度与最小的能力、安全变化。
该工作提出免训练的后门移除方法 Needle：在已知触发词的前提下，用激活向量估计一个后门方向和一个拒绝子空间，再对模型权重做逐层顺序正交化，在 Gemma-3-4B-IT、Qwen3-4B-Instruct-2507 及 Gemma-3-12B-IT 上把平均攻击成功率降到所评估防御中最低，并在代码注入攻击上实现完全移除，同时取得最低的 KL 散度与最小的能力、安全变化。
Needle后门移除方法后门移除权重正交化拒绝子空间激活引导

已读完全部报道