跳到主要内容
检索

# 大语言模型遗忘

4 篇关联报道

订阅更新
  1. aclanthology.org

    FOM-UL只改少数层做遗忘:4比特量化下残余记忆仍低于全模型更新基线,保留集效用更高

    大模型遗忘不必再对全模型做弥散更新。FOM-UL按每层遗忘集梯度范数与保留集梯度范数之比给层打分,只更新得分高的少数层,遗忘不达标时再逐层扩大。在TOFU、KnowUnDo与MUSE式评测上,它比GA、NPO、KLD等基线留下更少的残余记忆,保留集效用接近原模型;在8比特与4比特训练后量化下,它保持有利的遗忘—效用权衡,但4比特下残余记忆相对全精度确有上升。

  2. arXiv

    Nullify 用零空间激活引导实现免训练遗忘:TOFU forget10 上 FQ 升至 0.58、MU 保持 0.62,与重训练持平

    Nullify 提出一种免训练、不改权重的推理期激活引导方法:用 IDK 对比激活构造遗忘方向,并用零空间投影把修正限制在保留知识激活的正交子空间内,从而在 TOFU 与 MUSE 上取得与重训练相当的遗忘质量,同时几乎不损失模型效用,且计算与显存开销远低于梯度类基线。

  3. arXiv

    从表示几何角度揭示遗忘知识易被重新学习的原因,并提出针对次要成分的MCU遗忘方法

    该工作从表示几何视角研究已遗忘模型为何在重新学习攻击下迅速恢复知识,发现现有遗忘方法主要沿主导成分优化而次要成分基本不变,主导成分的修改在重新学习时易被逆转而次要成分更抗逆转,据此提出显式针对次要成分的Minor Component Unlearning(MCU),并在三个数据集上验证其显著提升了对重新学习攻击的抵抗能力。

  4. arXiv

    UDS 用激活修补量化 LLM 遗忘深度,在 150 个模型、20 项指标中取得最高忠实度与稳健性

    该工作提出 Unlearning Depth Score(UDS),先用保留模型基线定位编码目标知识的层,再通过激活修补在 0-1 尺度上度量遗忘模型抹除了多少该知识,并在覆盖 8 种方法、150 个已遗忘模型的元评估中与 20 项指标比较,报告 UDS 具有最高的忠实度与稳健性,案例研究显示它能揭示被表征漂移所掩盖、观测类指标看不到的残余知识,且擦除深度随提示类型变化。

已读完全部报道