RapidUn 用跨样本影响力权重做 LoRA 遗忘：在 Llama-3-8B 上触发式 ASR 低于 Fisher、GA、LoReUn，并比干净语料重训快 77 倍
核心概要
该工作提出 RapidUn，一个影响力引导的框架，把跨样本影响力估计转换为固定的样本级权重用于加权 LoRA 遗忘，在 Llama-3-8B 的 Dolly-15k 与 Alpaca-57k 上、并在 Mistral-7B + Dolly-15k 上做跨模型验证，取得比 Fisher、GA、LoReUn 更低的已见触发与 OOD 触发族 ASR，同时保持有竞争力的干净效用，在 Llama-3-8B + Alpaca-57k 上相对干净语料 LoRA 重训参考实现 77 倍墙钟加速，并以 TOFU、语义 LLM 评判与 IFEval 评估作为补充支持。
Figure 1: Influence-blind vs. influence-guided unlearning. RapidUn uses influence-derived sample weights to steer LoRA updates.
arXiv深度剖析
RapidUn 把跨样本影响力估计转成固定的样本级权重，用于加权 LoRA 遗忘，从而在只更新 LoRA 的 PEFT 设定下完成定向行为污染移除。 相对既有近似遗忘方法，这里的关键变化是把影响力信号固化为样本权重而非依赖持续的后部署监督，适配小遗忘集、有限保留缓冲、仅 LoRA 更新的实际场景。 摘要明确给出该框架的构成与适用设定，并在 Llama-3-8B（Dolly-15k、Alpaca-57k）与 Mistral-7B + Dolly-15k 上报告结果；具体权重计算细节与超参未在摘要中展开。
在触发式行为移除上，RapidUn 的已见触发与 OOD 触发族 ASR 低于 Fisher、GA 与 LoReUn，同时干净效用保持有竞争力。 这为影响力引导的样本重加权在受控触发基准上提供了相对三类基线的比较证据，而不只是单一方法的自评。 证据来自 Llama-3-8B 在 Dolly-15k 与 Alpaca-57k 上的对比，以及 Mistral-7B + Dolly-15k 的跨模型验证；摘要未给出具体 ASR 数值与效用指标数值。
在 Llama-3-8B + Alpaca-57k 上，RapidUn 相对干净语料 LoRA 重训参考取得 77 倍墙钟加速。 这把效率收益与一个明确的重训参考直接对照，说明近似遗忘在时间成本上可显著低于重训路径。 该数字直接来自摘要所述设定；加速比的具体测量口径与硬件环境未在摘要中说明。
TOFU、语义 LLM 评判与 IFEval 的补充评估支持影响力引导样本重加权在受控触发基准之外仍然有效。 评估面从单一触发基准扩展到其他遗忘与通用能力评测，使结论不局限于一种测试构造。 摘要以“further support”表述这些补充评估，未给出各评测的具体分数或规模。
启示与展望
该结果面向的是小遗忘集、有限保留缓冲、仅 LoRA 更新的 PEFT 设定，适用于需要在部署后移除定向行为污染、且无法承担全量重训的工程场景；受益者包括做模型行为治理与合规清理的团队。跨模型验证覆盖 Mistral-7B + Dolly-15k，说明方法不限于单一模型，但适用边界仍以摘要所述设定为准。
摘要未给出各基线的具体 ASR 与效用数值、77 倍加速的测量口径与硬件环境，也未说明影响力估计的计算开销与权重稳定性；TOFU、语义 LLM 评判与 IFEval 的具体分数同样未披露。此外，本次载入的是 arXiv 摘要页与元数据，正文、图表与附录未包含在内，因此方法细节与完整实验表格仍需查阅原文确认。