多模态推理模型忘掉一张脸,却不必忘掉那个人:VKCR把遗忘限定在图像通道
多模态大推理模型会通过图像与知识的跨模态关联,在中间推理里重新取出敏感信息,只压住最终答案并不够。VKCR把遗忘目标改写成一条指定的“图像到知识”关联:先在关联条件化的低秩参数子空间内定位编辑,再用反事实分支重绑定,压掉带目标或缺乏依据的推理续写、抬升有证据支持的非敏感替代。在CLEAR-R与MLLMU-R上,它同时降低了图像条件下的目标泄漏与幻觉式重新关联,并保留了非敏感视觉推理和允许的纯文本知识访问。
多模态大推理模型会通过图像与知识的跨模态关联,在中间推理里重新取出敏感信息,只压住最终答案并不够。VKCR把遗忘目标改写成一条指定的“图像到知识”关联:先在关联条件化的低秩参数子空间内定位编辑,再用反事实分支重绑定,压掉带目标或缺乏依据的推理续写、抬升有证据支持的非敏感替代。在CLEAR-R与MLLMU-R上,它同时降低了图像条件下的目标泄漏与幻觉式重新关联,并保留了非敏感视觉推理和允许的纯文本知识访问。
开放权重模型发布后,攻击者可用目标领域数据微调,把训练后遗忘的效果迅速抹掉。DETER在预训练阶段就把抑制更新与常规预训练交错进行:先用文档分类器从FineWeb-Edu中滤除医学文档,再在被滤除文档的子集上做梯度上升,让模型主动压低这些文本的预测概率。以医学为代理目标领域,在113M到1030M参数的四档模型上,达到未过滤模型的PubMed损失所需微调token数超过仅过滤的两倍;1030M时DETER需2.09M个PubMed token,仅过滤只需0.10M。
面向隐私法规下的机器遗忘,IDSISA在SISA的分片重训框架上加入影响函数引导的分片分配与跨分片蒸馏。影响分数在训练前一次性算出,把可能被一起删除的样本集中到少数分片,使一次删除请求触及的分片数少于随机分片;重训分片同时向未受影响分片学习软输出,补回隔离训练丢掉的效用。在ResNet-18/CIFAR-10、BiLSTM/IMDB、TCN/IMDB与Fashion-MNIST全连接网络上,删除保证仍来自重训本身,蒸馏只是单独量化的效用恢复手段。
统一多模态模型把图像生成与视觉理解放在同一个模型里,但已有的单路径遗忘方法难以让目标概念在两条路径上同时消失。UUBench 用30个目标概念和60个同类邻近概念,把生成与理解任务配对到同一实体上评估;UniForget 把生成侧权重编辑与理解侧低秩适配更新合并进同一检查点,在 BAGEL-7B-MoT 与 Janus-Pro-7B 上分别取得80.0%和92.7%的联合遗忘率,同时暴露出遗忘与能力保持之间的取舍。
身份级机器遗忘在请求时拿不到完整原始遗忘集,MCU把每个训练身份的特征聚成原型存进外部记忆,遗忘时先删原型再用少量支持信息重适配,在1-SHUI的身份划分与一次性支持构造下取得效用、成员可区分性与请求时算力的折中。
单轮联邦学习把训练压到一次通信,但模型训练完就固化,车辆加入或退出后只能整体重训。F-SOSA 按固定规模随机抽取客户端子集,使相邻设备集合下的输出分布在总变差距离上有界,再把曲率感知融合改写成按客户端可加的充分统计量投影,并据此给出撤回贡献的 F-SOSA-U 与纳入新贡献的 F-SOSA-I。在 SUMO 城市移动模拟中,两者精度与重训相当,累计时间与通信开销分别降低 36%–44% 和 22%–33%。
该工作提出 FADE,一个面向文生视频扩散 Transformer 的多概念遗忘框架:先用联合闭式键/值编辑抑制全部目标概念,再为每个概念训练由帧索引与去噪时间步门控的帧感知低秩适配器以消除逐帧残留泄漏,并用基于相似度的软路由按提示组合适配器;在单个 Wan2.1-T2V-1.3B 上同时擦除 16 个概念(物体、艺术风格与裸露)时,物体基准残留准确率降至 4.9%(八个基线中最强者为 15.5%),VBench 平均与未编辑模型相差 0.9% 以内,且该排序在 VLM 评判与盲测人工研究中保持一致。
该工作提出RDTU——一个用于时间序列遗忘的残差扩散框架:它先用基于保留集的神经正切核预测器得到与删除兼容的基础预测,再用保留参考数据的体积贡献量化每个受影响窗口的全局与局部结构支持,最后由扩散模型生成残差修正以估计反事实预测,形成伪标签场来指导轻量级模型更新;实验显示RDTU持续产生与精确重训最接近的遗忘模型。
这篇 Perspective 针对跨会话、跨工具、跨用户持续积累状态的 LLM 智能体,提出「受控知识更新」框架:把更新视为在上下文、外部记忆、模型参数、激活状态、工具或工作流定义等基底中选择「足以覆盖该主张范围的最小侵入性基底」的决策,包括决定不写入持久状态,并以基底相称性、时间可废止性、可审计连续性三原则组织,进而提出涵盖更新选择、时间一致性、干扰、可逆性、效率与鲁棒性的评估标准与基准单元设计。
已读完全部报道