Washington State University

在私有记录上微调的大模型会记住姓名等个人信息，而现有隐私神经元编辑只看泄漏模型本身，缺少一份不含个人信息的参照来区分身份神经元与有用上下文。JEPA-Prune 用同一批记录的替代值与掩码视图训练一个不含原始个人信息的公开模型作为参照，再以跨模型表示探针、积分梯度和尺度不变特异性分数定位对个人信息敏感的神经元，部署前直接置零、无需重训。在三个个人信息数据集和五个模型上，剪掉 1.6% 的神经元使个人信息推断准确率最多下降 7.4、抽取召回率最多下降 13.9，多数模型未见文本困惑度保持在未剪模型的 16% 以内。

在私有记录上微调的大模型会记住姓名等个人信息，而现有隐私神经元编辑只看泄漏模型本身，缺少一份不含个人信息的参照来区分身份神经元与有用上下文。JEPA-Prune 用同一批记录的替代值与掩码视图训练一个不含原始个人信息的公开模型作为参照，再以跨模型表示探针、积分梯度和尺度不变特异性分数定位对个人信息敏感的神经元，部署前直接置零、无需重训。在三个个人信息数据集和五个模型上，剪掉 1.6% 的神经元使个人信息推断准确率最多下降 7.4、抽取召回率最多下降 13.9，多数模型未见文本困惑度保持在未剪模型的 16% 以内。