# SELFHEAL数据净化防御方法

SELFHEAL 把防御提前到微调之前：不丢弃样本，只用基座模型自身的语言判断能力给指令打标签、修语法与连贯性、再重写可疑回答。在 Llama-3 上，它相对后置防御把攻击成功率最多降低 85%，自然准确率与干净数据训练的模型相当；在 Mistral 上效果明显变弱，说明这套清洗依赖基座模型本身的文本理解能力。

SELFHEAL 把防御提前到微调之前：不丢弃样本，只用基座模型自身的语言判断能力给指令打标签、修语法与连贯性、再重写可疑回答。在 Llama-3 上，它相对后置防御把攻击成功率最多降低 85%，自然准确率与干净数据训练的模型相当；在 Mistral 上效果明显变弱，说明这套清洗依赖基座模型本身的文本理解能力。