语言模型自己挑复习题：合并两个任务库，留出保留率比单个库最多高4.42个百分点
核心概要
语言模型微调新任务时会遗忘旧能力，而用于保护的旧数据只覆盖模型所知的一部分。研究者把可复习的任务描述与示例组织成任务库，让冻结的更新前模型自己生成复习数据，并在四个未参与构造的留出任务上检验保护是否外溢。合并两个部分任务库后，三个测试规模的平均留出保留率都高于任一单个库，最多高出4.42个百分点；在4B规模上，结合新任务信息挑选复习目标比随机挑选高2.75个百分点，更小的模型没有这一优势。
深度剖析
微调新任务会改变模型在旧任务上的表现，而平均准确率可能把这种变化掩盖掉。 此前用于保护旧能力的数据只覆盖模型所知的一部分，遗忘却可能发生在这些数据之外。 在四个留出任务、两个种子上平均，3.56%的样例由对变错、3.61%由错变对，净变化只有约1个百分点，因此需要同时报告配对保留率。
让更新前的冻结模型自己生成复习数据，可以保护任务库之外的旧行为。 只复习单个给定任务时，保护范围受限于该任务本身。 在C-STANCE对比中，宽覆盖复习对留出任务的平均准确率变化优于单任务复习，同时新任务增益保持接近。
把两个部分任务库合并，能扩大复习清单并提高平均留出保留率。 单个部分库只覆盖一部分旧行为，其保护效果随留出任务而变。 在0.6B、1.7B、4B三个测试规模上，合并库的保留率分别比更好的单个库高4.42、3.32、2.99个百分点，新任务增益比SFT低0.45、0.60、0.28个百分点。
模型还能参与挑选复习目标，而不只是生成复习数据。 随机挑选复习条目不利用关于新任务的任何信息。 在4B规模、只用两个库条目的条件下，结合新任务信息的选择把平均留出保留率比随机选择提高2.75个百分点，新任务增益高0.04个百分点，保留率距使用全部四个条目的完整库仅差0.32个百分点；0.6B和1.7B上没有对应优势。
启示与展望
报告覆盖Qwen3-0.6B、1.7B、4B以及用于遗忘诊断的Qwen3.5-4B，新任务为MedQA与C-STANCE，任务库含MMLU、HellaSwag、GSM8K、BoolQ，ARC-C、WinoGrande、PIQA、SVAMP作为留出任务不参与复习构造与目标选择。适合关注持续学习与微调遗忘的研究者和工程师阅读。多数研究只做一次更新，两阶段单种子试点结果混合，尚不足以说明长期累积效果。
选择优势只在测试的4B配置上出现，更小规模没有对应优势，且学习器、选择器与复习生成器的强度没有独立变化。固定样例分配下，用复习替换新任务样例会提高保护但缩小新任务增益，该比较匹配的是名义行数与优化步数，实际token暴露与生成开销并不相同。任务库自复习仍依赖给定的保护目标，复习可能复制模型自身的错误，银行感知的扩展试点为单臂、单操作点，未估计新增目标相对固定库的增量保护价值。