大模型部署后也能继续学：睡眠式离线巩固让新知识写进参数，旧能力不倒退
核心概要
大语言模型部署后知识停在固定截止日期，继续用新数据更新参数又会严重遗忘旧任务，只靠上下文学习则信息随会话结束而丢失。Google Research提出的睡眠框架让模型在主动交互与离线巩固之间交替，离线阶段打开预先分配的专家记忆块，用自生成练习样本更新权重。在满语、卡拉芒语等未见语言的连续翻译中，多阶段评估的性能下降接近零，而上下文学习、Cartridges和监督微调出现严重遗忘。
深度剖析
大语言模型被赋予一个周期性的学习生命周期，在主动交互之外加入离线阶段，把易失的短期上下文巩固为稳定的长期参数。 此前部署后的模型基本保持静态，知识截止日期固定；直接做持续参数更新会触发灾难性遗忘，而只依赖上下文学习则把知识保留限制在当前上下文窗口内。 在满语和卡拉芒语等未见语言的连续翻译多阶段评估中，该框架的性能下降接近零，而上下文学习、Cartridges和监督微调在顺序学习中出现严重遗忘。
离线阶段分两步：先做记忆巩固，再做“做梦”式的自我改进，整个过程在固定模型架构和人工设定的训练规则内运行。 巩固阶段把知识播种当作结构化的低秩压缩问题，只挑选能同时保留模型自身在策略行为和语义奖励的少量方向，再由参数扩展提供写入容量；做梦阶段随机激活不同专家生成练习样本，并用基于梯度的筛选保留学习信号最强的样本。 在BABILong长上下文理解基准上，该方法在最长1000万token范围内接近完美扩展，表现优于GPT-4和Titans等基线。
新事实的写入不牺牲已有表示，数学推理也随巩固与模仿学习的组合而提升。 在SQuAD与持续预训练评估上，该方法单任务取得48.9%、持续预训练取得46.2%，优于基座模型、监督微调和SEAL等基线。 在AIME 24/25和HMMT 25数学推理基准上，经睡眠增强的基座模型分别取得79.2%、69.0%和46.1%的准确率，优于监督微调、GRPO和OPSD等基线。
启示与展望
该框架在固定模型架构和人工设定的训练规则内运行，离线阶段依赖预先分配的专家记忆块与参数扩展；已展示的场景包括未见语言的连续翻译、最长1000万token的长上下文理解、SQuAD与持续预训练上的事实写入，以及AIME 24/25和HMMT 25数学推理。
“睡眠”“做梦”等词借自神经科学，但框架本身完全在固定架构和人工规则内运行，并非对生物睡眠机制的模拟；各基准上的优势均为该团队报告的评测结果。