智能体记忆有了独立压缩器：SumOne 用掩码重建自监督，搜索任务成本降到全上下文的22%
核心概要
长程语言模型智能体的交互历史越积越长，上下文压缩因此成为必需，而已有的学习式压缩方法往往依赖下游任务结果或求解器行为。SumOne 是一个独立的20亿参数摘要器，用掩码重建构造与任务无关的奖励，再以 GRPO 优化，训练只使用原始轨迹，不需要参考摘要或下游任务执行。在 DeepSearchQA 上，它把累计智能体输入从 2.83M 降到 591K token，F1 为 0.48，而全上下文为 0.52；在 SWE-bench Verified 上，解决率为 0.59，全上下文为 0.63，累计输入从 4.10M 降到 1.09M token。
深度剖析
智能体的上下文压缩可以交给一个独立的小模型完成，而不必让下游智能体自己总结或把压缩训练绑在具体任务上。 此前的学习式压缩要么依赖下游任务结果或求解器行为，要么把记忆维护嵌进智能体工作流，例如 HiAgent 的子目标摘要和 FoldGRPO 的压缩工具响应训练。 在 DeepSearchQA 上，SumOne 的 F1 为 0.48，全上下文为 0.52，累计输入从 2.83M 降到 591K token，总推理成本为全上下文的 22%；在 SWE-bench Verified 上，解决率为 0.59，全上下文为 0.63，累计输入从 4.10M 降到 1.09M token，成本为全上下文的 58%。
训练信号来自原始轨迹本身：摘要要能让一个冻结的模型把被遮住的历史片段补回来。 摘要器先为过期的交互历史生成文本摘要，再把原历史切成约 512 token 的块并随机遮住其中 50%，由冻结的 Qwen3.5-9B 重建器在摘要和保留上下文的条件下预测缺失内容。 重建质量由 DeepSeek V4.1 Flash 按精确率和召回率打分，再叠加摘要长度惩罚构成奖励，用 GRPO 在约 5K 条来自 OpenSeeker-v1-Data 与 SWE-smith 的轨迹上训练 600 步，摘要器从 Qwen3.5-2B 初始化。
推理时只保留摘要器，重建与评判流程全部移除，同一个检查点可直接配给未改动的智能体。 在相同压缩阈值下，它优于让下游智能体自总结：DeepSearchQA 上 F1 从 0.44 升到 0.48，SWE-bench Verified 上解决率从 0.56 升到 0.59，且总成本更低。 同一检查点在 DeepSeek V4.1 Flash、GPT-6 Luna、GLM-5.3、Gemini 3.7 Flash 四种下游模型，以及 OpenCode、OpenHands、Codex、DeepSeek Harness 四种执行框架上无需额外微调即可使用。
启示与展望
演示范围是长程网页搜索与软件工程任务，主实验以 Qwen3.5-35B-A3B 为下游模型、OpenCode 为执行框架，所有压缩方法统一使用 32K 压缩阈值；迁移实验覆盖四种下游模型与四种执行框架。训练数据集中在网页搜索与软件工程轨迹，作者提出把该模块扩展到自适应记忆管理、检索、工具与元记忆是后续方向。
作者指出训练数据集中在网页搜索与软件工程轨迹，其他领域的记忆需求可能不同；训练信号依赖冻结的重建器和基于大模型的重建评判器，二者虽在推理时不需要，但其能力可能影响所学摘要器的质量。消融显示掩码比例 50% 与中等长度惩罚表现最好，偏离这一设置时性能下降。