Headroom 在本地压缩智能体输入:四类场景少用 21–57% 输入 token,重复 JSON 与日志行可省九成以上
Headroom 把 AI 智能体读到的工具输出、日志、RAG 片段、文件和对话历史在送入大模型前压缩,目标是答案不变而输入 token 更少。它在四类智能体场景上测得输入 token 减少 21–57%,对重复 JSON 数组和日志行可省九成以上,对普通散文则效果很小。压缩在本机进程内完成,原始内容缓存在本地,模型需要时可取回全文。
Headroom 把 AI 智能体读到的工具输出、日志、RAG 片段、文件和对话历史在送入大模型前压缩,目标是答案不变而输入 token 更少。它在四类智能体场景上测得输入 token 减少 21–57%,对重复 JSON 数组和日志行可省九成以上,对普通散文则效果很小。压缩在本机进程内完成,原始内容缓存在本地,模型需要时可取回全文。
已读完全部报道