AI代理话太多也读太多:caveman 4.0拆成六块,同一答案下把63个token压到20
核心概要
caveman 4.0把此前单一的输出压缩工具拆成六个可独立开关的部件,安装后默认全开,目标是让AI代理少说、少读、少跑。它不改提示词,因为Adobe的测试显示压缩提示词会让回答变差;它也不动代码和工具调用,因为JetBrains发现代理会话主要由代码与工具调用构成。在十个开发者问题上,以“Be concise”为基线,/caveman中位数再省3%,/ultracave再省35%,同一答案下63个token可降到20个。
深度剖析
caveman 4.0从单一的输出压缩工具变成六个部件,安装后全部开启,每个部件有独立开关,caveman status显示哪些开着,caveman off browse可单独关掉一个。 此前它只压缩代理说出来的话,现在同时压缩代理读进去的内容和它运行所依赖的东西。 两个外部发现决定了这个方向:Adobe的测试显示压缩提示词会让回答变差,所以caveman不碰提示词;JetBrains发现代理会话大部分是代码和工具调用,而语音层不碰这些。
输出压缩保留固定结构,只缩短表达,不破坏语法,因此答案质量不变。 “Be concise”是真正的基线,新模型本身已经知道要简洁,caveman是在此之上继续压缩。 十个开发者问题在claude-opus-5-5上测量,/caveman在中位数上再省3%,/ultracave再省35%,同一答案下63个token降到20个,token数用tiktoken o200k统计。
读取压缩针对代理读入的文件,同一批答案保持正确。 会话整体还带着系统提示词和工具,所以读取压缩带来的下降幅度比文件本身小。 18个测试文件全部答对,压缩对象是每个测试文件经过当前压缩器处理后的结果。
启示与展望
这套工具面向在本机运行AI代理的开发者,覆盖Claude、Codex、Gemini CLI、OpenCode等30多种代理,使用用户自己的密钥和Claude Pro/Max登录,需要Node.js 22.13以上。它适用于希望缩短代理输出、减少读入内容并控制运行开销的日常编码会话。
输出压缩的百分比是在3.1.0规则上测得的,尚未用新规则重跑。规则本身约占用1,160个输入token,如果按请求计费,例如GitHub Copilot,更短的回答并不省钱。Claude应用、手机端和Cowork的接入方式尚未端到端测试。
