长会话智能体不再每轮重发全部历史：50万至100万token请求首字延迟中位数降约35%
核心概要
Anthropic 在 Claude 平台公测 message threads，让智能体每轮只发送上一轮之后的新消息，而不必重发整段对话历史。此前编码智能体一次会话可能发出数百个请求，每个请求都携带全部早期消息与工具结果，上下文达到数十万 token 后，重发本身就会拖慢 Claude 开始响应的时间。在多数 Claude Code 用户默认开启的情况下，50 万至 100 万 token 的请求首字延迟中位数下降约 35%；但 Claude 每轮仍读取完整对话，token 用量不变。
深度剖析
长会话智能体不必再在每一轮把整段对话历史重新发给模型，只发送上一轮之后新增的内容即可继续同一段对话。 此前编码智能体一次会话可能发出数百个请求，每个请求都重发此前的每条消息和工具结果，对话达到数十万 token 后，这段重发在 Claude 开始响应前额外占用时间。 在多数 Claude Code 用户默认开启 message threads 的情况下，50 万至 100 万 token 的请求首字延迟中位数下降约 35%。
用法是在 Messages API 请求中加入 thread 参数：第一个请求携带完整对话并开启一条线程，之后的每个请求只带新消息和上一个响应的 ID。 线程在轮次之间保存在内存中并加密、不写入磁盘，最后一次请求后 5 分钟过期，客户端随后重发完整对话以开启新线程。 该功能已在原生 Claude 平台公测，并可在 AWS 上的 Claude 平台、Microsoft Foundry 中的 Claude 以及 Google Cloud 上的 Claude 模型（Anthropic 托管）使用，按标准 token 费率计费并受现有速率限制约束。
启示与展望
已展示的范围是 Claude 平台公测中的 message threads，覆盖原生平台、AWS 上的 Claude 平台、Microsoft Foundry 中的 Claude 和 Google Cloud 上的 Claude 模型（Anthropic 托管），按标准 token 费率计费并受现有速率限制约束。适用场景为对延迟敏感的活跃会话，包括长时编码智能体、计算机使用智能体和文档与图像密集的工作流。
官方说明 Claude 每轮仍读取完整对话，因此 token 用量不变，节省的是重发带来的等待时间而非计费 token。线程在最后一次请求 5 分钟后过期，客户端需重发完整对话开启新线程。延迟收益随智能体携带的上下文增多而增大，所报约 35% 的降幅对应 50 万至 100 万 token 的请求区间。