长跑智能体的上下文管理不再全靠大模型：ScaleDown专用模型接入LangChain，摘要便宜41倍
核心概要
长跑智能体的上下文管理此前每一步都要调用通用大模型，慢且贵。ScaleDown的受限解码模型（CDM）只做单一任务，只返回该任务允许的答案，因而可以更小更快更省；LangChain与Deep Agents新增集成，内置摘要、工具结果压缩和结构化抽取三个中间件，LangSmith LLM Gateway也把ScaleDown列为直接模型提供方，调用可被追踪并计入额度。ScaleDown自报其模型在这类窄任务上比前沿模型快200倍、便宜467倍。
深度剖析
长跑智能体每轮都要做上下文管理决策，现在这些决策可以交给只做单一任务的专用模型，而不是每一步都调用通用大模型。 此前摘要旧历史、压缩大块工具结果、从长输入里抽取字段，都由通用大模型完成，在长跑智能体所需的调用量下既慢又贵。 ScaleDown自报其受限解码模型在这类窄任务上比前沿模型快200倍、便宜467倍；在其自有基准上，对照GPT-5.5、GPT-5.4 Mini与GPT-5.4 Nano的平均值，Summarize便宜41倍、快2.7倍，Compress便宜138倍、快1.8倍，两者准确率都更高。
集成把上下文管理拆成三个可插拔的中间件，分别负责摘要、压缩和抽取，智能体自己的模型仍负责规划与写代码。 受限解码模型与通用大模型不同：通用模型逐token写出任意字符串，受限解码模型只返回任务允许的答案，比如列表中的一个标签或输入中的片段。 四个模型各只训练一个任务：Summarize写短摘要，Compress按问题裁出相关部分，Extract抽取字段并给出置信度与原文位置，Classify按自定义标签打分并返回概率；每个模型单次可接收最多100万token输入，Extract、Summarize和Classify还直接接受图像与扫描版PDF。
启示与展望
这套集成面向使用LangChain与Deep Agents构建长跑智能体的开发者，覆盖摘要、工具结果压缩、结构化抽取和状态分类四类窄任务，并可通过LangSmith LLM Gateway以/scaledown路径调用，使调用被追踪并计入支出与速率限制。开放式的生成任务，例如写代码、起草回复和规划，仍应保留通用大模型。
速度与成本倍数由ScaleDown自报，其自有基准对照的是GPT-5.5、GPT-5.4 Mini与GPT-5.4 Nano的平均值，材料未给出第三方复现。压缩示例中一页文档从18,402字符降到3,110字符，属于单个trace的观测。分类防漂移的断路器需要自行编写中间件，材料未提供预置实现。