OpenRouter 重写 Auto Router 并新增 Auto Code:路由步骤 p90 从 1.96 秒降到 0.65 秒
核心概要
OpenRouter 发布新一代 Auto Router,并新增面向编程场景的 Auto Code 路由器。旧版只依赖任务类型等少数不精确信号选模型,新版在一次调用中评估请求的十一项因素,再结合实时价格、供应商健康度和缓存状态决定模型与推理强度。在五项基准上,Auto Code 的得分与 Claude Opus 5.5 相当,而每个任务成本低 74%;实时测试中路由步骤 p90 为 0.65 秒,旧版为 1.96 秒。
深度剖析
OpenRouter 推出新一代 Auto Router,并同时上线专为编程工作调优的 Auto Code 路由器,两者共用同一套路由引擎。 上一代 Auto Router 只依赖任务类型等少数不精确信号来驱动模型选择,这是为压低延迟、保持判断一致而做的取舍。 在五项基准上,Auto Code 得分与 Claude Opus 5.5 相当,而每个任务成本低 74%;实时测试中路由步骤 p90 为 0.65 秒,旧版为 1.96 秒。
路由器先按治理策略收窄候选模型池,再由一个快速决策模型对请求打分,最后由路由策略选出模型和推理强度。 决策模型在一次调用中评估请求的十一项因素,例如任务类型、任务是否刚发生变化、难度、是否看重速度、是否需要视觉或代码库知识,以及更大的模型、更多思考或更便宜的模型是否更合适。 路由策略结合实时价格、缓存状态和基准表现做选择,请求随后走与直接调用该模型相同的供应商路由;每一轮的结果会带入下一轮的模型选择。
启示与展望
演示范围是 OpenRouter 平台上的模型路由:Auto Router 面向混合流量和通用智能体,Auto Code 面向编程智能体和编程框架,二者都只在用户设定的治理策略、零数据保留要求和供应商限制所划定的模型池内选择。发布方明确说明,市场上没有路由器能在成本与质量曲线的每一点上胜过单个最强前沿模型,新版 Auto Router 也不例外。
发布方说明,路由器在基准上取得好成绩比在实际中表现好更容易,因此强调 Auto Router 每月处理来自十万多名用户的超过 2.5 万亿 token。测试期与旧版路由器相比,无效工具调用低 4 倍,智能体回复被截断的频率减半。此次发布还把定价调回接近几个月前的水平,以纳入更多模型;偏好旧行为的用户可把 cost_tier 设为 low。
