跳到主要内容
返回时间线
Vercel News来源发表:

AI Gateway上线虚拟模型:换模型改设置不必重部署,应用与智能体照旧调用

核心概要

AI Gateway 上线“虚拟模型”:它是一份保存下来的配置,指明用哪个模型、带哪些设置,应用和智能体用自定义模型 ID(如 vmc/coding-agent)调用。此前换模型或改设置要重新部署应用、重新配置智能体,现在在网关里集中改一次即可。它还能为编码智能体补上其本身未暴露的推理强度、快速模式、提示缓存等选项,并统一指定提供方、回退模型与零数据保留等要求。

Source-provided article image: Virtual models now available on AI Gateway
Vercel

深度剖析

应用和智能体调用模型时,可以不再直接写具体提供方的模型 ID,而是调用一个自定义 ID,由网关把它解析成保存好的模型与设置组合。 此前更换模型或调整设置需要重新部署应用或重新配置智能体;现在这些改动集中在 AI Gateway 里完成。 该能力已在 AI Gateway 上线,覆盖网关上的所有模型类型,调用形式为 vmc/<slug>,例如 vmc/coding-agent。

这份配置可以承载智能体自身没有暴露出来的运行选项,也可以承载路由与合规要求。 编码智能体本身不暴露推理强度、快速模式、提示缓存等选项,这些改由虚拟模型统一设定;提供方选择、回退模型和零数据保留等要求同样在配置里指定。 官方给出的创建示例把 anthropic/claude-opus-5.5 与快速模式、零数据保留写进同一份配置,用于生成可复用的编码智能体配置。

每次经由虚拟模型的请求都可以带上自定义报告标签,用于归属花费。 花费归属因此可以挂在虚拟模型这一层,与配置编码智能体、控制路由与合规并列为虚拟模型的三种用法。 该用途与配置编码智能体、控制路由与合规并列为虚拟模型的三种用法。

启示与展望

已演示的范围是 AI Gateway 上的虚拟模型:通过网页或 Vercel CLI 创建,用 vmc/<slug> 调用,并适用于网关上的所有模型类型。面向的是在该网关上运行应用与智能体的开发者。

材料未说明虚拟模型在底层模型或设置变更后对已发出请求的影响,也未给出任何量化效果;其价值目前只以功能描述的形式呈现。