跳到主要内容
返回时间线
Vercel News来源发表:

Mercury 3 上架 AI Gateway:扩散式并行精炼生成文本,速度超过每秒 1000 个 token

核心概要

Inception 的 Mercury 3 已通过 AI Gateway 提供,采用扩散方式并行精炼生成文本,而非逐词顺序生成。Inception 报告其在多项基准上结果良好,生成速度超过每秒 1000 个 token,并具备 100 万 token 上下文窗口。该模型面向浏览器智能体、实时搜索、互动教育和客户支持等对延迟敏感的工作负载,提供改进的推理能力。

Source-provided article image: Mercury 3 now available on AI Gateway
Vercel

深度剖析

Mercury 3 现在可以通过 AI Gateway 调用,模型名为 inception/mercury-3,发布期定价为五折。 此前该模型不在 AI Gateway 的可用模型之列,调用方需要另寻接入途径。 AI Gateway 以统一 API 提供模型调用、用量与成本跟踪,并支持重试、故障转移和性能优化;它按提供商定价不加价,也不收取推理平台费。

Mercury 3 用扩散方式生成文本,通过并行精炼而不是逐词顺序推进来产出结果。 常见的文本生成按顺序逐 token 输出,而这里把生成改写为多轮并行精炼。 Inception 报告该模型在多项基准上结果良好,生成速度超过每秒 1000 个 token。

100 万 token 的上下文窗口让长文档和较长的对话历史可以放进同一次请求。 对延迟敏感的应用此前受限于上下文长度,难以同时容纳长材料和长对话。 该模型面向浏览器智能体、实时搜索、互动教育和客户支持等工作负载,并带来改进的推理能力。

启示与展望

报道范围限于 AI Gateway 上架信息与 Inception 公布的能力描述:扩散式并行精炼、超过每秒 1000 个 token 的生成速度、100 万 token 上下文窗口,以及面向浏览器智能体、实时搜索、互动教育和客户支持等延迟敏感负载的定位。接入方式为设置 AI_GATEWAY_API_KEY 环境变量并使用 inception/mercury-3 模型名,也可通过 Vercel CLI 的 ai-gateway setup 在 Claude Code、Codex、Cursor 等编码智能体中选择该模型。

Inception 所称的“多项基准上结果良好”未在材料中列出具体基准名称或数值,速度数字也未说明测量条件。改进的推理能力与延迟敏感场景的适配属于发布方描述,材料未给出这些场景下的实测表现。