跳到主要内容
返回时间线
Inception Blog来源发表:

扩散语言模型不再只是快:Mercury 3 参数扩40倍,千token每秒下质量追平前沿速度模型

核心概要

扩散式语言模型能否在复杂任务上与自回归模型竞争,此前一直是开放问题。Inception 发布的 Mercury 3 把参数规模扩大到 Mercury 1 的40倍以上,在 NVIDIA GPU 上以每秒1,068个token运行,官方称其在多项基准上与 GPT-6 Luna、Claude Haiku 5.5 持平或更好,速度快4至8倍。在50个 Mind2Web 实时导航任务中,它完成50%,明显多于 GPT-6.1-Sol,且token用量与智能体步数相同。

Source-provided article image: Diffusion at Scale: Introducing Mercury 3
Inception Blog

深度剖析

扩散式语言模型被推到可与前沿速度优化模型同台比较的规模,同时保持每秒千token级的生成速度。 Mercury 1 曾证明扩散语言模型可用于商业应用,但能否扩展到复杂用例与自回归模型竞争仍是开放问题。 官方称 Mercury 3 在多项基准上优于 GPT-6 Luna 与 Claude Haiku 5.5,并在 NVIDIA GPU 上达到每秒1,068个token,比这两者快4至8倍。

速度优势被放进真实智能体流程里检验,而不只是单次生成计时。 智能体在每一步都要等待模型返回,小延迟会快速累积。 在生产级网页智能体环境中跑50个 Mind2Web 实时导航任务,Mercury 3 完成50%,明显多于 GPT-6.1-Sol,token量与智能体步数相同,单token成本更低。

实现方式是继续沿扩散路线扩大模型,而不是改用自回归解码。 此前扩散语言模型多停留在小规模验证,规模与智能是否同步增长缺乏证据。 总参数扩大40倍以上,从 Mercury 1(mini)到 Mercury 3 在多项标准基准上的智能水平提升3倍,官方称驱动自回归模型进步的缩放规律在扩散模型上同样成立。

启示与展望

报道范围限于 Inception 发布的 Mercury 3 及其官方给出的基准、生产智能体测试和早期合作伙伴反馈。适用读者是关注实时推理与智能体部署的研究人员和工程师,关注点在速度、质量与上下文长度的组合。官方给出的下一步入口是 API 平台与100百万免费token的试用,以及面向企业的负载适配评估。

官方称缩放规律在扩散模型上同样成立,但这一判断建立在自身基准与3倍智能提升的表述上。生产智能体测试只覆盖50个 Mind2Web 导航任务,完成率为50%。合作伙伴反馈为早期测试与生产观察,未给出统一评测口径。