跳到主要内容
返回时间线
Mistral Blog来源发表:

语音智能体不再逐段等:Voxtral 3 把听、想、说并成一条流,每轮不到一秒

核心概要

Mistral 发布 Voxtral 3,把语音识别、推理、工具调用与语音合成放进同一条实时流式管线,并配套语音智能体 SDK。此前让智能体同时听准、想清、说自然并跨系统执行多步操作仍很困难。其 Small 转写模型在英语、法语、西班牙语的多语言转写与说话人分离上优于 Whisper、Scribe v2 和 Gemini 3.5 Transcribe,实时转写延迟低于 500 毫秒。

Source-provided article image: Voxtral 3
Mistral AI

深度剖析

语音智能体从拼接多个独立环节,变成一条同时完成听、想、调用工具和说的实时流式管线,面向联络中心、服务台、虚拟助手和免手持副驾等场景。 此前语音转写与语音生成各自已有进展,但把听、推理、交互和复杂工作流端到端可靠地合在一起仍然困难。 Small 转写模型在英语、法语和西班牙语的多语言转写与说话人分离上取得领先结果,并优于 Whisper、Scribe v2 和 Gemini 3.5 Transcribe。

整条管线由多个独立模型分工:实时转写模型负责听并判断对方是否说完,通用模型负责推理和调用工具,语音模型按对话语气作答。 这套 SDK 建立在 LiveKit 之上,把语音输入、推理和语音输出作为一条流式管线运行,而不是让每一段等待上一段结束。 各阶段互不等待,因此每轮对话在一秒内完成,且呼叫方插话时智能体会停止说话;通话中可完成身份核验、查账单或预约,并通过 SIP、WebRTC 接入电话、浏览器和现有联络中心软件。

启示与展望

报道覆盖的是 Voxtral 3 的发布内容:转写、合成与语音智能体 SDK 的能力描述、语言覆盖、定价与部署方式。适用读者是构建实时语音交互系统的工程师与研究者,使用场景为联络中心、虚拟助手和免手持副驾。可通过 Mistral API 或自部署在自有基础设施上运行,敏感对话可留在自有环境并控制音频是否保留。

多语言转写与说话人分离的领先结论针对英语、法语和西班牙语,其他语言未给出同等对比。表达力与指令遵循的领先说法以发布方评测为据。实时转写延迟低于 500 毫秒的语言覆盖在原文中前后不一致:一处写 35 种以上,另一处写 40 种以上,具体数目尚待确认。Pro Voice 用 30 分钟音频复现说话人特质,属于专业场景的适配能力。