跳到主要内容
返回时间线
AI Research | Salesforce Blog来源发表:

Salesforce把语音对话做成可检查的文本:先出文字再开口,小模型也能扛企业任务

核心概要

Salesforce AI Research 推出面向企业实时对话的语音模型 Launa-Omni,它把语音与语言放进同一个经音频改造的文本模型,再由自研文本转语音模型说出回复。与把语音识别、语言模型和语音生成串成流水线的做法不同,语音在进入推理前不被转写成文字,因此语速、停顿和重音等信息不会在第一次交接时丢失。模型规模明显小于若干更大的语音模型,在语音指令遵循、多轮对话和客服任务上报告了有竞争力的结果,并已以简化形式用于 Slack 的语音听写功能。

Source-provided article image: Meet Launa-Omni, Salesforce’s Voice Model for Real-Time Conversation
Salesforce AI Research

深度剖析

企业语音智能体现在有了一个把语音和语言合在同一模型里的选择,回复在开口之前先以文字形式出现,团队可以查看并纠正。 此前的语音系统多走两条路:一条把语音识别、语言模型和语音生成三个模型按轮次串行处理,另一条用单个模型直接语音进、语音出。 串行方案在交接时保留文字可见性,却会丢掉原始语音中的细节并引入停顿;端到端语音方案对话更自然,但服务成本可能更高、回复形成过程更不透明。Launa-Omni 在语音指令遵循、多轮对话和客服任务三类评测上报告了有竞争力的结果,对照对象是若干规模明显更大的模型。

语音不再先被转写成文字再交给模型推理,语速、犹豫和重音这些承载意义的信息得以保留到推理阶段。 串行系统在第一次交接时就把语音变成文本,转写无法容纳的节奏与强调随之消失。 做法是把一个文本模型改造成能处理音频,使语音与语言共享同一个潜在空间;核心模型之外,另有一个内部训练的文本转语音模型负责生成语音回复。该模型在 Salesforce 和 Slack 的场景中开发与训练,实时链路负责检测说话并判断一轮发言何时结束。

语音之外的重活可以转交给前沿模型,语音只作为交互入口。 单一语音模型难以独自承担长推理、搜索或复杂任务执行。 Launa-Omni 可以与前沿模型搭配,把更深层的工作路由到更合适的系统;Slack 用户已能在其语音转文字听写功能 Slackbot Voice Dictation 中体验该模型的简化版本。

启示与展望

报道范围限于 Salesforce AI Research 公布的模型结构、评测类别与产品落地情况。可检查性来自回复先以文字形成再被说出,适用于需要人工查看和纠正的企业对话;Slack 中可用的是该模型的简化版本,用于语音转文字听写。

评测结果以“有竞争力”描述,对照的是若干规模更大的模型,未给出具体数值。模型虽称具有通用性,但开发与训练面向 Salesforce 和 Slack 的体验;与前沿模型搭配时,深层任务由外部系统承担。