跳到主要内容
返回时间线
ElevenLabs Blog来源发表:

通话不再等翻译:ElevenLabs实时语音翻译上线,90多种语言各说各话也能互通

核心概要

ElevenLabs推出实时语音翻译模型Eleven Realtime Translation,让通话双方各说自己语言、同时听到对方语言的表达性语音。此前跨语言客服往往要等会该语言的坐席,或把口译员接入通话。该模型基于低延迟语音模型Eleven v4 Turbo,支持90多种语言和自动语言检测,单一音色在多语言间保持一致,目前以alpha形式向ElevenAPI企业客户开放。

Source-provided article image: Talk to anyone, in any language, in realtime
ElevenLabs

深度剖析

跨语言通话从“先找会这门语言的坐席”变成“双方各说各的语言、实时听到对方语言的语音”,翻译发生在对话进行中,而不是事后转写或另约口译。 此前客户用一种语言打进来,常要等待能听懂自己的坐席,还常要面对自己说不流利语言的问题。 德国电信已在Magenta AI Call Assistant中用它构建新的通话功能,其消费者AI副总裁Lena Drubel称这是语音连接人与人的全新阶段。

实现方式是让一个语音模型在通话中直接完成翻译并保持音色,用户从超过17500个音色库中任选,或使用自己的Instant或Professional Voice Clone,该音色在整个会话中保持一致。 默认使用为实时应用优化的低延迟语音模型Eleven v4 Turbo,单一音色在多语言间表现更一致,品牌或坐席在每个市场听起来相同。 该模型覆盖90多种语言并带自动语言检测,部署方可调节翻译启动的快慢,从面向账单、理赔等复杂通话的较高质量翻译,到追求快速往来的最低延迟。

启示与展望

报道范围限于ElevenLabs公布的产品信息:Eleven Realtime Translation以alpha形式向ElevenAPI企业客户开放,默认使用Eleven v4 Turbo,支持90多种语言与自动语言检测,音色可选自17500多个音色库或自建克隆。文中给出的应用场景为电信运营商嵌入通话层、客服中心置于坐席与来电者之间、现场活动为听众提供各自语言的语音。

公开材料未给出翻译准确率、端到端延迟数值或并发规模等指标,也未说明alpha阶段的语言对覆盖差异。德国电信的表态属于正在构建新通话功能的计划性描述,而非已完成的部署结果。