跳到主要内容
返回时间线
ElevenLabs Blog来源发表:

ElevenLabs在ElevenAgents上线合成语音检测:通话头几秒判定来电是人还是AI智能体

核心概要

ElevenLabs在ElevenAgents中加入合成语音检测,在通话最初几秒分析来电者语音并给出“真人或AI生成”的判定,再由企业自定规则决定如何处置。此前企业难以在通话开始时区分个人AI智能体、业务智能体与克隆声音冒充的客户。检测在实时音频流上运行,不依赖音频是否带有水印,目前面向由Forward Deployed Engineering团队支持的企业客户开放。

Source-provided article image: Defining how AI agents interact with your business
ElevenLabs

深度剖析

企业接到的电话里,越来越多不是人打来的:有替个人办事的个人AI智能体,有确认订单或核对理赔的业务智能体,也有冒充客户的克隆声音。ElevenLabs在ElevenAgents中上线合成语音检测,让企业在通话开始时就能判断来电者是人还是AI生成,并据此执行自定规则。 在此之前,企业缺少在通话开头区分真人来电与AI智能体的手段,也就无法按来电类型分流。 该检测分析通话最初几秒的语音并返回“真人或AI生成”的判定,判定之后由企业设定的规则决定后续处理。

检测直接跑在ElevenAgents的实时音频流上,寻找人耳不易察觉、但软件可以识别的痕迹。 ElevenLabs生成的音频都带水印,但其他来源的音频往往没有水印,因此检测不依赖水印是否存在。 企业可设置的规则包括让真人客户优先接入能力最强的AI智能体或人工坐席,让机器来电进入有明确指令和边界的智能体先认证再在范围内应答,以及在合成语音请求敏感操作时于信息泄露或动作发生前拦截。

启示与展望

合成语音检测目前面向由ElevenLabs Forward Deployed Engineering团队支持的企业客户提供,本月晚些时候将作为ElevenAgents内的可配置选项向更广泛的企业客户开放。ElevenLabs同时以设计伙伴身份加入由Meta和Sierra牵头的Personal Agent Protocol工作组,该协议仍在制定中。

合成语音检测的判定准确率与误判情况未在材料中给出。Personal Agent Protocol仍在制定过程中,ElevenLabs表示将随着标准成形增加对自我声明智能体的支持,并持续补充信号。