跳到主要内容
返回时间线
arXiv来源发表:

语音编码器不再让内容决定序列长度:RubatoCodec给每句话固定事件预算,还能流式解码

核心概要

可变帧率语音编码器按内容分配词元,但基于阈值的分配让内容决定词元数,生成器在固定设置下要产出的序列长度会随语句和数据集变化。RubatoCodec在X-Codec-2上引入语句级精确事件预算与流式解码,用编码器特征和波形频谱的变化把语音切成变长事件,每个事件由离散码和显式时长表示。受控实验显示,低事件率下自适应分配在重建保真度和可懂度上优于固定帧率编码;匹配的文本转语音对比中,该表示取得更低WER和更高UTMOS、UTMOSv2,说话人相似度相当。

Source-provided article image: RubatoCodec: Budgeted Adaptive Speech Tokenization with Streaming Decoding
arXiv

深度剖析

语音生成所需的离散词元序列长度,现在可以由每句话一个明确的事件预算来固定,而不是由语音内容在阈值规则下自行决定。 此前的可变帧率编码器用阈值决定在哪里切分,词元数随内容浮动,因此在同一设置下,生成器面对的序列长度会因语句和数据集而不同。 受控实验显示,在低事件率下,自适应分配在重建保真度和可懂度两项指标上优于固定帧率编码。

切分不依赖单独训练出来的边界预测器,而是直接观察编码器特征和波形频谱的变化,把语音划成时长不等的事件。 每个事件用离散码加一个显式时长来表示,生成器因此可以一次预测并解码一个事件,而不必一次产出整句词元。 在英语、日语和普通话上,用大规模多语种语音训练的模型取得有竞争力的重建质量;在可比码率下,它在所评估的英语和日语基准上可懂度保持最好。

在匹配的文本转语音对比中,自适应表示带来更低的词错误率和更高的UTMOS、UTMOSv2,说话人相似度相当。 语音生成器也学会了编码器的语句级事件预算,不需要在生成时额外施加显式的速率约束。 这些结果来自匹配的文本转语音对比,以及生成器对事件预算的学习表现,支持预算化的自适应语音表示同时用于高质量重建和流式文本转语音生成。

启示与展望

已展示的范围是:在X-Codec-2基础上构建的编码器,受控实验中的低事件率重建与可懂度比较,英语、日语、普通话上的多语种重建评估,以及匹配的文本转语音对比;代码与权重已在GitHub和Hugging Face公开。

可懂度领先的表述限定在所评估的英语和日语基准、可比码率条件下;材料未给出具体指标数值,也未说明事件预算在不同数据集间如何设定。