跳到主要内容
返回时间线
arXiv来源发表:

EmoRES 把情绪向量拆成共享与残差两部分,在 IndexTTS-2 与 CosyVoice2 上把情绪命中率最高提升 12.95 个百分点

核心概要

该工作提出免训练的 EmoRES 方法,发现情绪引导向量可分解为把语音推离中性表达的共享分量与指向目标情绪的残差分量,并分别独立控制二者;在 IEMOCAP 上,EmoRES 在 IndexTTS-2 与 CosyVoice2 两个冻结骨干上于全部四项客观情绪指标上优于 CoCoEmo,排序相关性分别提升 26.13 与 12.97 个百分点,情绪命中率分别提升 12.95 与 6.92 个百分点,人类评测中听者正确识别主导目标情绪的比例相对提升最高 35.0%,自然度成对偏好最高达 63.8%。

AI-generated editorial illustration: EmoRES-TTS: Residual-Enhanced Vector Steering for Emotional Speech Generation

深度剖析

作者对基于语言模型的 TTS 情绪引导向量做了功能分解,发现每个类别情绪向量都包含一个共享分量(从中性均值指向情绪激活质心)和一个残差分量(从质心指向被请求的情绪)。 此前 CoCoEmo 把每个情绪向量当作不可分割的方向,只用一个全局强度控制;该工作首次把共享位移与请求相关残差分开考察。 分量消融实验在固定引导强度与向量范数的条件下显示,仅共享分量时排序相关性降到 5.30%(IndexTTS-2)与 7.20%(CosyVoice2),仅残差分量时排序相关性较高但 E-SIM 与 TEP 低于两者结合;共享分量单独作用还把中性后验从 36.51% 降到 7.49%。

EmoRES 在不重训骨干、不学习新子空间的前提下,为共享分量与残差分量各设一个系数,并相对增强残差分量。 当残差系数取 1 时该方法精确退化为 CoCoEmo,因此常规引导成为所提方法族的一个特例,而非另一套独立规则。 所有被引导条件在注入前都被重缩放到原始情绪向量的平均欧氏范数,因此各条件之间只差方向与分量配比,不差总引导幅度。

在 IEMOCAP 留出测试集上,EmoRES 在 IndexTTS-2 与 CosyVoice2 上均优于 CoCoEmo:排序相关性分别提升 26.13 与 12.97 个百分点(相对增益 118.8% 与 33.1%),情绪命中率分别提升 12.95 与 6.92 个百分点(相对增益 20.1% 与 9.8%)。 改进集中在排序相关性与命中率这两项衡量“后验变化是否跟随请求排序”的指标上,同时 TEP 与 E-SIM 在每一组比较中也都提高。 CREMA-D 作为开发集用于调参,IEMOCAP 严格留出、不贡献任何说话人或录音;引导向量从 ESD、CREMA-D、RAVDESS 的 8,050 对中性—情绪配对(约 12.6 小时语音)中一次性提取。

人类评测显示,听者最常标注的情绪与主导目标情绪一致的比例从 54.72% 升到 73.89%(IndexTTS-2)、从 58.18% 升到 77.88%(CosyVoice2),保真度也同时提高,自然度成对偏好分别为 63.80% 与 60.32%。 保真度衡量的是与完整目标情绪混合分布的吻合程度,因此主导情绪命中率的提升并非以压制其余请求情绪为代价。 每个样本至少获得 9 位不同标注者的独立标注,IndexTTS-2 评测 360 个样本、CosyVoice2 评测 330 个样本,配对差异的 95% 置信区间不含零。

启示与展望

该结果面向希望在不重训骨干的前提下提升情绪可控性的语音合成研究与工程场景:引导向量一次性从 ESD、CREMA-D、RAVDESS 的配对语料中提取后即可复用,推理时只需在注意力输出处注入,骨干参数保持冻结,也不需要目标情绪参考录音。评测覆盖 IndexTTS-2 与 CosyVoice2 两个骨干、CREMA-D 开发集与严格留出的 IEMOCAP 测试集,情绪限于愤怒、快乐、悲伤与惊讶。作者指出后续工作将把 EmoRES 扩展到句内变化的 token 级或片段级控制,并检验共享—残差分解能否推广到更多情绪、语言、语音语料与 TTS 架构。

分量消融与随机方向对照说明性能依赖两个分量各自的实测方向,但共享分量“把语音推离中性”与残差分量“指向被请求情绪”这一功能解释仍属作者提出的假设,其机制层面的因果链条有待进一步检验。评测情绪集合为愤怒、快乐、悲伤与惊讶,混合情绪评测基于语料标注的比例,句内情绪随时间变化的情形尚未覆盖。人类评测的样本量与标注者数量在正文中给出,但标注者群体构成与语言背景未在本文中展开。此外,本文为全文阅读,附录中的部分图表细节在文本中以引用形式出现,若需复现具体数值仍需查阅原文附录。

来源