全双工语音模型聊到十分钟就崩:自蒸馏加双分辨率上下文,把语音内容与音色退化压低71–96%
全双工语音对话模型在长会话中会出现响应变慢、内容失序和音色漂移,此前缺少针对这一稳定性的专门训练与结构设计。研究用闭环模拟用户逐分钟量化四款公开模型的退化,再以特权上下文自蒸馏做轻量LoRA适配,并叠加双分辨率上下文(TRC)压缩较早历史。在三种架构不同的模型上,自蒸馏在十分钟训练时长内缓解退化,加入TRC后语音内容与音色退化相对基线降低71–96%,并把改善延续到二十分钟会话。
全双工语音对话模型在长会话中会出现响应变慢、内容失序和音色漂移,此前缺少针对这一稳定性的专门训练与结构设计。研究用闭环模拟用户逐分钟量化四款公开模型的退化,再以特权上下文自蒸馏做轻量LoRA适配,并叠加双分辨率上下文(TRC)压缩较早历史。在三种架构不同的模型上,自蒸馏在十分钟训练时长内缓解退化,加入TRC后语音内容与音色退化相对基线降低71–96%,并把改善延续到二十分钟会话。
研究者提出 Duplex-MPE 基准,用 2000 组含三到四名人类说话者与助手 Aria 的连续多人对话场景(每组配对显式点名与隐式指代两种版本),在无转写、无说话人标签、无轮次边界的音频输入下,用新应答发起率、条件答案正确率、静默保持率与应答窗口让出率四项指标评测五个开源全双工语音系统,发现 MiniCPM-o 4.5 在三项计分能力上领先,而其他系统的高频发声常与答案错误或未能保持静默并存。
已读完全部报道