全双工语音模型聊到十分钟就崩:自蒸馏加双分辨率上下文,把语音内容与音色退化压低71–96%
全双工语音对话模型在长会话中会出现响应变慢、内容失序和音色漂移,此前缺少针对这一稳定性的专门训练与结构设计。研究用闭环模拟用户逐分钟量化四款公开模型的退化,再以特权上下文自蒸馏做轻量LoRA适配,并叠加双分辨率上下文(TRC)压缩较早历史。在三种架构不同的模型上,自蒸馏在十分钟训练时长内缓解退化,加入TRC后语音内容与音色退化相对基线降低71–96%,并把改善延续到二十分钟会话。
全双工语音对话模型在长会话中会出现响应变慢、内容失序和音色漂移,此前缺少针对这一稳定性的专门训练与结构设计。研究用闭环模拟用户逐分钟量化四款公开模型的退化,再以特权上下文自蒸馏做轻量LoRA适配,并叠加双分辨率上下文(TRC)压缩较早历史。在三种架构不同的模型上,自蒸馏在十分钟训练时长内缓解退化,加入TRC后语音内容与音色退化相对基线降低71–96%,并把改善延续到二十分钟会话。
一种把数据驱动需求预测网络与黑箱微观交通仿真器双向耦合的实时OD需求校准框架,用可解析的元模型代替仿真器回传梯度,使网络参数和需求估计随时间步同步更新。在3×3网格网络中,第10天B1C1车道于4小时封闭后,该框架密度MSE为21.6 [veh/km]2,比LimEKF的57.9 [veh/km]2低63%;在东京高速走廊2021年奥运交通管理日,带在线更新的版本MSE为0.66 [veh/km]2,LimEKF为1.15 [veh/km]2。
已读完全部报道