# 特权上下文自蒸馏

全双工语音对话模型在长会话中会出现响应变慢、内容失序和音色漂移，此前缺少针对这一稳定性的专门训练与结构设计。研究用闭环模拟用户逐分钟量化四款公开模型的退化，再以特权上下文自蒸馏做轻量LoRA适配，并叠加双分辨率上下文（TRC）压缩较早历史。在三种架构不同的模型上，自蒸馏在十分钟训练时长内缓解退化，加入TRC后语音内容与音色退化相对基线降低71–96%，并把改善延续到二十分钟会话。

全双工语音对话模型在长会话中会出现响应变慢、内容失序和音色漂移，此前缺少针对这一稳定性的专门训练与结构设计。研究用闭环模拟用户逐分钟量化四款公开模型的退化，再以特权上下文自蒸馏做轻量LoRA适配，并叠加双分辨率上下文（TRC）压缩较早历史。在三种架构不同的模型上，自蒸馏在十分钟训练时长内缓解退化，加入TRC后语音内容与音色退化相对基线降低71–96%，并把改善延续到二十分钟会话。