会议转写不再只看谁在说话:结构化说话人条件让重叠语音下的目标识别更稳
核心概要
会议转写需要按指定说话人输出文字,但此前的四状态活动条件会把不同的干扰人数和交接历史压成同一个目标条件。结构化说话人条件把每条说话人活动轨迹先单独编码,再与整场会议得到的声学身份结合,并用条件相关的低秩跨通道调制控制声学编码器。在 Qwen3-ASR-0.6B 与 oracle 分离结果上,完整方法用 1.46M 条件参数,在四个会议测试集上相对四状态对角条件取得 6.23% 的平均相对 cpER 下降。
深度剖析
会议转写中,指定说话人的条件不再只由当前窗口的四种活动状态决定,而是同时携带每条说话人轨迹的历史和整场会议中的声学身份。 此前的四状态条件把非目标轨迹汇总成一个量,不同的干扰人数和说话人交接历史可能映射到同一个目标条件。 在 Qwen3-ASR-0.6B 与 oracle 分离结果上,完整方法在 AliMeeting、AISHELL-4、AMI-SDM、NOTSOFAR-1 四个会议测试集上相对四状态对角条件取得 6.23% 的平均相对 cpER 下降,条件参数为 1.46M。
目标条件由三部分构成:按轨迹编码的活动历史、来自会话音频的说话人身份,以及把这些信息转成编码器通道变换的调制算子。 目标中心关系编码用共享因果时间编码器逐条处理活动轨迹,再以对称求和计算目标与单个干扰者、目标与两个不同干扰者之间的关系,聚合代价随轨迹数线性增长。 参考身份来自当前窗口之外、属于该说话人的会话片段,经共享编码器前六个块编码后按注意力权重池化;条件低秩调制把联合条件映射为逐通道仿射变换和秩为 8 的跨通道残差,在 Qwen3-ASR-0.6B 上跨通道分支增加 296,064 个参数。
启示与展望
评测覆盖四个域内会议测试集(AliMeeting、AISHELL-4、AMI-SDM、NOTSOFAR-1)和三个未见域(MISP-Meeting、AISHELL-5、DiPCo),全部使用单通道远场音频;机制消融主要使用 oracle 分离结果,完整系统对比使用 DiariZen 加序列到序列精修的预测分离结果。
时间戳变体在七个测试集上相对纯文本模型有 0.43 个百分点的等权平均 cpER 代价;预测分离下四个域内测试集的宏平均 cpER 为纯文本 15.60%、带时间戳 15.96%。会话身份带来的收益在目标活动缺失和轨迹交换的干预下更大,而在误报干预下 AliMeeting 与 AMI-SDM 分别只变化 0.02 和 0.36 个百分点。
