同传不再切句等停顿：CRESiST用读写交错策略，无分段流式翻译只比有边界版本低1–2个COMET点
核心概要
CRESiST把大模型同声传译从“前缀追加”改成语音块与译文词交错的读写序列，使KV缓存可以整段复用，不再依赖语音活动检测切句。它用RNN-T作为Actor采样读写轨迹，由带Router与Refiner的Qwen2.5-omni-7B作为Critic给出语义一致性与时延奖励，再反向蒸馏回Actor。在MuST-C与ACL 60/60上，无分段流式结果比有oracle分段仅低1–2个COMET点。
深度剖析
同声传译系统可以不再把新到的语音块不断追加到历史前缀之后，而是把语音块与译文词排进同一条交错序列，让整段KV缓存持续复用，从而原生处理没有句界的连续音频流。 此前的LLM同传主要采用前缀增量生成，每一步追加都会让KV缓存失效，计算量随步数呈二次增长，并需要语音活动检测等外部分段来切断长流。 在MuST-C与ACL 60/60的英中、英德文档级测试上，无分段流式设置下CRESiST在MuST-C英中取得73.73 COMET、LongYAAL 1.14，在ACL 60/60英德取得85.59 COMET、LongYAAL 1.08，而有oracle分段的同一模型分别为75.30/1.29与87.23/1.00。
流式读写时机不靠离线词对齐监督，而是由一个小的RNN-T Actor主动采样“读下一块语音”还是“写下一个词”，再由语音大模型Critic评判这条轨迹好不好。 此前的交错读写架构依赖MFA等工具给出的静态词对齐来构造监督轨迹，难以刻画译员边听边预判的动态节奏。 Actor以400毫秒为语音块粒度，在离线平行语料上训练；Critic由Qwen2.5-omni-7B主干加Router与Refiner构成，用动态一致性奖励和时延奖励打分，并以反向蒸馏把二值化后的读写决策回传给Actor，训练按8步Critic对1步Actor交替进行。
Critic的时延奖励直接由Router预测的连续写词长度期望给出，因此模型被激励尽早、成段地输出译文，而不需要外部的时延约束规则。 此前的做法多依赖固定阈值、等待级联或注意力边界指标来决定何时开始翻译。 在FLEURS中英双向测试上，该流式模型在保持相当或更优时延的同时，翻译质量严格高于商用Seed LiveInterpret 2.0接口；在极低时延要求下曲线仍平缓下降。
启示与展望
已展示的范围是句子级FLEURS与CoVoST2、文档级MuST-C与ACL 60/60上的英中、英德方向，以及中英输入到六种目标语言的统一模型；文档级评测使用OmniSTEval，时延以词级或中日韩字符级计算。
作者指出绝对翻译质量受主干容量与离线SFT数据限制，在ACL60/60开发集上相对原始Qwen2.5-omni出现离线性能下降，提示学术领域存在分布差异与灾难性遗忘；决策阈值在句子级能调节质量-时延权衡，但在文档级连续流中调节效果有限，可能需要上下文感知的动态惩罚机制。