跳到主要内容
返回时间线
arXiv来源发表:

LEAP 让小时级音视频问答不再整段塞进上下文:在 Qwen3-Omni-30B 上比官方配方高 4.5–16.8%,并迁移到 MiniCPM-o 4.5

核心概要

LEAP 把小时级录音切成固定时长块、对每块做一次轻量定位打分以挑出少量候选窗口,再把这些窗口重新编码进一次有界作答,从而让作答输入与峰值上下文不随录音时长增长;在多个 AVQA 基准上比 Qwen3-Omni-30B-A3B 基线提升 4.5–16.8%,并迁移到 MiniCPM-o 4.5 超过其已发表结果 3.1–13.0%。

AI-generated editorial illustration: LEAP: Learned Block-wise Evidence Retrieval for Long Audio-Video Perception

深度剖析

LEAP 提出一种“模型自己检索证据”的两阶段框架:录音被切成不重叠的固定时长块,每块再切成短候选窗口,一次轻量的、以问题为条件的定位 pass 给窗口打分,最高分窗口被汇集并在一次有界作答 pass 中重新编码。 此前选择式方法从粗粒度视角挑区域、压缩式方法保留全片但稀释细节、智能体式方法把“看哪里”交给推理时提示的通用模型;LEAP 把证据定位与推理解耦,并让定位与作答两个阶段都经过训练(定位 LoRA 改善被选窗口,作答 LoRA 改善从同一批窗口读出的答案)。 论文给出两阶段的形式化定义、定位 pass 的选项字母 logit 打分公式与训练目标,以及部署配置(块长、候选窗口、保留块数与窗口数);消融显示去掉检索、去掉定位 LoRA、去掉作答训练都会降低准确率。

由于每次 pass 只读一个块或一小组保留窗口,作答输入与峰值上下文、峰值显存都与录音时长无关;论文给出 token 记账,说明单次 pass 的上下文有界。 整段读取的基线每小时消耗大量 token,骨干的位置上限在约几十分钟处就被耗尽;LEAP 的每次 pass 读一个块或至多若干保留窗口,因此不随时长增长。 论文给出成本公式与部署数值(定位 pass 与作答 pass 的 token 上限、作答 pass 位置上限),并说明在部署运行中每次块 pass 与作答 pass 都未触及上限。

同一套块网格可以只靠预计算转写文本做定位,不必解码媒体帧,而最终作答仍回到原始音视频流,从而保留转写遗漏的视觉与非语音证据。 已有基于字幕或文档检索的流水线往往只把文本交给作答模型;LEAP 让文本通道与媒体通道共享块网格与作答 pass,只在“扫描什么”上不同。 论文报告转写通道在多个基准上与媒体通道准确率接近,定位 token 更少、每题查询时间更短;并报告证据被说出的比例越高,转写通道相对媒体通道保留的证据越多。

块网格天然支持因果查询,使 LEAP 无需流式专门训练即可用于流式推理;在 StreamArena 的历史回溯任务上,LEAP 显著优于同一骨干整段读取前缀与均匀窗口两种基线。 流式系统通常需要专门设计(KV 缓存、固定大小记忆或文本记忆);LEAP 直接复用按时钟固定的块网格,定位 pass 只在查询时刻之前的块上选窗口,作答 pass 再从原始媒体重读这些窗口。 论文报告在 StreamArena 上 LEAP 的媒体通道与转写通道均显著领先整段前缀与均匀窗口基线,并在 9B 的 MiniCPM-o 4.5 上显著优于其原生流式模式。

启示与展望

这项工作面向小时级音视频问答,尤其是证据分散在少数短窗口、且需要同时利用语音与非语音/视觉线索的设定;它适用于骨干权重冻结、只训练两个 LoRA 适配器的部署方式,也适用于只能读取查询时刻之前内容的因果流式设定。对读者而言,它意味着长录音不必整段进入上下文:定位 pass 覆盖每个块,作答 pass 只把上下文花在少数保留窗口上,且每个窗口的读取密度不随时长变化;转写通道则在证据以语音为主时提供更便宜的替代。论文还指出可继续推进的方向,包括在有界成本结构内设计更强的检索分数,以及让作答 pass 能判断保留窗口是否漏掉证据并回到扫描阶段取更多窗口。

论文的定位适配器训练语料来自 LongVALE 派生问题,且训练片段都不超过一个块,因此块长由最长训练片段决定;这一设定在更长或证据跨块分布更复杂的录音上会如何表现,是读者可以继续观察的问题。转写通道在证据以视觉为主时保留的证据少于媒体通道,论文在 CG-Bench mini 上报告了这一方向;因此“用转写替代媒体扫描”的适用边界取决于录音中证据被说出的比例。流式结果来自 StreamArena 的历史回溯任务,且因果访问协议下作答使用基础权重、不挂适配器;更一般的流式交互场景仍有待观察。此外,论文提到代码将在接收后发布,因此当前可复现性依赖正文与附录中的配置说明。

来源