跳到主要内容
返回时间线
arXiv来源发表:

OneStreamer 用共享主动生成接口统一流式视频的感知、记忆与及时响应,4B 模型在八个流式视频理解基准上取得对比方法中的最佳结果

相关研究与后续进展

核心概要

OneStreamer 通过共享的主动生成过程联合学习与查询无关的证据记录和任务响应:其 Proactive Hierarchical Caption Memory 生成带时间定位的局部细节描述与已完成事件摘要,Proactive State Transition Learning 在仅监督 27.5% 标注状态 token 的情况下优于密集状态监督,配合流式数据合成流程构建了超过一百万条记录的 OneStreamer-1M 数据集,4B 模型在全部八个评测的流式视频理解基准上取得对比方法中的最佳结果,消融显示保留生成描述可提升历史问答且不损害实时感知。

Source-provided article image: OneStreamer: Unifying Perception, Memory, and Proactive Response in Streaming Video Interaction
Figure 1 ·

Figure 1 : Evaluation results of OneStreamer. Blue bars highlight OneStreamer, with light purple portions indicating the Qwen3-VL baseline. OneStreamer achieves state-of-the-art results across all eight benchmarks, with an average relative improvement of 25.0% over the Qwen3-VL baseline and 6.1% over the strongest competing method on each benchmark.

arXiv

深度剖析

提出 OneStreamer,用共享的主动生成过程把与查询无关的证据记录和任务响应联合学习,使流式视频 LLM 在相关性未知时先保留证据、在证据充分时再响应。 以往流式视频理解通常把感知与记忆分开处理,本文把二者统一到同一个生成接口中,训练时用流式描述目标监督对已观测视频前缀的解释。 摘要层面的方法描述与消融结果:保留生成描述可提升历史问答且不损害实时感知。

Proactive Hierarchical Caption Memory(PHCM)生成带时间定位的局部细节描述与已完成事件摘要,推理时模型生成的记录与近期视觉窗口互补,无需回看历史视觉特征即可提供可复用的事实上下文。 把记忆从对历史视觉特征的重复访问转为模型自生成的文本记录,从而在保持实时感知的同时形成可复用事实记忆。 摘要报告了 PHCM 的组成与推理方式,并以消融说明保留生成描述对历史问答的作用。

Proactive State Transition Learning(PSTL)通过在所有输出锚点保留监督并选取代表性的状态变化与状态持续 token,降低重复等待状态的主导性。 相比密集状态监督,PSTL 只监督 27.5% 的标注状态 token 却取得更好表现,说明监督的选择性比覆盖密度更关键。 摘要给出的对比结果:PSTL 优于密集状态监督,且仅监督 27.5% 的标注状态 token。

构建流式数据合成流程,使输出内容与时机同可用证据对齐,并结合流式描述与问答数据及清洗后的开源数据,形成超过一百万条记录、覆盖多样任务的 OneStreamer-1M 数据集。 该数据集把内容与时机对齐作为合成目标,为流式视频交互提供广覆盖训练资源。 摘要报告数据集规模超过一百万条记录并覆盖多样任务;4B 模型在全部八个评测基准上取得对比方法中的最佳结果。

启示与展望

该工作面向流式视频交互场景,适用于需要在证据相关性未知时先记录、在证据充分时再响应的任务,例如流式视频理解与历史问答。受益者包括研究流式视频 LLM、实时多模态交互与长时记忆机制的研究者与工程师。结果所适用的设定是:模型在推理时以自生成记录补充近期视觉窗口,不回看历史视觉特征;训练使用流式描述目标与状态转换监督。OneStreamer-1M 与流式数据合成流程为后续在更广任务上训练与评测提供了资源。

当前可见文本为摘要,未包含各基准的具体指标、模型规模对比细节、消融的完整设置以及数据集合成的具体过滤标准,因此无法判断优势幅度与在不同任务上的稳定性。读者可继续关注:PHCM 生成记录在更长视频与更复杂事件层次下的可复用性,PSTL 选取代表性 token 的策略在状态模式变化时的稳健性,以及 OneStreamer-1M 与开源数据清洗流程对下游任务的迁移效果。

来源