跳到主要内容
返回时间线
researchsquare.com来源发表:

行为分类不再先训姿态模型:B-REAL 用原始视频逐帧判读,延迟低于15毫秒

核心概要

卡内基梅隆大学团队发布 B-REAL,一个跳过姿态估计、直接把原始视频映射为行为标签的监督分类平台,端到端推理延迟低于15毫秒,可在 CPU 或 GPU 上跟上视频采集速度。在 CalMS21 小鼠社交行为基准上,仅用1分钟标注数据即超过 A-SOiD 与 CBAS 用完整数据集训练的结果;在果蝇攻击行为中,从1分钟标注起在全部8次配对抽样上优于两种基线。闭环实验中,按 B-REAL 检测到的理毛发放奖励,使小鼠理毛回合率在训练后期比早期提高129%。

Source-provided article image: B-REAL: A keypoint-less behavior platform for offline classification and real-time detection
Fig. 1 · researchsquare.com · 第 6 页

深度剖析

行为分析可以不再经过姿态估计这一步:B-REAL 直接读原始视频帧,逐帧输出行为类别,并在视频采集的同时完成判读。 此前主流做法是两阶段流水线,先训练姿态估计模型得到关键点,再在关键点轨迹上学习行为类别;这类分类器通常离线运行,并按时间窗汇总运动学,窗口可能长于最短的行为。 在小鼠社交行为基准 CalMS21 的留出测试视频上,B-REAL 的逐帧预测紧跟人工标注,而基于关键点的 A-SOiD 变化更慢,反映其汇总关键点轨迹的时间窗。

标注成本被压到分钟级:少量标注视频即可达到或超过用完整基准数据集训练的既有方法。 此前训练姿态估计模型需要数千帧视频和受过训练的标注人员,行为分类器的精度也受底层关键点跟踪质量限制。 在 CalMS21 上,仅用1分钟随机抽样标注数据,B-REAL 的平衡准确率比用完整数据集训练的 A-SOiD 和 CBAS 分别高5.7和2.5个百分点;30秒标注时比两者分别高25和32个百分点,八组比较经 Holm 校正后 p<0.05。

对极罕见、极短暂的行为,直接视频分类的优势最明显。 果蝇攻击行为数据集中,charge 仅占全部计分蝇帧的0.016%,其117个标注回合中56%只持续单帧33毫秒,按时间窗汇总的方法会先丢掉这些帧。 从1分钟标注起,B-REAL 在平衡准确率和 charge F1 上于全部8次配对抽样中胜过 A-SOiD 与 CBAS(Wilcoxon 检验 p=0.008);用完整训练集时其 charge F1 为0.40,而 A-SOiD 为0.04、CBAS 为0.08。

分类速度足以驱动闭环实验:检测结果可直接触发奖励、刺激或环境改变。 此前可用的在线分类手段有限,实时姿态方法只能通过阈值化某个姿态量来定义行为,视频基础模型则因算力开销只能事后离线分类。 在四只小鼠的闭环实验中,连续三帧检测到理毛即发放甜味水奖励,九个受奖 session 中符合标准的理毛回合率从早期 session 平均提高129%(配对 t 检验 p=0.021)。

启示与展望

已展示的范围包括 CalMS21 小鼠社交行为、Fly-vs-Fly 果蝇攻击行为两个公开基准,以及一套单装置、单小鼠品系、四只动物的闭环理毛实验;平台面向需要在采集过程中逐帧判读行为并触发外部设备的行为神经科学实验室。

闭环验证只在一个测试装置、一个小鼠品系和四只动物的队列上完成,作者将其定位为功能验证而非参数穷举;检测到发放奖励之间的延迟对效果的影响未测试。最大骨干 b7 的指标来自单次训练,其三种片段配置中有两种出现训练不稳定,因此仅作为观察性基准报告。更异构的预训练语料相对仅用 CalMS21 视频并未带来可测量的额外增益,语料多样性的价值仍待确定。