跳到主要内容
返回时间线
researchsquare.com来源发表:

多模态跟踪不再并行改两路:CCLT让第二次修正读到刚改过的状态,只训0.212%参数

核心概要

RGB-X跟踪把可见光帧与热红外、深度或事件数据配对,但配对标注远少于RGB预训练数据,因此通常只微调少量参数。以往的双向跨模态修正把两个方向并排计算,都读取未修正的输入状态,后一次修正无法利用前一次的结果。CCLT在冻结骨干的第6和第10个Transformer块插入低秩交换模块,让一个方向先修正、另一方向再读取刚被修正的状态,并以参数量匹配的并行版本作对照:在LasHeR上平均SR提高1.980点,95%区间为[0.360,2.690],可训练参数为196.6K,占92.7M参数跟踪器的0.212%。

Source-provided article image: CCLT: Correction-Conditioned Low-Rank Exchange for Parameter-Efficient RGB-X Tracking
researchsquare.com

深度剖析

多模态跟踪器在可见光之外接入热红外、深度或事件图像,以在光照变化或快速运动下保持目标;由于这类配对数据稀缺,做法是冻结预训练骨干、只训练少量适配参数。CCLT改变了两个方向跨模态修正的计算次序:一个方向先更新自己的状态,另一个方向随后读取这个已更新的状态。 此前的参数高效双向设计把两个单向修正并排放在同一位置,两者都从进入该位置的原始状态出发,因此反向修正只是重复一次单跳更新,无法承接正向修正的结果。 在参数量、数据划分、优化器、训练日程和验证集选点规则都相同的三随机种子RGB-T协议下,只把第二次修正的读取对象从输入状态换成修正后状态,LasHeR平均SR提高1.980点,95%区间为[0.360,2.690]。

实现上,交换模块只在12层ViT骨干的第6和第10块各放一处,一处让热红外、深度或事件流先修正RGB流,另一处反过来让RGB流先修正辅助流,于是每种模态各发起一次接力。 每个方向上的修正是低秩残差:先把状态降到8维,经GELU激活后再升回768维,因此新增的可训练量很小;同一组低秩键值因子在RGB流和辅助流之间共享,用于流内适配。 全部继承参数冻结后,可训练参数为196.6K,占92.7M参数跟踪器的0.212%,其中交换模块只占49,152个;在项目自控的仅网络前向计时下,推理速度为106.8 FPS。

启示与展望

演示范围是五个公开跟踪基准上的RGB-T、RGB-D与RGB-E任务:LasHeR与RGBT234、DepthTrack与VOT-RGBD2022、VisEvent,每种模态单独训练一个检查点,主对照限于RGB-T的LasHeR平均SR。

缺失模态仍是明显短板:去掉RGB或热红外后,LasHeR的SR分别下降38.09和19.27点;作者把缺失模态增强、可靠性感知路由以及面向部分观测或空间错位输入的稀疏修正列为后续工作。区间只刻画固定两个检查点下的测试序列抽样波动,不估计训练种子间的变化。