跳到主要内容
返回时间线
arXiv来源发表:

手术视觉编码器不再从自然图像起步:InnerLogic-Surg 冻结骨干在20项手术任务上全部领先

核心概要

手术图像分析长期依赖自然图像预训练编码器,或在小规模标注数据上从零训练专用模型。InnerLogic-Surg 以 DINOv3 为起点,在来自11965段公开手术视频、约2900小时、覆盖15种以上术式的数百万帧上做持续自监督预训练,得到21M至300M参数的编码器家族。在冻结骨干、仅训练线性读出层的统一协议下,该家族在覆盖流程识别、器械与解剖识别、分割、检测和单目深度的20项任务上均取得最佳线性探针表现,其中 ViT-L 在18项领先,ViT-B 在 GraSP 步骤识别与单目深度上最佳。

AI-generated editorial illustration: InnerLogic-Surg: An Open Surgical Foundation Model via Continual Pretraining

深度剖析

手术视觉分析现在可以直接使用一个在手术视频上持续预训练过的通用编码器,而不必为每个任务单独训练模型。 此前的做法要么沿用自然图像预训练的编码器,要么在相对较小的数据集上从零训练专用模型,扩展到新任务、新术式或新机构往往需要额外标注和重新训练。 在冻结骨干、只训练线性层的统一评测下,InnerLogic-Surg 家族在全部20项手术任务上取得最佳线性探针结果,其中 ViT-L 在18项领先,ViT-B 在 GraSP 步骤识别和单目深度上最佳,两个变体在 PitVis 步骤识别上持平。

持续预训练保留了通用视觉先验,同时把表征推向手术场景。 从通用基础模型继续做自监督训练,可能侵蚀预训练表征中已有的空间结构,形成手术专属性与通用先验之间的张力。 训练以 DINOv3 为初始化,在经过去污染处理的360万帧上联合优化 DINO 的图像级损失与 iBOT 的掩码块级损失,第二阶段加入 Gram 锚定约束,使块特征之间的相似度结构贴近早期检查点。

高分辨率稠密预测不靠放大骨干输入,而靠一个独立训练的特征上采样器。 直接把骨干推到超过预训练裁剪尺寸的分辨率会破坏块级特征图,产生网格伪影。 AnyUp 把冻结骨干的原生分辨率块特征提升为稠密特征,在相同帧上按多个尺度对比时,解剖与器械轮廓保持清晰,且不需要额外的骨干前向计算。

启示与展望

评测限定在冻结骨干加线性读出的协议下,覆盖20项图像任务与单独报告的 SurgicalActions160 视频片段识别;预训练语料为互联网来源的公开手术视频,并已针对评测测试集做去污染处理。

在 SurgicalActions160 上,InnerLogic-Surg ViT-L 的 53.1% top-1 与 LemonFM 的 53.1 相当,低于 DINOv3 ViT-L 的 56.3,落后 TimeSformer-B 视频模型 SurgLaVi/SurgCLIP 的 59.4 达 6.3 个百分点;Gram 锚定阶段的下游贡献未单独消融;消融任务的统计比较中,14项里有6项差异不足以可靠区分配置,且同一视频的帧相关可能低估真实不确定性。