前馈三维重建不再一锤定音:Click3R 让用户点几对匹配点就能纠错
核心概要
前馈立体三维重建模型一次前向就给出稠密点图,出错后没有修正机制。Click3R 在 DUSt3R 的解码器前插入轻量对应点适配器,把用户给出的少量跨视角点对应作为几何约束注入网络,无需测试时微调或优化。在自建的 Hard3DBench 上,仅一次对应点点击即可降低重建误差;100 对图像的人工标注实验中,中位旋转误差从 17.30° 降到 8.78°,mAA@30 从 36.2 升到 56.2。
深度剖析
前馈立体三维重建从“一次预测、不可更改”变成可交互修正:用户在两幅视图上点出少量对应点,模型据此重新给出稠密三维点图。 此前的优化式重建可以迭代细化估计,而 DUSt3R 这类前馈模型只输出单一结果,在重复纹理、对称结构或大视角变化场景中失败时没有纠正手段;测试时优化方法计算昂贵,且无法解决推理时真正歧义的场景。 在 Hard3DBench 的 2 视图与 5 视图、分布内与分布外四个条件下,Click3R 相对同数据重训的 DUSt3R 在 mAA@30° 上全部提升,5 视图分布内提升最大,点图误差也同步下降,且未提高输入分辨率或增加训练数据。
修正能力来自一个插在编码器与解码器之间的对应点适配器,它把点击转成提示词元,与图像词元做双向交叉注意力。 适配器沿用 SAM 式两路注意力:提示词元先自注意力,再与图像词元互相交叉注意,图像位置编码与提示共享同一坐标空间,使稀疏点击与稠密特征能在同一尺度上比较。 训练时用真值三维几何投影生成模拟点击,30% 样本无提示、40% 给 1 至 4 个、30% 给 5 至 12 个;无提示时适配器退化为恒等映射,模型与原始 DUSt3R 行为一致,有提示时单张 A100 上前向计算仅增加约 5%。
人工点击与完美对应点之间的差距很小,说明稀疏、不精确的人工输入已能拿到大部分收益。 此前实验用的是由已知三维几何导出的真值对应点,未检验真实标注条件下的表现。 100 对来自 Hard3DBench 分布外集合的图像由一名不熟悉数据集的标注者自由点击,平均每对 3.8 个、范围 1 到 7 个;相对随机真值对应点基线,人工标签恢复了约 96% 的中位旋转误差改善量。
启示与展望
演示范围是双视图立体重建,训练分辨率在材料中未给出具体数值,多视图能力通过全局对齐间接体现;评估覆盖 CO3D、ScanNet++、ARKitScenes 三个标准基准与自建 Hard3DBench 的 2 视图和 5 视图、分布内与分布外划分,以及 100 对人工标注图像。读者对象是从事三维重建与多视图几何的研究人员和工程师。
点击必须同时可见于两幅视图,两幅输入需要有共享可见区域;完全错误的点击会使位姿精度单调下降,全部错误时低于不使用提示。适配器以软特征条件而非硬几何约束注入,信号在后续十二个解码器交叉注意力块中逐步稀释;在几乎无重叠、极端旋转、大尺度室外场景和弱纹理表面上,重建仍会失真或改善有限。
