一张正面照片重建三维植株:Plant Orbiter 用视频扩散绕植物转一圈,株高误差均值5.9%
核心概要
植物三维数字化通常要几十到上百张标定照片,或依赖昂贵的激光扫描与机械臂拍摄,单图生成方法又难以把重建结果对齐回原图。Plant Orbiter 用视频扩散模型从一张正面照片合成一段绕植物旋转的轨道视频,再以已知相机路径直接拟合三维高斯泼溅,省去用运动恢复结构求相机位姿这一步。在 PlantDreamer、Botany-Bot 与 PLANesT 等数据集上,其三维 F-score 在全部测试数据集上领先对比方法,单图输入对齐下的 IoU 在 PlantDreamer 与 Botany-Bot 上分别为 0.552 和 0.556;在 GrowSplat 时序数据上测株高,平均绝对百分比误差为 5.9%。
深度剖析
一张正面照片即可得到一株植物的三维高斯泼溅模型,且模型自动落在输入照片的相机坐标系里,不需要额外标定或人工摆位。 此前的多视角方法要围绕植株拍摄数十到数百张标定照片,单图生成器虽只要一张图,但输出处在自身任意坐标系中,重新对齐和缩放是公认的难点。 在单图输入对齐设置下,Plant Orbiter 在 PlantDreamer 与 Botany-Bot 上的 IoU 分别为 0.552 和 0.556,高于对比方法中的最好值 0.529 和 0.504;在 PLANesT 上为 0.343,略低于 SV3D 的 0.348。
重建出的三维形状与真实植株点云更吻合,这一优势在多数数据集上不依赖对齐是否理想。 生成式单图方法在理想对齐(oracle)下会明显变好,TRELLIS.2 在部分指标上因此反超,说明其单图对齐本身不可靠。 三维 F-score 上 Plant Orbiter 在 PlantDreamer、Botany-Bot、胡椒与玫瑰四组数据上分别为 0.443、0.540、0.252 和 0.257,均为最高;Chamfer 距离除 PlantDreamer 上略逊于 TRELLIS.2(18.3 对 17.7)外均为最优。
同一套流程前面接一个文生图模型,就能按文字生成三维植株,并保留提示中指定的果实数量。 通用文生三维模型在植物这类细长、重叠的结构上控制力弱,提示果实数量时多数方法接近或低于随机水平。 在番茄与柠檬的果实计数实验中,Plant Orbiter 的精确数量生成率为 50.0%、平均绝对计数误差 0.60,为所有方法最高与最低;其三维资产在 42 个中有 40 个(95.2%)保留了输入图像的果实数,而用同样输入图像的 TRELLIS.2 为 54.8%。
启示与展望
演示范围限于单张正面照片输入、水平单圈环绕的轨道视频,以及 PlantDreamer、Botany-Bot、PLANesT-3D 与 GrowSplat 四个公开多视角植物数据集上的豆、薄荷、羽衣甘蓝、胡椒、玫瑰、藜麦与红杉等物种;株高评估在 GrowSplat 时序数据上进行。作者提出,若要覆盖植株背面或稠密结构,需要让视频扩散模型额外接收一张背面视图,但这还需解决植株一致性与相机相对位姿的确定问题。
作者指出,单目方法只能捕捉输入图像中可见的细节,背面与遮挡部分必须靠推断,因此更适合株高这类测量和自遮挡不严重的植株;当前轨道只覆盖单一固定高度,从上方或下方观察时重建常出现伪影。果实计数实验的误差主要来自文生图阶段,番茄图像偏少、柠檬图像偏多,且随请求数量增大而更频繁;在真实感指标上,基于 Inception 特征的核距离排名靠后,作者归因于薄荷的形态与花盆颜色差异,而基于 DINOv2 特征时排名第二。
