多视角3D场景不必逐层算完：GeoGR压到一成算力，仍保住95%以上性能
核心概要
多视角3D视觉语言模型把场景拆成32个视角后会产生六千多个视觉token，推理开销很大。GeoGR分两级压缩：投影端把跨视角观测合并成体素token，并按语义显著性与空间覆盖挑选，未选中的体素特征并入上下文锚点；LLM端只在中间层窗口内计算视觉token，低相关token可跳过整层但保留隐状态，到锚点层重新评分并可回归。在LLaVA-OneVision-7B与Video-3D LLM-7B上，它分别保留稠密模型95.2%和96.8%的性能，LLM预填充与首token时延明显加快。
深度剖析
多视角3D场景的视觉token序列被压到约一成算力预算，同时保留大部分任务性能。 此前多视角3D视觉语言模型对每个场景使用32个视角，产生6272个视觉token，并在每一层LLM中处理全部视觉token。 在LLaVA-OneVision-7B上保留稠密模型95.18%的平均性能，在Video-3D LLM-7B上保留96.80%，两者都在约10%的LLM侧视觉FLOPs预算下测得。
压缩分两级完成：投影端合并跨视角重复观测，LLM端按查询相关性分配计算。 投影端方法此前要么只按显著性挑选、丢掉背景区域，要么只按几何多样性挑选；LLM端方法此前对token做不可逆的永久剪枝。 GeoSemZip把跨视角观测反投影到统一世界坐标并聚合成体素token，按编码器注意力显著性选主导token、按3D Morton序采样上下文锚点，再把未选中体素特征按余弦相似度并入锚点；GroupRoute用晚进入与早退出界定视觉计算窗口，在锚点层按查询注意力分组，低优先组跳过后续层但保留隐状态，到下一锚点重新评分。
低相关视觉token被当作暂时不活跃，而不是永久冗余。 在层距离较远时，原本排名靠后的token会进入前半区并占据不可忽略的注意力份额，因此单层排名不足以支撑永久剪枝。 在ScanQA上用LLaVA-OneVision追踪第8至23层的排名稳定性，相邻层排名一致性更高，层距离增大后一致性下降；在相同平均token预算下，第9、13层可恢复跳过的平均保留率为95.18%，高于单锚点剪枝的94.65%和95.03%以及双锚点剪枝的94.73%。
启示与展望
评估覆盖两个多视角3D视觉语言模型：LLaVA-OneVision-7B不带显式3D空间编码，只在两个问答基准上评测；Video-3D LLM-7B带深度与位姿导出的3D位置编码，在问答、视觉定位和密集描述共五个ScanNet基准上评测。压缩感知后训练使用从223K样本中按PRISM选出的67K样本，两个模型分别保留全量后训练性能的95.69%和98.72%。方法需要标定视角、对齐深度和相机位姿来构建体素。
层间token相关性分析只在ScanQA上用LLaVA-OneVision完成，锚点位置由BARS在固定预算下选出并在推理时固定，token分组仍随查询变化。压缩感知后训练分两阶段，视觉编码器在两阶段均冻结。效率收益依赖投影端开销，投影端耗时过高的方法会抵消预填充节省。