ColNanoVDR 用无文档查询蒸馏把多向量视觉文档检索的查询编码器压到 149M,保留约 95% NDCG@5 且 CPU 单线程快 26 倍
该工作提出 ColNanoVDR,用基于熵最优传输并带可学习 token 权重的 OTW 目标,把多向量视觉文档检索的教师查询编码器蒸馏为仅文本的 149M 学生模型,训练时不编码也不读取任何页面,在 ViDoRe v1–v3 上保留教师约 95% 的 NDCG@5,单 CPU 线程查询编码最高快 26 倍,并在相同训练下以 12.6 分之一的缓存教师数据量达到与分数蒸馏相当的效果。