一个Transformer块跑完整个视觉编码器：深度坐标编程专家库，参数少七成仍追平DeiT III
视觉Transformer的深度堆叠被压缩成一个循环复用的Transformer块，每个循环深度上的FFN由一个小专家库按归一化深度坐标做凸组合生成，从而在共享权重的同时保留随深度变化的计算。在ImageNet-1k监督训练下，reViT-B/16以约少70%的存储参数达到DeiT III的精度；在只匹配DINOv2教师最后一层特征的蒸馏设置中，8专家模型在分类、分割和深度预测的冻结探针上接近教师。同一检查点还能通过重采样深度坐标在多个测试深度上运行。