分块蒸馏式架构搜索把每个替换块的单独得分相加来挑选子网络，这一加法假设此前很少被直接检验。在DeiT-S与DeiT-B上，延迟预算从60%降到55%时，加法整数线性规划微调后的精度开始明显落后于建模块间交互的成对整数二次规划，ImageNet-100上差距为3.3–16.6个点。误差可拆成只由得分非线性带来的度量项和真正的功能交互项，前者在DeiT-S上占多数、后者在DeiT-B上占多数；一种用单块logit预测排序、只实测少量候选的混合搜索无需专门测量块对，在ImageNet-1k的14个设置中有13个显著优于成对搜索。
一项跨CNN、ViT与Vision Mamba的对比把人类眼动热图当作独立基准，量化模型显著图与人类注视的对齐程度，发现Mamba在胸片任务上定位得分最高，但其显著图强度分布与人类注视几乎不相关。
视觉Transformer的深度堆叠被压缩成一个循环复用的Transformer块，每个循环深度上的FFN由一个小专家库按归一化深度坐标做凸组合生成，从而在共享权重的同时保留随深度变化的计算。在ImageNet-1k监督训练下，reViT-B/16以约少70%的存储参数达到DeiT III的精度；在只匹配DINOv2教师最后一层特征的蒸馏设置中，8专家模型在分类、分割和深度预测的冻结探针上接近教师。同一检查点还能通过重采样深度坐标在多个测试深度上运行。
医学影像迁移学习长期沿用自然图像预训练的空间注意力主干，但空间布局先验在跨设备、跨模态时并不可靠。FAD-ViT把全局建模从空间令牌改到通道令牌，用深度卷积单独负责局部空间提取，使两条轴严格解耦。在23个分类、分割与低数据任务上，从零训练时两种轴几乎持平，而同样的ImageNet预训练在特征轴上带来的迁移增益最高约为空间轴的三倍，超声分割Dice由53.1升至77.7，参数量约为对照的四分之一。
该工作提出一个端到端的比较性医学影像框架，在胸部 X 光肺炎分类、脑部 MRI 肿瘤检测和皮肤镜皮肤癌分类三类异构任务上评估 ResNet50、EfficientNet-B0、DenseNet121、DeiT-Small 与 Swin-Tiny，并整合迁移学习、类别不平衡处理、模型校准、自助法置信区间、鲁棒性评估、失败案例分析、Grad-CAM 可解释性、集成学习与多项性能指标，同时加入受限于研究辅助定位的 LLM 报告组件，用于生成模型比较摘要、可解释性解读与决策支持报告；结果显示 CNN 在结构化放射影像上依然高效，而视觉 Transformer 在语境更复杂的脑部 MRI 与皮肤镜任务上表现出较强性能与鲁棒性。
已读完全部报道