DyRA 用输入自适应的输出残差校正改进结构化矩阵乘法近似，在 DINOv3 上实现 1.5 倍端到端 GPU 加速并将精度退化降低 3 倍以上

DyRA 指出既有结构化权重近似方法（如低秩分解）近似的是权重而非决定推理精度的输出激活，因此权重空间的小误差会被输入激活放大，产生较大的输出误差。 将近似目标从权重空间转移到输出空间，明确了误差放大这一机制，为后续在输出层面进行校正提供了依据。 该论断来自论文对既有方法局限性的分析性陈述，摘要中未给出具体误差放大数值或推导细节。

DyRA 表明矩阵乘法可以通过直接优化输出的低秩因子来更有效地近似，并据此在推理时动态近似并校正结构化权重近似引入的输出误差。 把高效结构化计算与输入相关的校正结合起来，在相同计算预算下得到对完整矩阵乘法更忠实的近似。 摘要给出方法层面的论证与设计思路，未提供消融实验或误差界的具体数据。

在视觉、语音和语言模型上，DyRA 相比仅使用结构化权重近似的方法持续改善精度-效率权衡。 将输出残差校正的有效性从单一模态扩展到多类模型，显示方法具有跨模态一致性。 摘要以跨视觉、语音、语言模型的对比结果作为支撑，但未列出各模型的具体精度或效率数值。

DyRA 在 DINOv3 上实现 1.5 倍端到端 GPU 加速，同时将精度退化降低 3 倍以上（相对于仅权重基线）。 给出了端到端加速与精度退化同时改善的量化结果，说明输出校正可在真实推理路径中兑现效率收益。 摘要报告了 1.5 倍加速与 3 倍以上精度退化降低这两个具体数字，但未说明基线配置、硬件型号或评测数据集。

该工作面向需要在推理阶段降低稠密矩阵乘法成本的基础模型部署场景，适用于以结构化权重近似（如低秩分解）为加速手段的视觉、语音和语言模型。其价值在于把校正放在输出层面并使其依赖输入，从而在相同计算预算下获得更忠实的矩阵乘法近似；对使用此类近似进行推理加速的研究者与工程实践者，DyRA 提供了一条在保持效率的同时减少精度退化的路径，摘要中 DINOv3 的 1.5 倍端到端 GPU 加速与 3 倍以上精度退化降低即为该路径的量化体现。

摘要未说明精度退化与加速的具体评测数据集、硬件平台、基线配置以及低秩因子的秩与预算设定，因此 1.5 倍加速与 3 倍以上精度退化降低所对应的具体条件仍需在正文中确认。输出残差校正带来的额外计算与内存开销如何计入“相同计算预算”，以及该方法在更大规模基础模型或更长序列输入下的表现，摘要中未给出信息，属于值得在阅读正文时留意的开放问题。此外，摘要未报告与仅权重基线之外其他加速方法的对比，跨方法比较的结论有待正文补充。