跳到主要内容

研究进展

相关研究与后续进展

同一研究事件下的公开文章与后续进展。

arXiv

DyRA 用输入自适应的输出残差校正改进结构化矩阵乘法近似,在 DINOv3 上实现 1.5 倍端到端 GPU 加速并将精度退化降低 3 倍以上

该工作提出 DyRA,一种输入自适应方法,通过在推理时动态近似并校正结构化权重近似(如低秩分解)引入的输出残差误差,直接优化输出的低秩因子,从而在相同计算预算下更忠实地逼近完整矩阵乘法;在视觉、语音和语言模型上,DyRA 相比仅做结构化权重近似的方法持续改善精度-效率权衡,并在 DINOv3 上实现 1.5 倍端到端 GPU 加速,同时将精度退化降低 3 倍以上。