跳到主要内容
检索

Guy Hadad

1 篇关联报道

订阅更新
  1. arXiv

    图神经网络优化器换几何:GraphMuon按传播后特征定步长,三个OGB基准比AdamW快1.32至2.42倍

    图神经网络的权重矩阵作用在经图传播的特征上,因此一个在参数空间里归一化良好的更新,仍可能被图结构放大成很大的表示层扰动。GraphMuon把Muon的矩阵正交化改到由图传播输入协方差定义的度量下进行,并按更新对层表示的实际影响缩放步长。在三个大规模OGB基准上,它达到AdamW验证损失目标所需的实际耗时缩短为原来的1/2.32至1/1.32,即1.32至2.42倍加速。

已读完全部报道