跳到主要内容
检索

Jerry Adams Franklin

1 篇关联报道

订阅更新
  1. arXiv

    ReverseAdaptive 在实测字节口径下把联邦 LoRA 微调往返通信削减 40.5%,并以 0.0063 的留出损失代价落在通信-质量前沿的拐点上

    该工作以实测的每轮上传与下载字节数(而非参数量比例)衡量五种联邦 LoRA 协议,并以留出指令跟随损失构建统一的通信-质量前沿;其中 ReverseAdaptive 先学习两个 LoRA 因子、当训练损失的相对改进低于一个无量纲阈值后冻结其中一个,它位于前沿的拐点:相对 FLoRA 减少 40.5% 的实测往返通信而留出损失代价为 0.0063,并在留出损失上比在初始化时即冻结该因子的 FFA-LoRA 好 0.0182(超过各方法最大种子标准差的二十倍),同一阈值无需重新调参即可迁移到 LLaMA-3.2-3B 并节省 30.0%。

已读完全部报道