FedLore 用轮内共享、跨轮刷新的低秩梯度基座,在视觉与语言任务上超过所评估的低秩适配器基线并匹配或超过全参数训练,同时降低通信与优化器状态内存
该工作提出 FedLore:在每一轮内共享一个低秩优化基座、跨轮刷新该基座,从而在低秩坐标中实现精确聚合并消除所识别的投影偏差,同时让累积模型更新超过每轮秩预算;作者刻画了聚合偏差,并在全局梯度覆盖条件与标准平滑性、方差假设及有界梯度异质性下为投影 SGD 变体建立 O(T-1/2) 平稳性界;在视觉与语言任务(含联邦预训练)上,FedLore 超过所评估的低秩适配器基线,匹配或超过全参数训练,并降低通信与优化器状态内存。