跳到主要内容
检索

# 流式联邦学习

1 篇关联报道

订阅更新
  1. arXiv

    流式联邦学习多通信反而更易过拟合:马尔可夫数据下泛化界随轮数按√R增长

    流式联邦学习让客户端从不断到达的数据流训练共享模型,但数据流往往有时间相关性。针对客户端数据服从马尔可夫过程的情形,一项分析用信息论与率失真方法给出了聚合模型期望泛化间隙的上界,并把它专门化到线性与自注意力下一词预测。上界显示:通信轮数增多会以约√(R/N)的量级放宽泛化保证,而时间相关性以混合时间的平方根进入;TinyStories 上的 GPT 式预训练与 ETTh2 电力预测实验都观察到训练、测试损失随轮数下降而泛化间隙变宽。

已读完全部报道