环形去中心化联邦学习里噪声会随跳数累积：FedSharp把拜占庭攻击下的MNIST准确率拉到93.5%以上
核心概要
去中心化联邦学习没有中心服务器，模型逐跳转发时链路噪声会累积，学习率衰减后更明显，拜占庭节点还能借低损失伪装成诚实模型的均值。FedSharp让每个节点保留前驱的模型副本，用逐坐标中位数偏差筛掉单参数突变的模型，再对低损失候选取平均，并加入随噪声调整的梯度范数正则与近端训练。在100节点、33个拜占庭节点的环形拓扑上，MNIST准确率为93.5%–94.9%，单模型选择基线为29.4%–38.1%。
深度剖析
去中心化联邦学习里，链路噪声会沿环形拓扑逐跳累积，学习率衰减时残留噪声反而更突出，这使拜占庭节点可以借低损失排序混入聚合。 此前的单模型选择方案每轮只取一个损失最低的模型，噪声项不随学习率下降而减小，隐藏攻击者发送的诚实模型均值因累积噪声更少而更容易被选中。 在100节点、33个拜占庭节点的环形网络上，高斯与隐藏攻击、IID与非IID数据下，FedSharp在MNIST上取得93.5%–94.9%准确率，单模型选择基线为29.4%–38.1%。
每个节点保存各前驱的最新模型副本，候选集里至少有一半是诚实副本，因此可以安全地只对其中一部分取平均。 单模型选择只用一个模型，既无法压低新链路噪声，也无法限制攻击者权重；多模型平均则把独立链路噪声的方差按参与平均的副本数分摊。 筛选先按逐坐标中位数偏差的峰值比剔除单参数突变，再按本地小批量损失保留最低的若干候选，随后等权平均；在MNIST上，这一组合的准确率与无信道噪声的基线相差约一个百分点以内。
本地训练阶段用随累积噪声调整权重的梯度范数惩罚，并加入近端项抑制非IID数据下的模型漂移。 此前的噪声鲁棒目标按单条链路的噪声方差设定惩罚权重，而环形传播中模型携带的是多跳累积噪声，权重需要随学习率衰减同步增大。 在CIFAR-10非IID、隐藏攻击下，FedSharp达到33.0%准确率，Basil+ACDS为31.6%，且不交换原始训练数据；单次运行下这一差距不足以确立统计显著改进。
启示与展望
演示范围是100节点有向环形拓扑、33个拜占庭节点、MNIST与CIFAR-10，在高斯攻击与隐藏攻击、IID与Dirichlet非IID划分下与Basil及Basil+ACDS对照；发送者经过认证，每个窗口每个身份至多一份副本。
CIFAR-10非IID、隐藏攻击下33.0%对31.6%的差距来自单次运行，不足以确立统计显著改进；强非IID数据下的性能下降仍是待研究方向。