联邦学习不再牺牲尾部客户端：保留FedAvg主方向，只做满足客户端约束的最小修正
核心概要
联邦聚合不再为了公平而改写全局优化方向。此前的方法通过客户端重加权、梯度修正或对称的多目标共同下降来提升客户端公平性，往往会改变全局更新方向。FedPCD把常规FedAvg聚合当作主目标，把各客户端更新当作次级约束，只在约束被违反时做满足要求所需的最小修正；在CIFAR-10、CIFAR-100与Fashion-MNIST上，它在全部18种配置中取得最高全局精度，并在其中17种取得最高的最差10%客户端精度。
深度剖析
联邦聚合的公平性可以来自对客户端性能的保护，而不必改写全局优化方向。 此前的公平联邦方法要么对客户端损失重加权，要么修正冲突梯度，要么把客户端损失当作对称的多目标共同下降，这些做法都会改变全局更新方向。 在CIFAR-10、CIFAR-100和Fashion-MNIST上，覆盖5%与10%两种参与率、三种数据异质性水平，共18种配置，与10个公平感知基线比较，FedPCD在全部18种配置中全局精度最高，在其中17种最差10%客户端精度最高。
服务器把FedAvg聚合方向当作首选方向，只在客户端进度要求被违反时偏离它。 标准FedAvg聚合本身已经是共享全局目标偏好的更新方向，当它已为各客户端提供足够进展时，替换它并不必要。 做法是把模型位移除以本地学习率转成客户端伪梯度，用与FedAvg相同的权重聚合成主方向，再求解一个凸二次规划，使解尽量靠近该主方向并满足每个参与客户端的进度下界，最后按当前聚合的范数重新缩放；若主方向已满足全部约束，则不引入任何方向修正。
部分参与下，历史窗口让近期未抽到的客户端继续以次级约束的形式影响更新。 仅用当前轮被抽中的客户端构造约束，在参与率低、异质性强的条件下只能代表很窄的客户端群体。 服务器保存每个客户端在最近若干轮内的最新伪梯度作为附加约束，客户端再次参与时替换旧方向，超出窗口则移除；消融显示去掉历史机制后，CIFAR-10在10%参与率下全局精度从74.84降到59.26，最差10%客户端精度同步下降。
启示与展望
报告的范围是三个图像分类数据集上的联邦训练：CIFAR-10、CIFAR-100和Fashion-MNIST，客户端池为100个客户端，参与率5%与10%，异质性由Dirichlet划分控制，每个客户端每轮做1个本地epoch，结果取5个随机种子的平均。理论部分在确定性全参与、固定本地步数的设定下给出收敛率与复合多平稳性结论。读者若要跟进，可关注作者提出的自适应进度阈值、隐私兼容变体，以及多本地步数下的行为。
进度阈值在所有次级约束上取固定值，作者指出对异质性的敏感性提示客户端相关或轮次相关的自适应阈值可能进一步提升效果。历史机制要求服务器观察每个客户端各自的伪梯度，而不只是它们的聚合，这限制了它在安全聚合系统中的适用性。评估限于100个客户端和1个本地epoch，在本地步数很多、伪梯度方向因客户端漂移而退化时的行为尚未确立。理论结论依赖全参与、确定性本地梯度以及一致的几何对齐条件，随机梯度、部分参与和历史方向不在该定理范围内。