跳到主要内容
检索

# 优先级约束下降

2 篇关联报道

订阅更新
  1. arXiv

    联邦学习不再牺牲尾部客户端：保留FedAvg主方向，只做满足客户端约束的最小修正

    联邦聚合不再为了公平而改写全局优化方向。此前的方法通过客户端重加权、梯度修正或对称的多目标共同下降来提升客户端公平性，往往会改变全局更新方向。FedPCD把常规FedAvg聚合当作主目标，把各客户端更新当作次级约束，只在约束被违反时做满足要求所需的最小修正；在CIFAR-10、CIFAR-100与Fashion-MNIST上，它在全部18种配置中取得最高全局精度，并在其中17种取得最高的最差10%客户端精度。

    American University of Sharjah
    Yousef Irshaid（第一作者）
    FedPCD 优先级约束联邦聚合优先级约束下降联邦学习多目标优化
  2. arXiv

    PCD 把主目标梯度钉在更新方向上，在 ResNet-34/CIFAR-100 的 90% 稀疏度下保住 70.9% 准确率，而对称多目标基线全部崩塌

    该工作提出 Priority-Constrained Descent（PCD），一种把主目标梯度作为锚点、只在必要时做最小欧氏扭曲以保证每个次要目标获得 τ 比例一阶进展的梯度优化框架，在结构化剪枝、非结构化稀疏加低秩以及合成实验中报告了优于对称多目标方法的逐目标表现与帕累托支配，并给出二、三目标的闭式解与尺度不变性。

    American University of Sharjah
    Dara Varam（第一作者）
    优先级约束下降多目标优化结构化网络压缩二次规划

已读完全部报道