跳到主要内容
返回时间线
arXiv来源发表:

约束优化不再均匀抽约束:保留近期违反项,合成问题上迭代误差降两个数量级

核心概要

面对不等式约束数量极大的随机梯度优化,一种自适应约束采样方法不再每步从全部约束中均匀抽取,而是维护一个近期被违反约束的“重要集”,按概率在重要集与全体约束之间取样。在100维合成凸问题上,它把ABSGD、Projection-SGD与Huber-penalty SGD三种方法的迭代点与最优解的最终欧氏距离平均降低约两个数量级,APDSG降低一到两个数量级;在Dubins Car控制障碍函数合成中,最大约束违反量平均降低半个数量级、最多一个数量级。

Source-provided article image: Adaptive Constraint Sampling for Stochastic Gradient Methods in Constrained Optimization
arXiv · 第 4 页

深度剖析

约束数量很大时,随机梯度类方法每步只需处理一条约束,但抽哪条约束会明显影响收敛质量;新方法让抽样偏向近期被违反的约束,从而把迭代点推得更靠近约束最优解。 此前的随机一阶约束方法通常采用均匀约束采样,在约束极多的问题里会抽到对当前更新无信息的约束,使更新带有较大噪声、算法表现变差。 在100维、含5个二次项与5个对数项的合成问题上,对ABSGD、Projection-SGD与Huber-penalty SGD,新方法把迭代点到约束最优解的最终欧氏距离平均降低两个数量级,对APDSG降低一到两个数量级;约束数从2×105增至106时效果保持,作者称相对均匀采样最多可好过100倍。

做法是维护一个“重要集”,只记录近期被违反的约束索引,每步以概率η从重要集抽约束、以概率1−η从全部约束抽,因此每条约束仍有正概率被抽到。 经典工作集方法更新工作集时需要评估全部约束或求解子问题,新方法改用基于已抽到约束的历史机制,不要求完整目标信息,也不为每次工作集更新解子问题。 在Dubins Car的四个控制障碍函数合成问题上,用Projection-SGD与ABSGD各跑100条采样轨迹,新方法在最终迭代把最大约束违反量平均降低半个数量级、最多一个数量级;作者报告全部仿真中实际耗时增加不到10%,与约束数量无关。

启示与展望

演示范围限于100维合成凸问题(2×105条仿射约束的基线配置、106条约束的大规模配置,以及在2×105基线配置的最优解附近再加103条约束的变体)和Dubins Car控制障碍函数合成的四个局部问题,指标为迭代点到最优解的距离与最大约束违反量。

收敛性分析未包含在内,作者称将另文给出几乎必然收敛与有限时间活跃集识别;非线性约束、神经网络参数化的控制障碍函数、动量法与无梯度方法被列为后续工作。