凸二次规划求解器学会自己调参:笔记本上训练不到8小时,Maros–Mészáros上约七成实例最快
核心概要
正则化内点法求解凸二次规划时,正则化权重、障碍参数和内层容差长期依赖人工设定。RL-QProxIP 用强化学习策略在每次外层迭代给出这些参数的收缩因子,不改变底层算法,因而保留原有收敛保证。在 Maros–Mészáros 测试集上,该策略在约70%的实例上是最快求解器,而基线 QProxIP 需约3.5倍时间才达到同一比例;原文对两者最终覆盖率的两种表述互相矛盾,此处不作取舍。
深度剖析
凸二次规划的正则化内点求解器现在可以在运行中由学到的策略调整超参数,而不必依赖固定的手工收缩规则。 此前这类求解器的正则化权重、障碍参数和内层容差由人工设定或启发式规则给出,理论只要求权重保持正且有界、障碍参数趋零、内层容差可和,并不指明具体取值。 在 Maros–Mészáros 测试集上,RL-QProxIP 在约70%的实例上是最快求解器,QProxIP 要达到同一比例需约3.5倍时间;关于最终覆盖率,原文一处写 QProxIP 解出100%、RL-QProxIP 饱和在约92%,另一处写约96%与约85%,两处不一致,无法据此判断覆盖率高低。
策略只读取归一化原始残差、对偶残差、障碍参数和内层容差构成的状态,输出五个介于0和1之间的收缩因子。 动作通过饱和线性递减作用在正则化权重、障碍参数和内层容差上,沿用 QPALM、ProxQP、PIQP 等求解器的更新形式,底层内点算法本身不被替换。 训练使用800k个随机生成的小规模二次规划,规模从5到50个变量,含重复与近重复约束、受控有效条件数,在笔记本上不到8小时完成;验证集为100个同分布问题,变量数5到47、中位数17。
学到的策略在训练分布之外仍能加速,且推理开销相对求解时间可以忽略。 训练只覆盖小规模随机问题,因此大规模基准上的表现属于零样本泛化,而非训练时直接优化过的目标。 在 Maros–Mészáros 最小的100个实例上,RL-QProxIP 在约44毫秒内解出一半实例,约为 QProxIP 的2.3倍;在至少一个求解器能于1秒内解出的73个实例子集上,它是最快求解器的比例为74%,QProxIP 为26%,神经策略的推理开销约每问题1毫秒。
启示与展望
演示范围是作者自建的正则化原始-对偶内点求解器 QProxIP 及其强化学习版本 RL-QProxIP,训练只用5到50个变量的小规模随机二次规划,评测覆盖同分布验证集、放大10倍的随机问题以及 Maros–Mészáros 基准中按文件夹大小取的最小100个实例。作者提出的后续方向包括电力系统大规模稀疏问题、具有三对角带状结构的最优控制问题、金融市场数据波动剧烈的优化问题,以及把策略迁移到原始内点法等其它二阶方案。
训练被限制在小规模随机二次规划上,验证只在单一内点求解器方案内进行,且训练后策略的熵停留在相对较高的水平,说明它没有收敛到接近确定性的行为。作者还指出,在只需少数迭代即可求解的问题上,学到的策略带来的额外收益可能有限,策略推理开销会部分抵消收敛加快的收益。原文对 Maros–Mészáros 全集上两者最终覆盖率的两种表述互相矛盾,因此覆盖率高低尚不能确定。
