跳到主要内容
返回时间线
arXiv来源发表:

在线共形校准让RL驱动硬件感知NAS的覆盖率可调,剪枝25-50%评估且精度无损

相关研究与后续进展

核心概要

该工作用在线反馈控制(自适应共形推断及其免调参、局部自适应、分组条件变体)替换一次性分位数估计,以应对强化学习搜索过程中候选分布非可交换的问题,在三种网络架构族、单步与序列搜索(三个随机种子)中把覆盖率跟踪到请求水平约10^-3以内,同时剪枝25-50%的评估且未测得精度损失,而静态校准失去覆盖率控制、高斯过程基线始终保守。

Source-provided article image: Coverage You Can Steer: Online Conformal Calibration for RL-Driven Hardware-Aware NAS
Figure 1 ·

Figure 1: Realized coverage vs requested target 1 − δ 1-\delta , per filter arm and family (points = seed mean, error bars = across-seed standard deviation; grey line = ideal calibration). The adaptive and tuning-free (agaci) filters lie on the diagonal with tight bars, calibrated and reproducible. GP-UCB is pinned near 0.99 regardless of the request. Calibrate-once split barely tracks the target (under-covering at tight requests, over-covering at loose ones), and its large error bars (absent from the means alone) are the reproducibility failure: biased and uncontrolled at once.

arXiv

深度剖析

将共形预测过滤中的一次性分位数估计替换为在线反馈控制,使覆盖率在任意序列上可被目标值单调、可复现地调节。 原方法依赖校准集与测试候选之间的可交换性假设,而RL策略的提议随搜索推进不断改进、在逐层构造中每个回合内还会漂移,破坏了该假设;在线控制不再依赖这一假设。 摘要报告在三种网络架构族、单步与序列搜索、三个随机种子上,覆盖率跟踪每个请求水平至约10^-3以内。

在线校准在保持覆盖率的同时剪枝25-50%的评估,且未测得精度损失。 相比静态校准会失去覆盖率控制、高斯过程基线无论请求如何都保持保守,在线方案把覆盖率控制与评估成本削减同时实现。 摘要给出剪枝比例区间与“无测得精度损失”的表述,覆盖三种架构族与两种搜索模式、三个种子。

同一乐观上界用作采集函数时,在一个受限测试平台上优于随机搜索。 该增益固定乐观策略本身已具备,在线校准对其进一步锐化,说明校准与采集函数的作用可分离。 摘要仅报告在一个受限测试平台上的对比,未给出具体数值或效应量。

启示与展望

该结果面向需要在搜索过程中控制候选丢弃比例的硬件感知NAS场景,适用于RL策略提议分布随搜索推进而变化、逐层构造中回合内也发生漂移的设置。对使用共形过滤做候选剪枝、并希望把覆盖率当作可调参数的研究者与工程实践者,这提供了把目标覆盖率直接“拨到”所需水平的操作方式,并附带可复现的代码。方法本身针对任意序列的覆盖率控制,因此对存在类似分布漂移的其他过滤或筛选流程也具有参考意义。

摘要层面的信息未给出各架构族的具体精度数值、剪枝比例在单步与序列搜索间的分布,以及覆盖率误差约10^-3的统计不确定性;采集函数对比也仅在一个受限测试平台上报告,缺少与其他采集函数的系统比较。此外,摘要未说明在线校准的更新频率、超参数敏感性以及在搜索早期候选质量较差时的行为。这些属于后续复现与扩展时需要留意的开放问题。

来源