图像编辑智能体重试不再盲选模型:RetryRoute按失败历史规划,主预算下成功率平均高出最强基线2.8个百分点
核心概要
网页智能体在“评审—重试”循环里调用开放图像编辑模型,而一次失败后的重试成功率只有首次尝试的17%–53%,现有路由器却把重试当作独立抽样。RetryRoute按请求的失败历史估计每个模型下一次尝试的成功概率,在失败状态上规划重试、升级与放弃,并把实时排队等待计入成本。在八个评测组的主预算下,其循环内评审成功率平均高出十一个先前基线中最强者2.8个百分点;在三卡GPU服务测试台上,同一套设置使满足服务目标的编辑比例在每个负载下高出最佳先前基线5.0–6.3个百分点。
深度剖析
图像编辑服务在每次编辑被评审拒绝后,需要决定是重试同一模型、换更强的模型还是放弃,而这一决定现在可以依据该请求已经失败过几次来做。 按请求选一个模型的路由器、按固定顺序升级的级联,以及用新随机种子重试同一模型的智能体框架,都把重试视为与首次尝试同概率的独立抽样。 在六个开放编辑模型、三个基准和两个评审器构成的50个模型—评审器单元中,重试成功率只有首次尝试的17%–53%;FLUX.2 [klein] 首次尝试通过67%的编辑,对刚失败的编辑只通过15%,而同一模型池中的另一模型仍能解决其中45%。
路由器把每个模型在给定失败次数下的下一次成功概率作为唯一估计量,并据此在失败状态上求解最优动作序列。 该估计按请求类别统计日志中处于同一失败状态的尝试,并向全类别估计收缩,以缓解深层失败状态样本稀少的问题。 规划在三个模型臂上耗时0.35毫秒、五个臂上5.6毫秒;每次决策把各模型队列与评审队列的实时等待按排队长度乘实测服务时间再除以工作进程数计入成本,并在测试台上每次决策中位增加6.9毫秒。
启示与展望
演示范围是六个开放图像编辑模型组成的两组模型池、GEdit-Bench(中英文)、GEditBench v2 与 ImgEdit 三个基准,以及三块 RTX 4090D 上的服务测试台;离线结果回放已记录的编辑与实测GPU时间,测试台服务160个请求。
重试成功率与首次尝试的比值是在这六个模型、三个基准和两个评审器上测得的17%–53%,并非对所有编辑模型的普遍常数;在更严格的质量门槛下,RetryRoute相对最强先前基线的优势会收窄,直至在最严门槛处与之持平。
