跳到主要内容
返回时间线
arXiv来源发表:

流数据预测不必重读历史:ReMAQ把模型平均更新化为二次规划,每来一批数据只解一次

核心概要

流数据实时预测中,研究者往往同时手握多个广义线性模型,而模型平均通常要对全部历史数据做凸优化。ReMAQ用二次近似改写这一过程,使新一批数据到达时只需解一个二次规划即可顺序更新预测,无需访问全部历史数据。在正则条件下,其权重与基于不可得全数据的oracle模型平均渐近等价,由此得到渐近最优性;模拟研究以及在Airline On-Time Performance数据集上的应用用于评估该方法。

AI-generated editorial illustration: Renewable model averaging for generalized linear models

深度剖析

面对持续到达的流数据,模型平均的预测可以按批顺序更新,而不必每次回到全部历史数据上重算。 模型平均在广义线性模型下通常是一个凸优化问题,此前要得到其解需要以全部历史数据为输入。 这一更新方式在正则条件下给出的权重,与基于不可得全数据的oracle模型平均权重渐近等价,渐近最优性由此建立。

做法是把广义线性模型的模型平均过程替换为一个二次优化形式,于是每一步更新只涉及一个二次规划问题。 所提方法名为ReMAQ,即通过二次近似实现的可再生模型平均,面向流数据下的广义线性模型。 方法通过模拟研究评估,并应用于Airline On-Time Performance数据集,结果显示其在实际情形中的优势。

启示与展望

所展示的范围是广义线性模型下的流数据模型平均:在正则条件下给出权重与oracle模型平均的渐近等价,并以模拟研究和Airline On-Time Performance数据集上的应用作为评估场景。

渐近等价与渐近最优性是在一定正则条件下成立的,并非无条件结论;实际表现由模拟研究和Airline On-Time Performance数据集上的应用给出。