跳到主要内容
返回时间线
arXiv来源发表:

概率时间序列预测改走矩阵指数:KGO单步生成,17项基准中13项CRPS最低

核心概要

概率时间序列预测既要刻画时间结构,又要给出不确定性,还要推理够快;扩散与流匹配类方法靠多步迭代采样换取灵活性,代价是推理开销随步数增长。KGO把预测看成结构化不确定性在Koopman潜空间中的演化:KoPE用学习到的线性算子外推潜轨迹,KoFM用矩阵指数把噪声一步搬运到未来,AUG按变量与预测步自适应分配确定性与随机分支。在ProbTS的17个设置上,KGO在13项取得最低CRPS、16项最低NMAE,并报告相对迭代生成模型至少25倍的推理加速。

Source-provided article image: Koopman Generative Operators for Efficient Probabilistic Time-Series Forecasting
arXiv

深度剖析

概率时间序列预测多了一条不靠迭代采样的生成路线:KGO把未来轨迹的生成压缩成潜空间里的一次线性搬运,同时保留按变量和预测步变化的不确定性。 此前的扩散与流匹配方法用多步迭代采样获得灵活的多模态预测分布,推理成本随采样步数增长;潜变量方法则把不确定性绑在初始状态上,靠其传播产生变化。 在ProbTS的17个评估设置上,KGO在13项取得最低CRPS、16项取得最低NMAE;长期预测中CRPS第一为7/9个数据集、NMAE为9/9,短期预测中分别为6/8和7/8。

模型先把历史序列编码成潜状态,再用一个学习到的线性算子把该状态逐段外推到预测区间,得到一条结构化的潜轨迹。 KoPE(Koopman Patch Embedding,Koopman分块嵌入)用学习到的线性算子反复作用于最后一个潜状态来外推,并在算子谱范数超过1时做归一化,使外推不会放大。 在36个数据集—预测步组合上,KoPE的平均CRPS为0.141,低于Last Patch与Context Pooling两种替代表示的0.165;把sLSTM编码器换成Transformer或线性RNN,平均CRPS分别变为0.148和0.145。

生成环节不再积分一个随时间变化的向量场,而是在潜空间里用矩阵指数完成一次仿射搬运,推理时只需一次矩阵乘法加偏置。 KoFM(Koopman Flow Matching,Koopman流匹配)把标准流匹配的时间相关速度场换成时不变的线性动力系统,其解有闭式矩阵指数形式,因此无需数值ODE求解。 与预训练流匹配基础模型Sundial-base-128m在其原论文采用的50步欧拉预算下相比,KGO在28个数据集—预测步组合上平均CRPS低约13%、NMAE低约7%,平均延迟7.8毫秒/窗口对387毫秒/窗口。

启示与展望

评测限定在ProbTS协议下的17个数据配置,覆盖ETT、Electricity、Exchange、Traffic、Weather、Solar与ILI,短期与长期两种预测区间分别设定上下文长度;效率数字在单张RTX 6000 Ada、FP32、批大小1、每窗口100条轨迹的条件下测得。

矩阵指数精确刻画的是齐次线性演化,仿射项只保留对应ODE偏移积分的一阶项;AUG的门控权重描述两个分支的相对贡献,并不构成对偶然不确定性的直接估计;与Sundial的比较同时涉及架构与训练流程的差异,不只是采样机制。