检索历史片段不再比对原始数值:先滤掉高频噪声、画成折线图,长程预测误差随之下降
核心概要
VRATF把检索增强预测的比对对象从原始时间序列换成去噪后的趋势折线图:先用FFT低通滤波提取低频趋势,渲染成224×224图像,再由冻结的CLIP ViT-B/32编码建库,按余弦相似度取Top-K并用高斯核加权聚合历史未来轨迹。检索预测与DLinear基预测经一个可学习标量在预测层融合。六个多变量基准上,VRATF在其中四个取得最低平均MSE,ETTh2平均MSE为0.340,较次优的RAFT(0.358)改善5.0%。
深度剖析
检索增强预测的相似度不再在原始数值上计算,而是在去噪趋势的折线图图像上计算,使匹配依据从逐点数值对应转向整体趋势形态。 此前RAFT、DUET、SERAF等检索增强方法在原始数值序列、学习到的时间嵌入或生成的文本描述上做检索,高频波动、传感器抖动和异常尖峰与有用信号同等参与相似度计算。 在六个多变量基准上,VRATF在ETTh1、ETTh2、ETTm2和Exchange四个数据集取得最低平均MSE;ETTh2上每个预测步长均为检索增强基线中最低,平均MSE 0.340,比次优的RAFT(0.358)改善5.0%。
每条历史序列先减去最后一个观测值对齐端点,再经FFT低通滤波只保留最低的若干频率分量,重建出趋势曲线。 滤波后的趋势被Min-Max归一化并渲染为224×224的RGB折线图,由冻结的CLIP ViT-B/32编码成512维向量并做L2归一化,每个通道单独建库,与查询预测窗口重叠的训练样本被排除。 查询时按余弦相似度取Top-K,用高斯核把相似度转成聚合权重,加权求和检索到的未来轨迹得到检索预测;该实验覆盖ETTh1、ETTh2、ETTm1、ETTm2、Weather和Exchange六个数据集,回看长度720,预测步长取96、192、336、720。
检索预测与DLinear基预测在预测层用一个可学习标量融合,而不是在隐空间做固定权重或门控组合。 该标量经sigmoid映射到0到1之间,直接决定两路预测的相对贡献,融合后再经逐通道线性投影校准并加回此前减去的偏移。 在ETTh2上,可学习融合在四个预测步长上均优于固定系数0.5的版本,差距从96步的1.1%扩大到720步的11.9%;去掉检索分支后,ETTh2与Weather各步长的MSE均上升。
启示与展望
结论建立在ETTh1、ETTh2、ETTm1、ETTm2、Weather和Exchange六个多变量基准上,回看长度固定为720,预测步长取96、192、336、720,视觉编码器为冻结的CLIP ViT-B/32。适合关注检索增强预测与多模态表示的研究者阅读。作者提出的后续方向包括面向大规模时间序列库的可扩展检索索引、跨域自适应选择频率分量,以及更强的视觉编码器或时间序列专用的视觉预训练目标。
作者报告的优势是竞争性且常常更优,而非全面领先:RAFT在ETTm1上整体最好,DUET在Weather上最好,DLinear在Exchange上的平均MSE略低于VRATF(0.386对0.392)。FFT滤波的收益依赖数据周期性,在ETTh1的336与720步长上原始数值变体反而略好,Exchange上两种数值变体结果接近。每个实验只按统一设置运行一次。
