跳到主要内容
返回时间线
arXiv来源发表:

事件序列预测不再只看准不准:把扩散模型的真实感聚合成点预测,TMS反超专用预测器

核心概要

事件序列预测长期只按预测精度排名,而生成模型本可给出多条可能未来。一项面向银行卡交易等异构事件序列的基准同时衡量预测精度与分布真实性,发现没有方法能同时占优:扩散模型在真实性上领先,专用预测器在精度上领先。名为 Wasserstein BaryBooster 的事后聚合把扩散模型的多条采样收敛成单条轨迹,在三个数据集上取得最高 TMS,同时保留非平凡的 cDFS。

Source-provided article image: Realism VS Accuracy: Event Sequence Forecasting from a Generative Modeling Perspective
Figure 1 · arXiv

深度剖析

事件序列预测的评测被拆成两个独立维度:预测精度衡量预测与真实后续的接近程度,分布真实性衡量生成轨迹与真实未来分布是否难以区分。 此前的评测,无论时序点过程还是其他方向,几乎只关注预测精度,真实性没有被当作一等指标。 在三个银行卡交易数据集上,两个维度的排名出现明显分裂:潜在扩散模型是唯一取得非平凡 cDFS 的生成模型,而当前最强的非扩散预测器 DEF 的 cDFS 接近零,说明一个简单判别器几乎能完美区分其生成轨迹与真实轨迹。

基准用两个新指标覆盖任意数量的数值与类别特征:TMS 衡量逐事件匹配的精度,cDFS 衡量在给定同一历史条件下判别器区分真实与生成后续的难度。 既有的精度指标只看一步预测,或像 OTD 与 T-mAP 那样把数值特征排除在外;真实性指标则忽略历史条件。 TMS 用按基线重标定的归一化替代人工设定的编辑代价,并在所有特征上共享一个匈牙利匹配;cDFS 是分类器双样本检验的条件化变体,判别器能看到历史,其排名在八种判别器配置下保持稳定,Spearman 相关系数在 0.91 到 1.00 之间。

Wasserstein BaryBooster 把任意生成器的多条随机采样聚合成一条在 TMS 下最优的轨迹,无需重新训练即可提升预测精度。 生成模型本可给出多条可能未来,但精度只奖励单条真实后续,这份潜力此前未被利用。 在三个数据集上,聚合后的潜在扩散模型取得最高 TMS,分别为 0.495、0.436 和 0.522,同时保留 0.177、0.256 和 0.224 的 cDFS;聚合还改善了它并未直接优化的其他指标,例如 Alphabattle 上金额的 R1 从 0.479 升到 0.583。

启示与展望

基准覆盖三个银行卡交易数据集,序列长度与用户规模足以支撑长时域预测,事件至少包含时间戳、交易金额与商户类别码。为检验跨域表现,评测还扩展到 Retweet 与 Amazon 两个点过程语料,它们序列更短、事件只带时间戳与一个类别标记,精度与真实性的权衡以及各维度的领先模型依然成立。聚合过程在推理期进行,采样阶段可跨多张 GPU 并行。

公开语料中同时满足规模、长度与结构要求的只有交易数据,非金融语料未能入选,这是当前公开数据格局的限制。聚合需要生成多条候选轨迹并求解迭代的聚合过程,推理开销明显增加,在延迟敏感或资源受限的部署中可能难以承受;不过这是推理期的选择,使用较少采样数即可保留大部分 TMS 增益。cDFS 依赖学习到的判别器,中间分数区间噪声较大,因此应解读相对排名而非绝对值。