跳到主要内容
返回时间线
bioRxiv来源发表:

表格基础模型TabPFN 3.5不调参就追平物种分布模型,微调后成为基准上最佳单模型

核心概要

只用“出现记录”预测物种会在哪里出现,长期依赖MaxEnt等需逐数据集调参的物种分布模型。TabPFN 3.5在225种、六个区域的标准基准上不调参即取得平均AUC 0.732,与已发表最佳的五模型集成持平;用其他区域的“出现—背景”任务微调后升至0.736,成为基准上最佳单模型,并显著优于MaxEnt的0.728。作者同时指出,六个区域不足以证明这一优势能推广到新区域,且模型对环境偏倚采样敏感。

AI-generated editorial illustration: A tabular foundation model rivals established species distribution models from presence-only records

深度剖析

一个未经调参的表格基础模型在物种分布预测的标准基准上,达到了已发表21种方法中最佳者的水平。 此前该基准用21种现行方法重新分析后没有找到单一最佳方法,最好的结果来自五模型集成、降采样随机森林、提升回归树和MaxEnt,而这些方法都依赖正则化、树复杂度或类别加权等强影响性能的选择。 在225个物种、六个区域、带独立出现—缺席调查的基准上,TabPFN 3.5配合平衡装袋取得平均AUC 0.732,与五模型集成的0.732相同,数值上高于降采样随机森林的0.730、MaxEnt的0.728和提升回归树的0.725,但与最佳单模型的差异不显著。

用其他区域的“出现—背景”任务微调后,TabPFN 3.5成为该基准上表现最好的单一模型。 微调采用留一区域设计,被评估区域不向微调提供任何数据,所有设置事先固定;此前唯一的相关研究在评估区域内的调查数据上微调,且只与五种方法比较。 TabPFN 3.5-FT的平均AUC为0.736,在13种方法的对齐秩检验中显著优于MaxEnt(+0.008,225个物种中147个更高,P=0.021)和提升回归树(+0.012,P=0.005),但与MaxNet、降采样随机森林和五模型集成无显著差异。

模型把训练表与待预测点一起送入预训练网络,一次前向传播就给出类别概率,不需要拟合参数或调超参数。 出现—背景数据类别高度不平衡,“缺席”是状态未知的背景点,出现记录还带有采样偏倚,与TabPFN预训练所用的合成表格任务不同。 为适配这种不平衡,每个平衡袋放入全部出现点与等量随机背景点,在logit尺度上对100个袋的预测取平均,并对测试点连续协变量加入标准差0.01的高斯噪声做测试时增强。

启示与展望

结论建立在225个物种、六个区域、数十年前采集的记录以及独立出现—缺席调查之上,评估的是调查点上的判别能力,而非向新环境的迁移;在空间分块交叉验证下,微调模型的精度损失与既有方法相当,但对MaxEnt的优势不显著(+0.003,P=0.46)。作者提出,若数百个真实出现—背景任务能改进通用表格先验,用数千个物种预训练的模型可能成为物种分布的基础模型,并称正在为北美鸟类构建这样的模型。

作者指出六个区域太少,基准无法证明优势在新区域成立;混合模型以区域为随机效应时,与MaxEnt的差异区间包含零(−0.012到0.020),且显著对比依赖100袋设置,五袋时差异为0.005(−0.002到0.011)。虚拟物种中,加性关系下基础模型恢复真实概率不如MaxEnt等回归方法,环境偏倚采样下差0.05–0.07,其机制尚不清楚;微调在复杂关系下反而抹去了大部分优势。TabPFN权重为非商业许可,100袋设置每物种约需2分钟GPU时间,MaxEnt约20秒。