跳到主要内容
检索

# TabFM

3 篇关联报道

订阅更新
  1. arXiv

    表格基础模型少看九成样本仍能打:只训一层线性对齐,10%上下文追平两到四倍数据

    表格基础模型做上下文学习时,每次预测都要把全部训练样本送进前向计算,砍掉上下文虽省算力却明显掉点。激活对齐改为用完整上下文教一个受限学生模型:在合成无标签数据上拟合一层线性变换,把学生某一层的中间激活拉向教师。在TabArena的38个分类数据集上,用TabPFN-3与TabFM评测,对齐后的学生在全部上下文预算上多数优于未对齐基线,低数据区间可补回教师约一半的领先幅度。

  2. arXiv

    TabFM-Auto 用 LLM 智能体围绕冻结的 TabFM 演化数据管线,在 TabArena 全部 51 个数据集上把 Elo 从 1785 提升到 2013

    TabFM-Auto 把冻结的表格基础模型 TabFM 与一个语言模型编码智能体配对,让智能体依据数据集元数据与验证反馈迭代改写数据清洗、特征工程、上下文选择和后处理四个阶段的管线,在 TabArena 全部 51 个数据集上五种配置占据总榜前五名,最佳配置(Codex 配 Opus 5)把 TabFM 从 1785.3 Elo 提升到 2013.0 Elo,所发现的管线无需再搜索即可迁移到 TabPFN-3、TabICLv2 和 EXAONE-Tabular(提升 69 至 143 Elo),并在 MLE-Bench 的 8 个表格竞赛中在 MLE 智能体里排名第一。

  3. arXiv

    谷歌400M参数TabFM在TabArena全部51个数据集上零样本登顶,冻结权重下TabFM-Auto再提Elo

    TabFM是一个400M参数的表格基础模型,把监督式表格预测表述为上下文学习,仅用结构因果模型生成的合成表格预训练,在单次前向传播中给出校准的零样本预测;在TabArena全部51个数据集(38个分类、13个回归)上,零样本TabFM在默认表格基础模型中排名第一并超过调优的AutoML流水线,其两个扩展TabFM+(多视图特征扩展、集成与事后校准)和TabFM-Auto(由Gemini-3.8-Flash引导的数据集特定数据处理与特征工程)在冻结权重下进一步提升两个赛道的表现。

已读完全部报道