表格基础模型不再只学采样标签：GIST用生成器中间状态做监督，三个架构上赢下62.1%的配对比较

表格基础模型的预训练监督不再只依赖采样出来的硬标签，而是用生成器在合成任务时保留的中间状态，对查询损失按条件标签分布取平均。 此前的做法是拿采样到的硬标签算查询损失，即使生成器本身能给出各类别的条件概率，一次采样也只选中一个类别的损失。 在匹配的预训练日程下，GIST在TabArena与TALENT上对TabICLv2、TabSwift、TabPFN-2.5三个架构都改善了平均排名，并在62.1%的配对数据集级比较中胜过对应的硬标签对照。

条件目标只在生成器能给出可解条件概率的分支上启用，其余分支继续用采样硬标签，模型架构与推理流程都不变。 当采样类别不影响模型输入时，采样概率直接给出目标；当采样类别影响生成特征时，GIST把类别码加上高斯噪声，让所有依赖标签的特征计算都经过这个编码，再由其局部似然给出后验目标。 噪声尺度由熵预算标定，限制编码通道里平均残余的标签不确定性；在TabSwift上测试的三个预算值都优于硬标签对照，默认预算为0.15。

这项工作面向采用合成先验预训练的表格基础模型，在TabArena与TALENT的IID分类以及BeyondArena的时序与分组OOD划分上评估，覆盖三个架构。条件目标只在生成器能给出可解条件概率的分支上启用，其余分支保留采样硬标签。

论文报告OOD结果随架构与指标变化：在三个方法共有的12个数据集上，多分类对数损失都下降，但二分类AUC在TabPFN-2.5上下降。作者把分布偏移下的迁移列为仍待解决的方向。