# 熵预算校准

表格基础模型预训练时，查询预测一直按采样出的硬标签计算损失，同一输入下只保留一个类别的监督信号，采样波动因此留在预训练里。GIST把合成任务生成与查询监督一起设计：在可解析的分支上用生成器保留的中间状态对条件标签分布求平均，并用熵预算校准类别编码的噪声尺度。在匹配的预训练日程下，TabICLv2、TabSwift和TabPFN-2.5三个架构在TabArena与TALENT上的平均排名都有改善，架构与推理过程不变，跨这些基准与架构的成对数据集级比较中赢下62.1%。

表格基础模型预训练时，查询预测一直按采样出的硬标签计算损失，同一输入下只保留一个类别的监督信号，采样波动因此留在预训练里。GIST把合成任务生成与查询监督一起设计：在可解析的分支上用生成器保留的中间状态对条件标签分布求平均，并用熵预算校准类别编码的噪声尺度。在匹配的预训练日程下，TabICLv2、TabSwift和TabPFN-2.5三个架构在TabArena与TALENT上的平均排名都有改善，架构与推理过程不变，跨这些基准与架构的成对数据集级比较中赢下62.1%。