# 激活对齐

表格基础模型做上下文学习时，每次预测都要把全部训练样本送进前向计算，砍掉上下文虽省算力却明显掉点。激活对齐改为用完整上下文教一个受限学生模型：在合成无标签数据上拟合一层线性变换，把学生某一层的中间激活拉向教师。在TabArena的38个分类数据集上，用TabPFN-3与TabFM评测，对齐后的学生在全部上下文预算上多数优于未对齐基线，低数据区间可补回教师约一半的领先幅度。

表格基础模型做上下文学习时，每次预测都要把全部训练样本送进前向计算，砍掉上下文虽省算力却明显掉点。激活对齐改为用完整上下文教一个受限学生模型：在合成无标签数据上拟合一层线性变换，把学生某一层的中间激活拉向教师。在TabArena的38个分类数据集上，用TabPFN-3与TabFM评测，对齐后的学生在全部上下文预算上多数优于未对齐基线，低数据区间可补回教师约一半的领先幅度。