跳到主要内容
检索

Kanghui Ning

1 篇关联报道

订阅更新
  1. arXiv

    测试时计算如何提升表格基础模型:DiagScale 微调与贪心聚合带来稳定增益,上下文构建收益依任务而定

    该工作沿适配、聚合与上下文构建三条轴线系统研究测试时计算对预训练表格基础模型预测的影响:提出仅训练 0.003-0.03% 参数的 DiagScale 对角查询-键相似度更新,在三个独立预训练骨干上取得与全量微调相当的增益;在 96 种配置池上贪心选择相对默认预测器降低 2.4% 误差,而均匀平均反而增大误差;注意力引导检索在部分大表上改善 TabPFN-3 预测,上下文扩展方法则无一致提升。

已读完全部报道