跳到主要内容
检索

# 尾部校准

1 篇关联报道

订阅更新
  1. arXiv

    奖励模型尾部校准能预警搜索预算风险:代码生成是唯一出现回落的领域

    Best-of-N 推理按代理奖励挑最高分候选,预算越大越只读取奖励分布的极端尾部,因此平均排序指标看不出部署风险。研究把 BoN 值写成条件真实奖励在提示内分数分位上的 Beta 加权积分,说明 BoN 只依赖分数排名,且只有尾部校准曲线下弯时才会下降。在公开候选池上,负的尾部超额集中在代码生成任务,交叉拟合的尾部统计量能预测预算上限在留出数据上是否带来收益,效果与排序准确率相当。

已读完全部报道