让模型学会说“我不知道”：换掉答题策略不如加一个答案筛选器，TriviaQA覆盖率从20.2%升到30.9%
核心概要
在Qwen3-14B的事实问答上，固定生成器、另训一个答案筛选器，比直接训练模型何时弃答更有效。TriviaQA上，筛选器把平均覆盖率从原模型校准置信度过滤的20.2%提高到30.9%，同时把已作答答案的合并错误率从23.0%降到14.5%；但换到NQ-Open，其平均效用仍低于全部弃答，跨数据集可靠弃答仍未解决。
深度剖析
在短事实问答中，让一个独立组件判断“这个答案该不该放出来”，比改动生成答案的模型本身更能提高有用弃答。 此前的做法是给原模型一个置信度阈值，按校准后的置信度决定是否作答；该过滤在TriviaQA上只放出20.2%的问题。 在TriviaQA的2000道测试题上，筛选器把平均覆盖率提到30.9%，已作答答案的合并错误率从23.0%降到14.5%，平均效用从0.02418升到0.04248，配对提升0.01830，99%自助区间为[0.01041,0.02593]，且三个训练种子均为正。
筛选器不是重新训练生成器，而是在生成器给出的候选答案上再学一层正确性打分。 原模型用P(True)打分并做逻辑校准，只改变同一个标量分数的映射；筛选器则用LoRA适配器从问题和候选答案本身学习是否命中参考答案。 训练用2000道TriviaQA题、每题一个贪心加三个采样候选共8000个样本，500步更新；在1784个有效TriviaQA候选上，ROC AUC从原分数的0.779升到筛选器三个种子的均值0.852，校准后Brier从0.189降到0.154。
把同样的8000个训练标签交给原分数上的逻辑回归，并不能复现筛选器的收益。 该对照只对固定标量分数做仿射变换，无法学习新的问题—候选特征。 校准后筛选器相对该对照的平均效用差为0.01834，99%区间为[0.01041,0.02602]。
测试过的强化学习改动没有给出稳定增益，跨数据集迁移也未站住。 三个RL对比的平均效用差为正，但校正后的区间都包含零，且方向随种子变化；NQ上筛选器平均效用虽高于原校准过滤，却仍低于全部弃答的零。 NQ上筛选器相对原校准过滤的差为0.01878，描述性95%区间[0.00605,0.03097]；在阈值0.85处原过滤只放出一个错误答案，筛选器在该点的效用反而更低。
启示与展望
结论建立在Qwen3-14B、短英文事实问答、无检索、精确匹配评分之上，训练池为2000道TriviaQA题，测试为2000道TriviaQA与500道NQ-Open，主阈值0.65与0.85未参与策略训练。筛选器与校准均在TriviaQA上学习后原样迁移到NQ，未重新拟合。读者若关心其他模型规模、其他语言或带检索的设定，需要另行验证。
强化学习对比的区间包含零且方向随种子变化，因此这些改动是否带来一致增益尚未确定。NQ上筛选器平均效用仍低于全部弃答，且相对优势在阈值0.85处反转，该点仅基于一个错误答案。人工复核只覆盖150个响应单元，采用AI提议标签加一人复核，未做双人独立标注，因此不能估计整个测试集的评分错误率。