一个空格改写多选题评分：正确选项概率掉几个数量级，准确率却多半只动半个点
核心概要
多选题评测里，提示词末尾那个空格归到提示还是归到选项，会改变模型给正确选项的概率。把空格留在选项一侧时，提示词与选项的切分与预训练中见过的分词一致；把空格留在提示词一侧时，正确选项的对数概率低出几个数量级。九个模型与基准组合中有六个准确率变化不到半个百分点，但 Qwen3.5 在 PIQA 上掉了近十个百分点。
深度剖析
多选题评测的分数取决于提示词与选项之间那个空格被算在哪一边，而不只取决于模型是否知道答案。 常见写法以 Answer: 结尾再读 A、B、C、D 的下一个词元概率，空格必须归入其中一侧，此前这一细节被当作无关紧要的格式选择。 在 MMLU、ARC、PIQA 三个数据集与 Olmo-3-7B、Qwen3.5-35B-A3B、Gemma-4-26B-A4B 三个基座模型的九个组合上，空格归选项一侧的准确率在八组中不低于归提示一侧，六组差距不到 0.5 个百分点。
空格归提示一侧时，模型给正确选项的概率大幅下降，但下降大致均匀地落在所有候选上，因此排序多数不变。 正确选项的对数概率在两种切分下差异明显且在各模型与基准上一致，归提示一侧时直方图整体下移并展宽。 例外集中在 Qwen3.5 的 MMLU 差 2.6 个百分点、PIQA 差 9.8 个百分点，以及 Olmo 3 的 MMLU 差 1.5 个百分点。
根源在分词：预训练语料里 Answer、冒号与带前导空格的选项标签是一个整体词元，评测时若把空格切给提示词，模型就要预测一个几乎没见过的裸标签。 六个现代分词器都把 Answer:␣B 切成 Answer、: 与 ␣B 三段，而在 DCLM-Baseline 百万文档样本上这种规范切分每百万词元约出现 2300 次，空格独立成词元再跟裸 B 的写法每百万仅 0.03 至 0.10 次。 两种切分只有在分词可组合、即分别编码提示与选项再拼接等于整体编码时才等价，所考察的分词器都在提示与选项边界上破坏了这一条件。
启示与展望
讨论范围限于基于似然的评分，即读取选项标签的下一个词元概率而不生成文本，实验覆盖 MMLU、ARC、PIQA 与三个基座模型。对直接建立在这些似然上的量，例如正确选项的每字节比特数，切分选择同样会带来影响。建议是在推理之前仅凭分词器判断哪种切分得到规范分词，并据此决定空格归属。
准确率变化在多数组合中很小，但并非所有组合都如此，Qwen3.5 在 PIQA 上的近十个百分点损失来自标签偏好而非均匀下降。模型对裸标签存在偏好，例如 Qwen3.5 偏向 B、Gemma 4 偏向 D，这种偏好主要在该模型置信度较低时改变准确率。用另一个模型作评判时，90.25% 的补全被判为语义正确，比 Olmo 3 在 ARC 上空格归提示一侧的准确率高约 1.4 个百分点，说明缺失的概率质量并未转移到语义不同的答案上。