# 早停

带类别配额约束的向量检索此前只能靠固定访问预算或按平均召回率学习的停止规则，无法保证返回精确答案。CaST把停止规则限定在声明接口上的单调类，用固定序列二项检验校准，并用拉格朗日弱对偶给出该类最优代价的下界。在两个各含一百万条目的数据集上，风险水平0.03至0.10时其回放代价不超过类最优的1.132倍，95%置信度；在0.05风险目标下，其平均时延低于所测其他已校准规则。

带类别配额约束的向量检索此前只能靠固定访问预算或按平均召回率学习的停止规则，无法保证返回精确答案。CaST把停止规则限定在声明接口上的单调类，用固定序列二项检验校准，并用拉格朗日弱对偶给出该类最优代价的下界。在两个各含一百万条目的数据集上，风险水平0.03至0.10时其回放代价不超过类最优的1.132倍，95%置信度；在0.05风险目标下，其平均时延低于所测其他已校准规则。

大模型回答冗长会拉高推理延迟和算力开销，而只靠提示词压缩长度难以控制，提前停止又容易把句子截在半截。MinimalLM 把“何时该停”和“停在这里是否结构完整”拆成两个判断：解码时按长度和不确定性调整停止 token 的分数，只有落在句末标点、闭合代码块或配对括号处才允许生效。在三个开源模型、330 道题共 990 条回答上，生成 token 减少 47.6%，平均质量 8.04/10，基线为 8.42/10，且没有出现结构截断。

大模型回答冗长会拉高推理延迟和算力开销，而只靠提示词压缩长度难以控制，提前停止又容易把句子截在半截。MinimalLM 把“何时该停”和“停在这里是否结构完整”拆成两个判断：解码时按长度和不确定性调整停止 token 的分数，只有落在句末标点、闭合代码块或配对括号处才允许生效。在三个开源模型、330 道题共 990 条回答上，生成 token 减少 47.6%，平均质量 8.04/10，基线为 8.42/10，且没有出现结构截断。