Hugging Face把决策做成接口：模型不再逐字生成，直接给出选项概率
核心概要
Hugging Face 为“决策模型”定下统一接口：输入一段状态和若干带类型的问题，模型直接返回选项概率、有序评分或真/假概率，而不逐字生成文本。此前这类结构化判断要么靠大模型输出 JSON，要么靠固定标签分类器或零样本分类。Transformers 新增 DecisionPipeline 等类，llama.cpp 提供同一 /v1/systemone 端点，兼容的自回归模型也能在不生成文本的情况下按选项打分。
深度剖析
决策模型把“做判断”从文本生成里拆出来，应用拿到的是预先定义好的答案及其概率，而不是一段需要再解析的回复。 此前常见做法是提示大语言模型返回 JSON，或使用输出类别写死在分类头里的传统分类器；零样本分类虽可在推理时给出候选标签，但只处理单一归类问题。 同一张客服工单上，决策接口对部门问题返回 billing 概率 0.998、technical 0.001、sales 0.001，并同时给出紧急度评分与退款概率，三类问题在一次请求中完成。
接口由状态和问题两部分组成，问题分三种基本类型：在若干选项中选一个、在有序刻度上打分、回答一个是非问题。 选择型对每个选项算一个 logit 再经 softmax 归一化；评分型返回各等级概率的期望值，例如低 0.01、中 0.26、高 0.72 对应 1.7；是非型直接返回为真的概率。 Transformers 的 DecisionPipeline、AutoModelForDecision 与 DecisionConfig 已支持该接口，llama.cpp 用同一 /v1/systemone 端点服务 GGUF 决策模型，Hub 另设决策模型标签用于检索。
启示与展望
报道覆盖的是接口规范与工具支持：Transformers 的决策管线、llama.cpp 的同一端点、Hub 标签，以及用 Trainer 微调决策模型的示例；示例中的客服工单与概率仅用于说明接口返回形式。
决策模型被描述为年轻且快速变化的领域，各模型内部实现不同；文中提到 TRL 的一等训练支持仍是一个未合并的拉取请求，把生成式模型改造成决策模型的配方来自 Unsloth。