Hugging Face把决策做成模型输出：不再逐字生成，直接给出选项概率
核心概要
Hugging Face为“决策模型”定下统一接口：输入状态与若干带类型的问题，模型直接返回选项概率、有序评分或二值概率，而不生成任何文本。此前这类结构化判断要么靠大模型输出JSON、再受约束解码兜底，要么用固定标签分类器或零样本分类。Transformers、llama.cpp与Hub标签已按同一契约接入，兼容的自回归语言模型也能在不重新训练的情况下走这套接口。
深度剖析
决策模型把“在预设答案中选一个”变成模型的原生输出，而不是让语言模型先写出一段文本再解析。 此前应用多让大模型返回JSON，或用固定标签分类器与零样本分类；前者不保证符合schema，后者标签虽可在推理时给出，却只有单一分类问题。 同一张客服工单上，决策接口对部门问题返回billing概率0.998、technical 0.001、sales 0.001，并同时给出紧急度评分与退款二值概率，输出token数为0。
接口由状态和问题两部分组成，问题分三种原语：在若干选项中择一的choice、在有序刻度上打分的score、回答是/否概率的noul。 choice对每个选项算一个logit再经softmax归一；score不取最可能等级，而是对等级索引求期望，示例分布0.01、0.26、0.72给出1.7；noul直接返回伯努利参数。 Transformers新增DecisionPipeline、AutoModelForDecision与DecisionConfig，并提供/v1/systemone端点；llama.cpp用同一端点服务GGUF决策模型，Hub另设专用标签便于发现不同骨干的模型。
启示与展望
已展示的范围是客服工单路由这一示例场景下的三类决策原语，以及Transformers、llama.cpp和Hub标签对该接口的接入；面向需要在预设答案间做结构化判断的应用开发者。
决策模型被描述为年轻且快速演变的领域，各模型内部机制不同；面向决策模型的一等训练支持在TRL中仍是未合并的PR，文中给出的微调示例被明确称为小型玩具示例。