TypeSafe AI

Hugging Face为“决策模型”定下统一接口：输入状态与若干带类型的问题，模型直接返回选项概率、有序评分或二值概率，而不生成任何文本。此前这类结构化判断要么靠大模型输出JSON、再受约束解码兜底，要么用固定标签分类器或零样本分类。Transformers、llama.cpp与Hub标签已按同一契约接入，兼容的自回归语言模型也能在不重新训练的情况下走这套接口。

Hugging Face为“决策模型”定下统一接口：输入状态与若干带类型的问题，模型直接返回选项概率、有序评分或二值概率，而不生成任何文本。此前这类结构化判断要么靠大模型输出JSON、再受约束解码兜底，要么用固定标签分类器或零样本分类。Transformers、llama.cpp与Hub标签已按同一契约接入，兼容的自回归语言模型也能在不重新训练的情况下走这套接口。

该研究在 Amazon Reviews 2023 的 Movies and TV、Video Games、Books 三个域上，用 SASRec 检索出的高排名负例构造受控困难候选集（候选规模从 10 到 100），把被 TypeSafe AI 称为“System One Model”的决策导向模型 Jev 与 SASRec、DCNv2 以及 Qwen2.5 7B Instruct 的点式与列表式重排器对比，发现 Jev 在保持较强推荐效果（NDCG@10、Hit Rate@10、MRR）的同时，其观测服务延迟随候选集增大的增长明显比点式 Qwen 更平缓，但仍远高于推荐专用模型。

该研究在 Amazon Reviews 2023 的 Movies and TV、Video Games、Books 三个域上，用 SASRec 检索出的高排名负例构造受控困难候选集（候选规模从 10 到 100），把被 TypeSafe AI 称为“System One Model”的决策导向模型 Jev 与 SASRec、DCNv2 以及 Qwen2.5 7B Instruct 的点式与列表式重排器对比，发现 Jev 在保持较强推荐效果（NDCG@10、Hit Rate@10、MRR）的同时，其观测服务延迟随候选集增大的增长明显比点式 Qwen 更平缓，但仍远高于推荐专用模型。

该研究把只输出判决与标签概率的决策式评判器 JEV 与十六个生成式与奖励模型评判器在偏好、事实性与答案裁定任务上对比，并配合盲法人工裁定，发现它在普通偏好与有证据支撑的事实性判断上距最强对比模型 GPT-6 不到三个百分点而费用约为其 0.36%，差距主要集中在低置信度决策上，因此一个“置信即接受、不确定即升级”的冻结级联可在更低成本下保留约 99% 的对比模型准确率。

该研究把只输出判决与标签概率的决策式评判器 JEV 与十六个生成式与奖励模型评判器在偏好、事实性与答案裁定任务上对比，并配合盲法人工裁定，发现它在普通偏好与有证据支撑的事实性判断上距最强对比模型 GPT-6 不到三个百分点而费用约为其 0.36%，差距主要集中在低置信度决策上，因此一个“置信即接受、不确定即升级”的冻结级联可在更低成本下保留约 99% 的对比模型准确率。