跳到主要内容
检索

# 决策模型

15 篇关联报道

订阅更新
  1. OpenRouter Blog

    OpenRouter 实测三种结构化输出路径:严格模式 216 次回复中 209 次合规,7 次失手全来自同一家不执行模式的供应商

    OpenRouter 用 24 条杂乱的客服消息在九个支持结构化输出的模型上比较了三种拿到可靠 JSON 的办法:发送严格 JSON Schema、强制一次工具调用、或改用只输出标签的决策模型。九个模型共 216 次回复中 209 次符合严格 schema,7 次失手全部来自一家忽略 schema 的供应商;只在提示词里要求 JSON 时则有 18 次因代码围栏失败。对只支持工具的 GLM 5.3 FlashX,强制工具调用得到 24 次中 22 次有效,而直接发 schema 是 0 次。

  2. NaceAI

    决策不再靠大模型写答案:Drex Max 在公开决策套件拿 67.52,单次前向 183 毫秒

    Drex 把“做选择”从生成文本改成一次前向打分:给定上下文、问题和候选选项,模型直接为每个选项输出概率,不再解析大模型写出的答案。四个开源决策模型中最大的 Drex Max 在 Decision Index 0.4.1 公开套件上得 67.52,对比 Jev 1.14.0 的 60.70;加入私有测试后分数下降不到一分。它在 Decision Bench v4 的原始图像输入下与 d3-turbo、GPT-6 Sol 统计上持平,典型请求耗时 183 毫秒。

  3. Hugging Face - Blog

    Hugging Face把决策做成接口:模型不再逐字生成,直接给出选项概率

    Hugging Face 为“决策模型”定下统一接口:输入一段状态和若干带类型的问题,模型直接返回选项概率、有序评分或真/假概率,而不逐字生成文本。此前这类结构化判断要么靠大模型输出 JSON,要么靠固定标签分类器或零样本分类。Transformers 新增 DecisionPipeline 等类,llama.cpp 提供同一 /v1/systemone 端点,兼容的自回归模型也能在不生成文本的情况下按选项打分。

  4. Hugging Face - Blog

    Hugging Face把决策做成模型输出:不再逐字生成,直接给出选项概率

    Hugging Face为“决策模型”定下统一接口:输入状态与若干带类型的问题,模型直接返回选项概率、有序评分或二值概率,而不生成任何文本。此前这类结构化判断要么靠大模型输出JSON、再受约束解码兜底,要么用固定标签分类器或零样本分类。Transformers、llama.cpp与Hub标签已按同一契约接入,兼容的自回归语言模型也能在不重新训练的情况下走这套接口。

  5. NaceAI

    Drex Max 把视觉决策压到毫秒级:公开决策指数 67.6,单次决策 183 毫秒

    Nace 发布决策模型 Drex Max,它直接读取截图、录屏、扫描文档、图表或照片,对调用方给定的一组带类型问题,一次前向计算就为每个选项返回概率。计算机使用智能体一个任务往往要做三十次这类小决定,过去每次都要把截图发给大型前沿模型并等待数秒;Drex Max 在公开决策指数 0.4.0 上得 67.6,高于 Drex v2.0 的 61.3,中位 API 延迟 183 毫秒,每千次决策 0.06 美元。

  6. NaceAI

    Drex开源四个决策模型:一次前向传播为每个选项打分,典型请求183毫秒

    Drex把“做选择”从让大模型生成文本再解析答案,改成一次前向传播直接为给定选项打分。四个开源模型中最大的Drex Max在公开决策基准Decision Index 0.4.1上得67.52,对比Jev 1.14.0的60.70;加入私有测试后其分数下降不到1分。在Decision Bench v4上,Drex Max与d3-turbo、GPT-6 Sol统计上持平,比Claude Opus 5.5低1.6分,而典型请求耗时183毫秒。

  7. 华大智造(MGI)

    华大智造涌生智能发布Operon-S1:判断从执行中拆出,只换选项顺序时答案翻转率从约37%降到约6%

    华大智造旗下涌生智能发布Operon-S1,把生物医学AI智能体的关键判断从执行流程中拆出来,由轻量判断模型在13类决策点提醒与复核,执行仍交给ProtoPilot。在750道未参与该轮训练的选择题上,只改变选项顺序时答案随之改变的比例由约37%降至约6%;使用未经本研究训练的LAYA初始版本时,SeqQA成本降低5.8%,但另一组序列推理测试seqqa2得分下降约1.3个百分点。

  8. Baseten

    决策模型再添小尺寸:joey-1以20毫秒P50延迟返回单个token,成本为mammoth-1的十分之一

    Base Labs 发布 2B 参数的决策模型 joey-1,把分类、审批这类只需一个标签的调用从生成文本改为一次前向直接返回单个 token 和校准概率。此前这类请求要靠 LLM 生成文本,每次调用都叠加成本与延迟。在生产规模下,joey-1 处理平均 2000 token 请求的 P50 端到端延迟为 20 ms,约为 elephant-1(49 ms)的 2.5 倍快,每百万 token 价格 0.01 美元,为 mammoth-1 的十分之一。

  9. Baseten

    决策模型不再生成文本:mammoth-1登顶208个模型,elephant-1领跑9B档

    Baseten 的研究实验室发布两个开源决策模型 mammoth-1(27B)与 elephant-1(9B),它们不生成文本,而是对每个问题返回所有可能答案上的概率分布。mammoth-1 在 Jev Decision Index 0.4 上位列 208 个决策模型第一,elephant-1 在该指数上与第 8 名并列、是领先的 9B 决策模型,并在 Artificial Analysis Decision Index 上与 d1-ultra 并列第一。两者由 Qwen3.5-9B 与 Qwen3.5-27B 在 621 万条决策样本上后训练得到,可在 Baseten Model APIs 免费试用一周,并已在 Hugging Face 开源。

  10. NaceAI

    智能体找文件不再逐页翻:Drex for Search先定位置,529题上步数少62%、输入token少56%

    智能体在真实文件堆里找答案,往往要反复搜索、打开文件、翻页,二十到三十步才收敛。Drex for Search 把判断提前:在智能体读任何页面之前,先由决策模型 Drex 判定答案可能落在哪个文件夹、哪个文件、哪一页,以及电子表格里的哪张表和哪一列,智能体只读这几处并给出出处。在 6 个专业工作基准、529 道题上,接入该工具的编码智能体步数减少 62%、输入 token 减少 56%,正确率从 63.1% 升到 67.1%,每题中位耗时从 80.8 秒降到 35.5 秒。