跳到主要内容
检索

# 结构化输出

2 篇关联报道

订阅更新
  1. OpenRouter Blog

    OpenRouter 实测三种结构化输出路径：严格模式 216 次回复中 209 次合规，7 次失手全来自同一家不执行模式的供应商

    OpenRouter 用 24 条杂乱的客服消息在九个支持结构化输出的模型上比较了三种拿到可靠 JSON 的办法：发送严格 JSON Schema、强制一次工具调用、或改用只输出标签的决策模型。九个模型共 216 次回复中 209 次符合严格 schema，7 次失手全部来自一家忽略 schema 的供应商；只在提示词里要求 JSON 时则有 18 次因代码围栏失败。对只支持工具的 GLM 5.3 FlashX，强制工具调用得到 24 次中 22 次有效，而直接发 schema 是 0 次。

    OpenRouter
    结构化输出工具调用Jev决策模型
  2. arXiv

    关系约束也能当草稿：FactorSpec 让结构化输出每步多验 10.5 个 token，记录还全部合法

    结构化输出里，字段之间的关系本可决定大量 token，但服务引擎的草稿器只从提示或学习头猜，语法掩码又只管语法，模型因此常写出违反关系的记录。FactorSpec 把 JSON Schema 与关系编译成因子图，用精确可行性检查把被约束唯一确定的 token 当作必然草稿，并按每个请求单独选择验证宽度。在 SGLang 中，其草稿在行程规划上每步最多接受 10.5 个 token，是最快 n-gram 草稿形状的至多 1.9 倍，解码比按负载调优的投机器快至多 1.43 倍，代价约等于一个语法掩码。

    Jianchang Su（第一作者）
    FactorSpec 系统投机解码结构化输出

已读完全部报道