Jianchang Su

结构化输出里，字段之间的关系本可决定大量 token，但服务引擎的草稿器只从提示或学习头猜，语法掩码又只管语法，模型因此常写出违反关系的记录。FactorSpec 把 JSON Schema 与关系编译成因子图，用精确可行性检查把被约束唯一确定的 token 当作必然草稿，并按每个请求单独选择验证宽度。在 SGLang 中，其草稿在行程规划上每步最多接受 10.5 个 token，是最快 n-gram 草稿形状的至多 1.9 倍，解码比按负载调优的投机器快至多 1.43 倍，代价约等于一个语法掩码。

结构化输出里，字段之间的关系本可决定大量 token，但服务引擎的草稿器只从提示或学习头猜，语法掩码又只管语法，模型因此常写出违反关系的记录。FactorSpec 把 JSON Schema 与关系编译成因子图，用精确可行性检查把被约束唯一确定的 token 当作必然草稿，并按每个请求单独选择验证宽度。在 SGLang 中，其草稿在行程规划上每步最多接受 10.5 个 token，是最快 n-gram 草稿形状的至多 1.9 倍，解码比按负载调优的投机器快至多 1.43 倍，代价约等于一个语法掩码。