TypeSafe AI 的 Jev 上线 AI Gateway：决策不再逐字生成，按厂商评测最高快 193.6 倍
核心概要
TypeSafe AI 的概率决策模型 Jev 现已接入 Vercel AI Gateway，应用可把状态直接交给它，取回带类型的 Choice、Score 和 Boolean 答案及概率。常规语言模型逐词生成文本，再由应用解析校验；Jev 并行评估所有已声明问题，直接返回结构化答案。TypeSafe 报告，在其工作流评测中 Jev 比 LLM 最高快 193.6 倍、便宜 444.6 倍，可用于智能体循环中的工具选择、继续或停止判断、风险打分与输出校验。
深度剖析
应用现在可以通过 AI Gateway 调用 TypeSafe AI 的 Jev，把“下一步该做什么”变成一次结构化查询，而不是让语言模型先写一段文字再解析。 常规语言模型逐词生成文本，应用随后还要解析并校验这些输出；Jev 则并行评估所有已声明的问题，直接返回带类型的答案和概率。 TypeSafe 报告，在其工作流评测中 Jev 比 LLM 最高快 193.6 倍、便宜 444.6 倍。
调用方只需给出共享状态和一组命名问题，就能一次拿到多项决策结果。 AI SDK 7 通过实验性的 evaluate API 暴露 Jev，调用时指定模型、状态和问题映射，模型标识为 typesafe-ai/jev。 示例把一条客服记录转成队列、优先级和退款复核三项决策，并把不确定的路由交给人工复核。
启示与展望
已展示的用法是通过 AI Gateway 以 typesafe-ai/jev 调用 Jev，在 AI SDK 7.0.105 及以上的实验性 evaluate API 中提交状态与命名问题，并取回答案；示例场景是一条客服记录的路由、优先级和退款复核决策。
速度与成本倍数来自 TypeSafe 自报的工作流评测，材料未说明评测集与任务细节；材料还建议用工作流中的标注样例校准概率与置信度，说明返回的概率需要按具体场景校准后再使用。