TypeSafe AI 的 Jev 上线 AI Gateway:决策不再逐字生成,按厂商评测最高快 193.6 倍
TypeSafe AI 的概率决策模型 Jev 现已接入 Vercel AI Gateway,应用可把状态直接交给它,取回带类型的 Choice、Score 和 Boolean 答案及概率。常规语言模型逐词生成文本,再由应用解析校验;Jev 并行评估所有已声明问题,直接返回结构化答案。TypeSafe 报告,在其工作流评测中 Jev 比 LLM 最高快 193.6 倍、便宜 444.6 倍,可用于智能体循环中的工具选择、继续或停止判断、风险打分与输出校验。