决策模型不再输出自由文本:Jev 1.14 一次请求并行回答分类、打分与校验
核心概要
TypeSafe AI 的决策模型 Jev 1.14 已上线 AI Gateway。它接收状态和一组问题,返回带概率的类型化 Choice、Score 与 Boolean 答案,而不是自由文本,并在一次请求中并行回答所有问题,用于分类、路由、打分和自动校验。1.14 版把图像纳入状态输入,并提供实验性长上下文模式,处理标准请求放不下的文档、日志或对话历史。
深度剖析
软件决策任务现在可以要求模型返回带概率的类型化答案,而不是一段自由文本。 此前的用法是把状态交给模型后读回自然语言输出,再由外部代码解析成可用字段。 Jev 1.14 在 AI Gateway 上以 typesafe-ai/jev-1.14.0 的模型名提供,调用方传入状态与问题集合,取回 Choice、Score 和 Boolean 三类答案。
所有问题在同一次请求里并行作答,分类、路由、打分和自动校验可以共用一次调用。 决策模型这一接口形态由 AI Gateway 文档单独说明,与自由文本生成区分开。 调用示例把问题写成带类型和指令的条目,例如用 Boolean 问题判断图片是否以红色为主,结果从 answers 字段按问题名取回。
图像可以作为状态的一部分传入,长文档类输入则走实验性长上下文模式。 标准请求容纳不下的文档、日志或对话历史此前不在常规输入范围内。 图像以 file 类型与文本并列放入 state;长上下文通过 providerOptions.typesafe.longContext 开启,示例读取一份支持日志并判断其中是否提到到货损坏。
启示与展望
报道覆盖的是 Jev 1.14 在 AI Gateway 上的可用性、输入形式与返回类型,面向需要在软件流程中取得结构化判定结果的开发者。图像输入与长上下文模式分别以文件部件和 providerOptions.typesafe.longContext 开关使用,长上下文被明确标为实验性。来源未给出后续评测或迁移计划。
长上下文模式被标为实验性,来源未说明其适用范围边界。来源也未给出各任务上的准确率、延迟或与自由文本加解析方案的对比,因此类型化答案在实际系统中的可靠性尚待使用方自行验证。
