Vercel News来源发表:
决策模型搬进AI网关:不用Azure账号,一次请求可问多道选择题
导语
微软Decision-1上线AI Gateway,用带概率的选择、评分和是非题回答文本问题,只需一个网关密钥即可调用。
正文
Decision-1现在可以通过AI Gateway调用,它把对文本的判断变成带概率的选项、分数或是否答案。 此前接入这类决策能力需要单独的Azure账号和部署,现在只要一个AI Gateway API密钥。 调用方式是在请求里把模型名写成microsoft/microsoft-decision-1,示例中用它判断一张失败发票该交给账单还是技术团队。
模型支持三种问法:是非题、在命名类别中选择、以及按有序标准给输入打分。 一次请求可以让多个问题共用同一段输入,而不是每个问题单独发一次。 选择与评分答案会给出每个选项的概率,应用据此决定直接执行还是把不确定结果转人工复核。
接入路径有三条:AI SDK的decision API、兼容OpenAI的Decisions API,以及兼容TypeSafe的API。 决策调用会和其他模型请求一样出现在日志里并计入预算。 AI Gateway统一管理模型访问与用量、成本追踪,因此决策调用与普通模型调用共用同一套账目。
接下来
这则报道面向需要把文本判断接入应用的工程师,覆盖的是Decision-1在AI Gateway上的可用性、三类问题形式与三条调用路径。材料说明用microsoft/microsoft-decision-1作为模型名即可发起请求,并给出一个工单分流的调用示例。若要看下一步,材料指向decision文档以及选择决策模型的指南。
材料没有给出Decision-1在具体任务上的准确率或与其他模型的对比,概率数值如何用于阈值判断也留给应用自行决定。可用性描述限于AI Gateway这一入口,未说明其他部署方式。
