Postman把智能体工作流交给Baseten推理:企业部署多了一条分工路径
核心概要
Baseten与Postman宣布合作,把企业级AI智能体的构建与运行拆成两层:Postman的Agent Stack负责准备API、控制智能体可访问的系统并治理其动作,Baseten负责高性能推理、跨云GPU容量与后训练。Baseten称其模型API在2026年发布的七个模型上进入Artificial Analysis吞吐与延迟的前两名,并以Harvey后训练27B开源模型匹配闭源前沿的案例说明专用化路线。
深度剖析
企业部署AI智能体时,构建工作流和承载模型推理被明确分成两家供应商的职责,Postman负责前者,Baseten负责后者。 两家公司把各自能力作为互补部分对外提供:Postman提供构建和运营智能体工作流的工具,Baseten提供在生产中服务这些智能体的高性能推理与后训练能力。 Postman的Agent Stack包含Passport、Fabric、Astropods和Fern四个产品,分别处理API凭证引用、AI与MCP及API流量路由治理、运行时与可观测性及护栏、以及文档与SDK生成。
Baseten以跨云GPU池化和默认零数据保留来支撑企业推理负载的可靠性与合规配置。 多云计算管理(MCM)把跨云GPU容量汇成池,并内置对硬件故障的恢复能力;客户可限制或自定义所用的云、区域和集群,包括单租户与双活部署。 Baseten称其模型API提供高吞吐与低延迟,2026年发布的七个模型在Artificial Analysis的吞吐与延迟两项上均进入前两名供应商之列。
后训练被定位为缩小通用模型与专用模型差距的手段,并可用更小模型达到前沿质量。 通用模型靠提示词能完成的任务,与经过后训练的专用模型能完成的任务之间,Baseten称在经济上有价值的多数任务上差距很大。 Harvey对一个27B开源模型做后训练,在其法律智能体基准上匹配闭源前沿模型的性能,而后者每个任务成本约50美元;Baseten称后训练可匹配或超过大型前沿模型的质量而成本只是其一小部分。
启示与展望
报道范围限于Baseten与Postman公布的合作内容及其各自产品能力描述,面向评估企业智能体部署方案的研究人员与工程师;文中未给出该合作已上线的客户名单或部署规模。
吞吐与延迟排名、Harvey案例的成本与质量对比均由Baseten陈述,未附评测方法;后训练能匹配前沿模型质量的说法以“经济上有价值的多数任务”为限定,并非对所有任务成立。
