Baseten

Baseten推出环境网络，把为后训练构建强化学习环境的工作交给一批经过审核的合作伙伴公司。此前这类环境由Baseten自己的应用研究团队在Harvey、Lovable、Gamma等后训练项目中手工搭建，费时且依赖研究者的判断。合作方直接接触客户、用客户的真实数据构建环境，Baseten负责训练与推理部署；Baseten还计划开源一批前沿质量的环境及审核与训练方法。

Baseten推出环境网络，把为后训练构建强化学习环境的工作交给一批经过审核的合作伙伴公司。此前这类环境由Baseten自己的应用研究团队在Harvey、Lovable、Gamma等后训练项目中手工搭建，费时且依赖研究者的判断。合作方直接接触客户、用客户的真实数据构建环境，Baseten负责训练与推理部署；Baseten还计划开源一批前沿质量的环境及审核与训练方法。

Baseten与Postman宣布合作，把企业级AI智能体的构建与运行拆成两层：Postman的Agent Stack负责准备API、控制智能体可访问的系统并治理其动作，Baseten负责高性能推理、跨云GPU容量与后训练。Baseten称其模型API在2026年发布的七个模型上进入Artificial Analysis吞吐与延迟的前两名，并以Harvey后训练27B开源模型匹配闭源前沿的案例说明专用化路线。

Baseten与Postman宣布合作，把企业级AI智能体的构建与运行拆成两层：Postman的Agent Stack负责准备API、控制智能体可访问的系统并治理其动作，Baseten负责高性能推理、跨云GPU容量与后训练。Baseten称其模型API在2026年发布的七个模型上进入Artificial Analysis吞吐与延迟的前两名，并以Harvey后训练27B开源模型匹配闭源前沿的案例说明专用化路线。

Baseten 把增量权重同步的父本从主机内存搬回 GPU，使约 770 GB 的 GLM-5.3 检查点同步从 36 秒、6 秒请求暂停降到 15 秒、0.8 秒暂停，吞吐最高提升 3.2 倍。此前每个副本要在主机内存保留完整父本，8×B300 节点上它与 1.1 TB 主机 KV 缓存无法共存，缓存只能缩到 275 GB。新路径只读取发生变化的 GPU 位置，并用增量校验和验证后再写入。

Baseten 把增量权重同步的父本从主机内存搬回 GPU，使约 770 GB 的 GLM-5.3 检查点同步从 36 秒、6 秒请求暂停降到 15 秒、0.8 秒暂停，吞吐最高提升 3.2 倍。此前每个副本要在主机内存保留完整父本，8×B300 节点上它与 1.1 TB 主机 KV 缓存无法共存，缓存只能缩到 275 GB。新路径只读取发生变化的 GPU 位置，并用增量校验和验证后再写入。

Base Labs 发布 2B 参数的决策模型 joey-1，把分类、审批这类只需一个标签的调用从生成文本改为一次前向直接返回单个 token 和校准概率。此前这类请求要靠 LLM 生成文本，每次调用都叠加成本与延迟。在生产规模下，joey-1 处理平均 2000 token 请求的 P50 端到端延迟为 20 ms，约为 elephant-1（49 ms）的 2.5 倍快，每百万 token 价格 0.01 美元，为 mammoth-1 的十分之一。

Base Labs 发布 2B 参数的决策模型 joey-1，把分类、审批这类只需一个标签的调用从生成文本改为一次前向直接返回单个 token 和校准概率。此前这类请求要靠 LLM 生成文本，每次调用都叠加成本与延迟。在生产规模下，joey-1 处理平均 2000 token 请求的 P50 端到端延迟为 20 ms，约为 elephant-1（49 ms）的 2.5 倍快，每百万 token 价格 0.01 美元，为 mammoth-1 的十分之一。

Baseten 的研究实验室发布两个开源决策模型 mammoth-1（27B）与 elephant-1（9B），它们不生成文本，而是对每个问题返回所有可能答案上的概率分布。mammoth-1 在 Jev Decision Index 0.4 上位列 208 个决策模型第一，elephant-1 在该指数上与第 8 名并列、是领先的 9B 决策模型，并在 Artificial Analysis Decision Index 上与 d1-ultra 并列第一。两者由 Qwen3.5-9B 与 Qwen3.5-27B 在 621 万条决策样本上后训练得到，可在 Baseten Model APIs 免费试用一周，并已在 Hugging Face 开源。

Baseten 的研究实验室发布两个开源决策模型 mammoth-1（27B）与 elephant-1（9B），它们不生成文本，而是对每个问题返回所有可能答案上的概率分布。mammoth-1 在 Jev Decision Index 0.4 上位列 208 个决策模型第一，elephant-1 在该指数上与第 8 名并列、是领先的 9B 决策模型，并在 Artificial Analysis Decision Index 上与 d1-ultra 并列第一。两者由 Qwen3.5-9B 与 Qwen3.5-27B 在 621 万条决策样本上后训练得到，可在 Baseten Model APIs 免费试用一周，并已在 Hugging Face 开源。

Baseten 把模型权重这类只读数据做成交付网络上的密封卷：发布一次即封成不可变版本，用内容摘要指认，部署按摘要挂载同一份字节。此前同一份检查点会被下载、转存到多处，预发、生产、测试各写一份配置指向副本，有人换了版本往往要等输出不一致才被发现。密封卷把文件切成按内容哈希去重的块，只上传变更部分，并在容器启动时直接挂载，使拉取阶段不再计入启动时间；该能力随 Baseten CLI 1.1.0 及以上版本提供。

Baseten 把模型权重这类只读数据做成交付网络上的密封卷：发布一次即封成不可变版本，用内容摘要指认，部署按摘要挂载同一份字节。此前同一份检查点会被下载、转存到多处，预发、生产、测试各写一份配置指向副本，有人换了版本往往要等输出不一致才被发现。密封卷把文件切成按内容哈希去重的块，只上传变更部分，并在容器启动时直接挂载，使拉取阶段不再计入启动时间；该能力随 Baseten CLI 1.1.0 及以上版本提供。

英伟达发布开源多模态模型 Nemotron 3.5 Super VL，并在 Baseten 上线推理与训练支持，让智能体能直接读文档、看应用界面和分析视频。它沿用 Nemotron 3 Super 的架构，是总参数 120B、每个 token 激活 12B 的混合专家模型，新增视觉编码器以接收图像输入。英伟达报告的评测中，它在 GDPval 上的 Elo 评分为 1190，高于 Nemotron 3 Super 的 493，并在 SciCode 与 GPQA-diamond 上同样更高。

英伟达发布开源多模态模型 Nemotron 3.5 Super VL，并在 Baseten 上线推理与训练支持，让智能体能直接读文档、看应用界面和分析视频。它沿用 Nemotron 3 Super 的架构，是总参数 120B、每个 token 激活 12B 的混合专家模型，新增视觉编码器以接收图像输入。英伟达报告的评测中，它在 GDPval 上的 Elo 评分为 1190，高于 Nemotron 3 Super 的 493，并在 SciCode 与 GPQA-diamond 上同样更高。

Runway与Baseten合作，把Gen-4.5和Aleph 2.0两款视频模型放到企业的单租户环境中部署。此前企业只能通过Runway Creative平台或Runway Dev接口调用这些模型，无法把权重放进自己的隔离算力里。企业可从Runway直接授权权重，在Baseten Dedicated Inference上运行，并用自有数据微调；Baseten称此类专用部署附带99.99%可用性承诺。

Runway与Baseten合作，把Gen-4.5和Aleph 2.0两款视频模型放到企业的单租户环境中部署。此前企业只能通过Runway Creative平台或Runway Dev接口调用这些模型，无法把权重放进自己的隔离算力里。企业可从Runway直接授权权重，在Baseten Dedicated Inference上运行，并用自有数据微调；Baseten称此类专用部署附带99.99%可用性承诺。

Gradium TTS 把文本转语音的首段音频延迟压到比人类说话反应更快，在 Coval 基准（截至 2026 年 9 月）上中位 TTFA 为 214 毫秒，四分位距足够窄，开发者可以据此为流水线其余部分设定可靠的延迟预算。它采用 Kyutai 的延迟流建模，把文本和音频当作共享时钟上的两条并行流，音频流落后文本若干解码步，因此在上游大模型还没写完整句时就能开口。在 Baseten 上以专用部署提供，权重经 Baseten 交付网络预镜像与三级缓存，冷启动快 2–3 倍。

Gradium TTS 把文本转语音的首段音频延迟压到比人类说话反应更快，在 Coval 基准（截至 2026 年 9 月）上中位 TTFA 为 214 毫秒，四分位距足够窄，开发者可以据此为流水线其余部分设定可靠的延迟预算。它采用 Kyutai 的延迟流建模，把文本和音频当作共享时钟上的两条并行流，音频流落后文本若干解码步，因此在上游大模型还没写完整句时就能开口。在 Baseten 上以专用部署提供，权重经 Baseten 交付网络预镜像与三级缓存，冷启动快 2–3 倍。