LangSmith BYOC 登陆三大云:数据留在自家账户,平台更新交给 LangChain
核心概要
LangChain 把 LangSmith 的 BYOC 部署从 AWS 扩展到 Azure 和 Google Cloud,其中 AWS 已正式可用,Azure 与 Google Cloud 处于 Beta。此前有严格合规边界的团队只能自托管 LangSmith,需要专职平台工程师修补有状态服务、配置数据库并执行模式迁移;BYOC 把控制面留在 LangChain、把承载轨迹、提示词、数据集和智能体部署的数据面放进客户自己的云账户与虚拟网络,由 LangChain 负责扩缩容、模式更新和运行时依赖。
深度剖析
LangSmith 的 BYOC 部署现在覆盖 AWS、Azure 和 Google Cloud 三家云,客户可以把轨迹、评测、数据集、提示词和智能体部署留在自己选定的云账户里,同时由 LangChain 运营数据面。 在此之前,受严格合规边界约束的团队采用自托管 LangSmith,数据虽然留在自己的边界内,但需要专职平台工程师修补有状态服务、配置数据库并运行模式迁移。 AWS 上的 BYOC 自八月上线以来已有许多团队选择在自己的云中运行 LangSmith,他们给出的三项收益是持续升级、更快获得 LangSmith 新功能以及随负载自动扩缩容。
拆分方式是控制面与数据面分离:LangChain 运行的控制面保存认证、组织与工作区配置、计费元数据、哈希后的 API 密钥和静态界面资源,客户拥有的数据面保存轨迹、提示词、数据集、实验、智能体部署和工作区密钥等敏感内容。 一个组织可以持有多个数据面,每个数据面位于特定账户和区域并承载各自的工作区,从而按区域、环境或业务单元拆分。 举例来说,平台团队可以把生产和预发布数据面放在两个独立的 AWS 账户,而统一采用 Azure 的业务单元则在 Azure 上运行自己独立的 BYOC 部署,各团队的轨迹落在各自拥有的账户中。
启示与展望
已演示的范围是 LangSmith BYOC 在 AWS 上正式可用、在 Azure 和 Google Cloud 上处于 Beta,数据面运行在客户自己的虚拟网络与账户内,由 LangChain 负责扩缩容、模式更新和运行时依赖。
Azure 与 Google Cloud 的 BYOC 目前为 Beta;Google Cloud 数据面在发布时可运行于任意区域,但由 LangSmith 位于美国的控制面管理;Azure 上的 LangSmith Sandboxes 支持尚未推出;轨迹迁移目前仅在 AWS 上可用。
