模型文件不再逐份拷贝:发布一次封成不可变版本,任何部署按摘要挂载,启动不再等整份下载
Baseten 把模型权重这类只读数据做成交付网络上的密封卷:发布一次即封成不可变版本,用内容摘要指认,部署按摘要挂载同一份字节。此前同一份检查点会被下载、转存到多处,预发、生产、测试各写一份配置指向副本,有人换了版本往往要等输出不一致才被发现。密封卷把文件切成按内容哈希去重的块,只上传变更部分,并在容器启动时直接挂载,使拉取阶段不再计入启动时间;该能力随 Baseten CLI 1.1.0 及以上版本提供。
Baseten 把模型权重这类只读数据做成交付网络上的密封卷:发布一次即封成不可变版本,用内容摘要指认,部署按摘要挂载同一份字节。此前同一份检查点会被下载、转存到多处,预发、生产、测试各写一份配置指向副本,有人换了版本往往要等输出不一致才被发现。密封卷把文件切成按内容哈希去重的块,只上传变更部分,并在容器启动时直接挂载,使拉取阶段不再计入启动时间;该能力随 Baseten CLI 1.1.0 及以上版本提供。
已读完全部报道