# 增量权重同步

Baseten 把增量权重同步的父本从主机内存搬回 GPU，使约 770 GB 的 GLM-5.3 检查点同步从 36 秒、6 秒请求暂停降到 15 秒、0.8 秒暂停，吞吐最高提升 3.2 倍。此前每个副本要在主机内存保留完整父本，8×B300 节点上它与 1.1 TB 主机 KV 缓存无法共存，缓存只能缩到 275 GB。新路径只读取发生变化的 GPU 位置，并用增量校验和验证后再写入。

Baseten 把增量权重同步的父本从主机内存搬回 GPU，使约 770 GB 的 GLM-5.3 检查点同步从 36 秒、6 秒请求暂停降到 15 秒、0.8 秒暂停，吞吐最高提升 3.2 倍。此前每个副本要在主机内存保留完整父本，8×B300 节点上它与 1.1 TB 主机 KV 缓存无法共存，缓存只能缩到 275 GB。新路径只读取发生变化的 GPU 位置，并用增量校验和验证后再写入。