# GLM-5.3

Baseten 把增量权重同步的父本从主机内存搬回 GPU，使约 770 GB 的 GLM-5.3 检查点同步从 36 秒、6 秒请求暂停降到 15 秒、0.8 秒暂停，吞吐最高提升 3.2 倍。此前每个副本要在主机内存保留完整父本，8×B300 节点上它与 1.1 TB 主机 KV 缓存无法共存，缓存只能缩到 275 GB。新路径只读取发生变化的 GPU 位置，并用增量校验和验证后再写入。

Baseten 把增量权重同步的父本从主机内存搬回 GPU，使约 770 GB 的 GLM-5.3 检查点同步从 36 秒、6 秒请求暂停降到 15 秒、0.8 秒暂停，吞吐最高提升 3.2 倍。此前每个副本要在主机内存保留完整父本，8×B300 节点上它与 1.1 TB 主机 KV 缓存无法共存，缓存只能缩到 275 GB。新路径只读取发生变化的 GPU 位置，并用增量校验和验证后再写入。

GLM-5.3的长上下文服务在16块H200上受KV缓存显存与预填充速度双重限制。预填充端把每个提示按token切到8块GPU（PCP），再把KV缓存按token分片（DCP），使100万token请求每卡只需6.7 GiB；解码端用Hybrid HiSparse把KV放到主机内存。在AgentX基准上，PCP8×DCP8预填充配HiSparse解码在同等吞吐下给出DP8部署1.7–3.2倍的单用户速度，也是所测配置中唯一能服务100万token上下文的方案。

GLM-5.3的长上下文服务在16块H200上受KV缓存显存与预填充速度双重限制。预填充端把每个提示按token切到8块GPU（PCP），再把KV缓存按token分片（DCP），使100万token请求每卡只需6.7 GiB；解码端用Hybrid HiSparse把KV放到主机内存。在AgentX基准上，PCP8×DCP8预填充配HiSparse解码在同等吞吐下给出DP8部署1.7–3.2倍的单用户速度，也是所测配置中唯一能服务100万token上下文的方案。