# 跨请求KV缓存泄露

SGLang在分离式预填充/解码服务中修复了一类跨请求KV缓存泄漏：请求在传输中途被中止后，已发出的RDMA写仍会落地，可能覆盖另一个请求的缓存。修复让解码端在收到各预填充rank的排空确认或超时前不释放槽位，并在v0.5.21起对Mooncake与NIXL默认开启；2×H100上吞吐差异在±2%以内。

SGLang在分离式预填充/解码服务中修复了一类跨请求KV缓存泄漏：请求在传输中途被中止后，已发出的RDMA写仍会落地，可能覆盖另一个请求的缓存。修复让解码端在收到各预填充rank的排空确认或超时前不释放槽位，并在v0.5.21起对Mooncake与NIXL默认开启；2×H100上吞吐差异在±2%以内。