SSM解码不再每步写状态：缓存近期输入，状态流量减半，投机解码吞吐追平vLLM
状态空间模型解码此前每步都要把整个循环状态读入再写回，状态读写成为显存带宽瓶颈，投机解码也缺少廉价回滚。ReplaySSM把状态改写成一份检查点加一段近期输入的缓冲区，只在缓冲区填满时写检查点，多数步骤只追加输入并直接算输出。在vLLM上对Mamba-2与Gated DeltaNet实现后，服务批大小256时标准解码相对调优基线加速，两个120B级模型上吞吐接近vLLM投机解码，分离精度还降低了输出KL散度与下游精度损失。