跳到主要内容

研究进展

相关研究与后续进展

同一研究事件下的公开文章与后续进展。

arXiv

iS-KV用块增量SVD在线压缩KV缓存,在DeepSeek-R1-Distill-Llama-8B上以4.06倍压缩保留82.6%准确率

该工作提出iS-KV,一种面向长程推理的在线低秩KV缓存压缩方法:它保留最近窗口为精确表示,将较早状态增量折叠为有界秩表示,并在低秩基演化时同步历史坐标以维持表示一致性;在DeepSeek-R1-Distill-Llama-8B上以4.06倍持久KV压缩达到82.6%准确率(原模型83.6%),在Qwen3-8B上以5.64倍压缩达到89.2%准确率,并在匹配内存预算下持续优于token驱逐基线。