arXiv 2026年10月5日该工作提出 SpAx，把激活稀疏中“是否读取某个权重”的二元选择改为三档处理——对激活最接近零的权重完全跳过、对较小幅值激活对应的权重读取压缩近似表示、对最大幅值激活对应的权重读取原始权重，从而在权重卸载到 CPU 内存或闪存时提升解码速度：卸载到 CPU 内存时 16 位权重平均加速 3.86 倍（最高 5.57 倍）、4 位权重平均 2.06 倍（最高 2.74 倍），卸载到闪存时分别为平均 3.31 倍（最高 4.81 倍）和平均 1.54 倍（最高 2.03 倍），WikiText-2 困惑度增幅最多 10%。该工作提出 SpAx，把激活稀疏中“是否读取某个权重”的二元选择改为三档处理——对激活最接近零的权重完全跳过、对较小幅值激活对应的权重读取压缩近似表示、对最大幅值激活对应的权重读取原始权重，从而在权重卸载到 CPU 内存或闪存时提升解码速度：卸载到 CPU 内存时 16 位权重平均加速 3.86 倍（最高 5.57 倍）、4 位权重平均 2.06 倍（最高 2.74 倍），卸载到闪存时分别为平均 3.31 倍（最高 4.81 倍）和平均 1.54 倍（最高 2.03 倍），WikiText-2 困惑度增幅最多 10%。SpAx 用三档权重读取策略在卸载权重场景下把 LLM 解码加速最高 5.57 倍，WikiText-2 困惑度增幅不超过 10%该工作提出 SpAx，把激活稀疏中“是否读取某个权重”的二元选择改为三档处理——对激活最接近零的权重完全跳过、对较小幅值激活对应的权重读取压缩近似表示、对最大幅值激活对应的权重读取原始权重，从而在权重卸载到 CPU 内存或闪存时提升解码速度：卸载到 CPU 内存时 16 位权重平均加速 3.86 倍（最高 5.57 倍）、4 位权重平均 2.06 倍（最高 2.74 倍），卸载到闪存时分别为平均 3.31 倍（最高 4.81 倍）和平均 1.54 倍（最高 2.03 倍），WikiText-2 困惑度增幅最多 10%。该工作提出 SpAx，把激活稀疏中“是否读取某个权重”的二元选择改为三档处理——对激活最接近零的权重完全跳过、对较小幅值激活对应的权重读取压缩近似表示、对最大幅值激活对应的权重读取原始权重，从而在权重卸载到 CPU 内存或闪存时提升解码速度：卸载到 CPU 内存时 16 位权重平均加速 3.86 倍（最高 5.57 倍）、4 位权重平均 2.06 倍（最高 2.74 倍），卸载到闪存时分别为平均 3.31 倍（最高 4.81 倍）和平均 1.54 倍（最高 2.03 倍），WikiText-2 困惑度增幅最多 10%。