跳到主要内容
检索

Xiaobei Yan

1 篇关联报道

订阅更新
  1. arXiv

    Mirage 给 KV 缓存计时侧信道加闸:敏感前缀被探测时只延迟网关发流,GPU 照常复用

    共享前缀缓存让命中请求的首 token 时间明显短于未命中,攻击者据此反复试探即可逐字猜出他人提示词。Mirage 不再按内容隔离缓存,而是在网关侧统计同一敏感前缀下新出现的候选分支数量,超过预算后把整条输出流整体后移,使命中看起来像一次自然的缓存未命中。在 SGLang 上对 Qwen、Llama、DeepSeek 三个模型、三种计时攻击的测试中,攻击成功率降到接近随机猜测,公开前缀的中位首 token 延迟基本不变。

已读完全部报道