KV选择不再等目标层查询：EarlySelectKV用代理查询提前算索引，长输出吞吐最高提升12.4%
查询条件稀疏KV选择每次解码都要先拿到目标层查询，才能给候选打分并生成索引，这段路由因此卡在注意力之前。EarlySelectKV把路由查询换成由更早隐藏状态构造的代理查询，提前算好下一层要访问的KV索引，最终注意力仍用真实查询。在RocketKV上，LongBench相差+0.018分、RULER约−0.01分、代表性NIAH/Passkey设置+0.25个百分点；TensorRT-LLM部署中路由卸载到CPU后，端到端输出吞吐最高提升12.4%，GPU常驻内存减少KV与K-summary池的11.1%。