记忆检索不再只看整句向量:复用冻结编码器的词元状态,Qwen3-4B 平均 Recall@10 从 62.5 升到 75.7
记忆检索不再只比整句向量:复用冻结编码器已算出的词元状态做稀疏匹配,再与整句相似度融合,Qwen3-Embedding-4B 上平均 Recall@10 从 62.5 升到 75.7,且无需额外训练。
记忆检索不再只比整句向量:复用冻结编码器已算出的词元状态做稀疏匹配,再与整句相似度融合,Qwen3-Embedding-4B 上平均 Recall@10 从 62.5 升到 75.7,且无需额外训练。
该工作形式化多租户 AI 智能体记忆中的跨用户可采性失败,在稀疏 TF-IDF 与生产级 MiniLM 检索下开展六项实验及后续消融,发现池化同团队检索下非对抗性附带泄漏达 70–100%、对抗性构造记忆取得 90–100% 的 top-k 命中,端到端响应污染最高 5.00/5 且常被评得与干净回答同样或更有帮助,而三种缓解中只有检索后硬性归属门控在两个生成模型上稳定恢复到 1.00/5 干净基线,代价约为每查询 1.4 ms 延迟。
该工作提出 TellTail,一种仅通过查询来识别黑盒检索系统背后嵌入模型的指纹攻击:当系统暴露完整排序结果时可完美识别,暴露无序 top-3 结果时成功率为 94.3%,仅暴露语言模型生成答案时成功率为 92.5%,并在 OpenWebUI 端到端部署中仍能识别 53 个检索器中的 44 个。
研究者构建了ScholarCatalyst基准:让184位作者为207篇近期计算机科学论文标注894个早期研究问题及其“催化论文”(曾启发或可能启发该项目的先前工作),在仅含项目开始前文献的191K篇语料上评测检索系统,结果最强系统Recall@20仅0.48,智能体搜索(0.42)不优于嵌入检索,即使训练数据可能已见过这些论文的Claude Fable 5.1也只达到0.51。
该工作为稠密检索中共享投影与双投影的选择建立了低秩双线性打分的偏差—方差理论,证明双投影在方向信号平方超过其额外自由度估计代价时风险更低,并据此提出交叉拟合的CARS选择器,在多个数据集与嵌入模型上使平均几何选择准确率达到90.1%、相对更优固定几何把留出遗憾降低49–96%。
已读完全部报道