跳到主要内容

研究进展

相关研究与后续进展

同一研究事件下的公开文章与后续进展。

arXiv

TellTail 仅凭查询即可从黑盒检索系统中识别出 53 个嵌入模型中的部署模型

该工作提出 TellTail,一种仅通过查询来识别黑盒检索系统背后嵌入模型的指纹攻击:当系统暴露完整排序结果时可完美识别,暴露无序 top-3 结果时成功率为 94.3%,仅暴露语言模型生成答案时成功率为 92.5%,并在 OpenWebUI 端到端部署中仍能识别 53 个检索器中的 44 个。