# LLMLeak

本文提出 LLMLeak，一种新型攻击向量：本地运行但无法直接联网的恶意软件把秘密编码进 URL，并把它伪装成良性任务（如迁移软件库）所需的信息来源，诱导 LLM 通过其网页抓取工具访问该 URL，从而经攻击者控制的 DNS 或 Web 服务器把秘密外传；在十一个开放参数模型上的评测显示攻击成功率为 79.7%，并在真实聊天机器人上做了案例研究。

本文提出 LLMLeak，一种新型攻击向量：本地运行但无法直接联网的恶意软件把秘密编码进 URL，并把它伪装成良性任务（如迁移软件库）所需的信息来源，诱导 LLM 通过其网页抓取工具访问该 URL，从而经攻击者控制的 DNS 或 Web 服务器把秘密外传；在十一个开放参数模型上的评测显示攻击成功率为 79.7%，并在真实聊天机器人上做了案例研究。