跳到主要内容
检索

# Reflex-Guard

2 篇关联报道

订阅更新
  1. arXiv

    Reflex-Guard 用本地稠密语义嵌入把提示安全过滤压到 37.6 毫秒,并在 30,568 条样本上取得 95.9% 有害提示召回

    该工作提出 Reflex-Guard,一个本地运行的轻量级 LLM 提示安全护栏,结合越狱感知预处理、紧凑句向量嵌入与七个快速二分类器,在来自五个互补来源、共 30,568 条样本的平衡数据集上实现 95.9% 有害提示召回与 37.6 毫秒端到端延迟,快于 Llama Guard 2(255 毫秒)和 SafeDecoding(723 毫秒),默认阈值下可检出 100% 的 GCG 后缀攻击与 Base64 编码提示,而 DrAttack 结构化提示需将阈值降至 0.03 才能获得最佳检测效果。

  2. arXiv

    Reflex-Guard 以 37.6 毫秒本地护栏实现 95.9% 有害提示召回,快于 Llama Guard 2 与 SafeDecoding

    该工作提出 Reflex-Guard,一个本地运行的轻量级 LLM 提示安全护栏,结合越狱感知预处理、紧凑句向量嵌入与七个快速二分类器,在来自五个互补来源、共 30,568 条样本的平衡数据集上实现 95.9% 有害提示召回与 37.6 毫秒端到端延迟,快于 Llama Guard 2(255 毫秒)和 SafeDecoding(723 毫秒),默认阈值下可检出 100% 的 GCG 后缀攻击与 Base64 编码提示,而 DrAttack 结构化提示需将阈值降至 0.03 才能达到最佳检测。

已读完全部报道