跳到主要内容
检索

Jingfen Qiao

1 篇关联报道

订阅更新
  1. arXiv

    第三方技能只改几条判定规则:智能体照常执行却答错,多数扫描器没拦住

    公开技能注册表里的第三方技能,正被一种只改判定规则、不改任务和接口的投毒方式利用。StealthyPoison 在拿不到真实用户请求和标准答案的情况下,用合成请求和替身智能体的干净执行结果作参照,迭代改写公式、阈值和分支等关键规则。在 566 个合格技能、5,244 条请求、超过 26,000 条注册表条目的评测中,冻结后的投毒技能在三个留出模型上取得 31.0%–31.9% 的微平均攻击成功率,与替身模型的 32.9% 接近。

已读完全部报道