跳到主要内容
检索

# AgentPolicyForge策略护栏框架

1 篇关联报道

订阅更新
  1. arXiv

    智能体策略不再只靠提示词:AgentPolicyForge 训练策略守卫,攻击成功率相对降 40–44%

    把工具、资源和执行条件写进任务智能体的提示词,并不能可靠阻止违规调用。AgentPolicyForge 用可执行环境构造策略基准并迭代训练策略守卫,据此建成覆盖十类策略、含 698 个训练场景与 254 个独立留出场景的 PolicyGym。在 PolicyGym 上,最终守卫配置相对仅用策略提示把攻击成功率相对降低 40–44%,同时良性拒绝更少。

已读完全部报道