跳到主要内容
检索

Mi Zhang

1 篇关联报道

订阅更新
  1. arXiv

    会写代码的智能体接上机械臂:ArmedAgent 测出最高94.29%的任务落到不安全状态

    前沿模型的空间理解能力让编程智能体无需任务示范或再训练,就能端到端零样本控制真实机械臂,风险也随之从数字世界跨到物理世界。ArmedAgent 把这类风险按来源分为良性指令致险、恶意使用和间接提示注入三类,覆盖5个场景36项任务,在仿真中评测并在真实机械臂上验证。在 Codex 框架下测试 GPT-6-Astra、GPT-6-Sol 和 GPT-6.1-Terra,总体攻击成功率为72.22%至94.29%,所有模型在所有类别上的拒绝率均为0%。

已读完全部报道