跳到主要内容
检索

# AI安全认证

1 篇关联报道

订阅更新
  1. arXiv

    清一色零记录能证明什么:失败抹掉多少进度,决定智能体风险证书要采多少样本

    危险能力评估常用“里程碑法”:把多步任务切成有序里程碑,从准备好的状态各跑几次,全失败就得到一张零记录。新的分析把任务按检查点分段,用失败后回退到段首的规则刻画“一次失败抹掉多少进度”,并证明只要统计可能的完成窗口,就能对任意给定尝试预算给出完成概率上界。在稀有风险区间内,所需零响应数的最小期望由活跃段的平均长度决定,且渐近最优的审计必须把响应均分到活跃里程碑上。

已读完全部报道