跳到主要内容
检索

# 后控制风险指标

1 篇关联报道

订阅更新
  1. 监控能力排名可能被任务混合带偏:配对比较与部署后风险各补一个盲区

    OpenAI 对齐研究团队在 g-mean² 之外补充了两个监控能力指标:一个只在两个模型都产生目标行为的同一批任务实例上比较,减少因各自实例分布不同造成的排名偏差;另一个模拟监控器作为拒绝闸门、允许重试时的部署风险,同时给出坏输出概率、部署概率与已部署输出中的坏输出比例。合成实验中,已知监控能力排序在能力差异拉大时仍能被配对比较恢复。

已读完全部报道