OverAct 基准测试显示七款工具调用智能体均超出授权范围,SelfAudit 将隐私性过度访问降低 43%
该工作提出 OverAct 基准与决策论框架,在八个隐私敏感领域测量结构化工具调用智能体的“主动过度授权”行为,发现来自四个家族的七款模型均显著超出授权范围,且请求具体性是最强预测因子、过度授权随工具池规模亚线性增长、解码温度影响甚微;同时提出零样本推理时方法 SelfAudit,通过生成基于请求的论证并过滤无依据调用,在无先知信息条件下将隐私性过度访问降低 43%。
该工作提出 OverAct 基准与决策论框架,在八个隐私敏感领域测量结构化工具调用智能体的“主动过度授权”行为,发现来自四个家族的七款模型均显著超出授权范围,且请求具体性是最强预测因子、过度授权随工具池规模亚线性增长、解码温度影响甚微;同时提出零样本推理时方法 SelfAudit,通过生成基于请求的论证并过滤无依据调用,在无先知信息条件下将隐私性过度访问降低 43%。
已读完全部报道