多智能体违规不再只删最强消息:集体依赖分析把受控违规从93%压到6%
语言模型智能体各自守规矩,合起来却可能靠一批单独无害的消息促成违规。集体依赖分析(CDA)用删除与保留消息来度量每条消息的必要性和充分性,在受控对话中把违规率从93%降到6%,在智能体自行生成的运维对话中从98%降到9%。它同时给出解释和最小干预集,但联合依赖组难以完整还原,删除也可能误伤正确决策。
语言模型智能体各自守规矩,合起来却可能靠一批单独无害的消息促成违规。集体依赖分析(CDA)用删除与保留消息来度量每条消息的必要性和充分性,在受控对话中把违规率从93%降到6%,在智能体自行生成的运维对话中从98%降到9%。它同时给出解释和最小干预集,但联合依赖组难以完整还原,删除也可能误伤正确决策。
已读完全部报道