Jacy Reese Anthis

AI安全政策需要吸纳多元意见，但公众难以直接参与每一场讨论。研究构建“多元智能体”，让每个AI智能体先访谈所代表的人，再在多智能体讨论中为其发声，由政策撰写智能体逐轮起草并修订预算方案。预注册实验中746名参与者认为这一流程优于把意见交给单一推理模型，在满意度上补回单模型基线与亲身参与之间差距的68%，在程序公正上补回82%。

AI安全政策需要吸纳多元意见，但公众难以直接参与每一场讨论。研究构建“多元智能体”，让每个AI智能体先访谈所代表的人，再在多智能体讨论中为其发声，由政策撰写智能体逐轮起草并修订预算方案。预注册实验中746名参与者认为这一流程优于把意见交给单一推理模型，在满意度上补回单模型基线与亲身参与之间差距的68%，在程序公正上补回82%。