跳到主要内容
返回时间线
arXiv来源发表:

准确率不再是通行证:共享错误让三个观察者只值一个,认证要改看部署代价

核心概要

多智能体协作里,用推断准确率决定是否让协调者行动会两头出错:在Hanabi这类错误会叠加的任务上放行有害部署,在代价错误稀少的任务分配上否掉有益部署。

Source-provided article image: Smart Alone, Blind Together: Why Accuracy Fails to CertifyTheory of Mind in Multi-Agent Teams
Figure 1 · arXiv

深度剖析

判断一个心智推断模块该不该上线,看的应是这次部署里错误一起出现会造成什么,而不是模块推断得准不准。 此前的做法是给推断准确率设一个阈值,准确率过线就信任该模块。 在任务分配、Level-Based Foraging和Hanabi三个环境中,准确率在两个方向上都会判错:Hanabi里它批准了有害的语言模型部署,任务分配里它拒绝了有益的部署。

错误不是各自独立的,它们一起出现的倾向有方向:损害互相重叠时,错误正相关反而提高行动收益;损害叠加时,正相关降低收益。 准确率阈值默认各条推断的错误相互独立,因此它的失效方向可以事先预测。 在Hanabi中,把每个队友的信念在所有观察者之间共享,在两个或更多生命时损失了0.17到0.35的可达收益,16个格子全部如此,并把阈值抬高0.04到0.11。

准确率买到的冗余远少于独立假设的预期,因为准确模型剩下的错误大多是所有副本共有的盲点。 独立假设认为三个观察者同时看错一个队友的概率是单次错误率的三次方。 在有证据的队友上,单次错误从GPT-5.4-mini的32%降到Opus 5.5的11%,但三个观察者同时看错的概率只从16%降到9%,独立假设预测的是3.4%降到0.15%。

把错误代价、成对交互和实测的错误共现一起定价,可以在不部署模块的情况下给出认证。 准确率只看模块自身的推断正确率,不看这次部署里错误值多少钱。 在开发所用格子的留出数据上,该门控在20次划分中没有显著误批,而准确率平均每次划分有3.2次;在未参与开发的模块上,它对七个分类器把遗憾降到0.004,准确率是0.479。

启示与展望

这套结论建立在隐藏变量已知的受控基准上,正因为如此才能注入已知类型的错误;人类数据中隐藏状态无人定义,却显示出同样的拐点和同样的两个方向。门控是二阶认证,在三个及以上错误信念经常同时出错时不再精确,其自身统计量(平均错误负载超过约四个)会提示何时应改由直接测量接管。它需要能接受注入信念的模拟器,并假设模块的错误与决定其代价的回合状态无关。

语言模型测试只用一个提示族(重标一次),多数人类团队分析合并的是独立作出的判断,更丰富的提示和会商议的团队是自然的下一步。门控在开发所用格子上与带95%下界的A/B测试同样安全,但在未参与开发的贝叶斯模块上仍出现一次显著误批,落在准确率恰好处于阈值处的格子上。三阶修正的预注册预测未成立,在250局时测得的交互项小而噪声大,因此二阶门控保持不变。