arXiv来源发表:
隐藏规则能学会,合作却守不住:八个大模型在千万种社会困境里反复试错
导语
OpenSocialJax把Clean Up与Commons Harvest扩展成千万种隐藏规则配置,八个大模型在五轮重复试玩中能学会不少规则,却仍让清理负担集中到少数智能体、让共享果园每局被吃空。
正文
社会困境基准不再只考固定规则下的互动,而是让智能体在反复交互中推断隐藏的环境规则,同时适应其他智能体的行为。 此前的Melting Pot与SocialJax提供多样的社会困境环境,但并非为改变困境背后的隐藏环境动态、或评估智能体如何发现并适应这些动态而设计。 每个回合从数千万种配置中采样一种,并在五次试玩中保持不变,地图布局与工具合成、收益、资源动态等隐藏规则都被系统性地改变。
智能体靠两类记忆跨试玩积累证据:运行框架保存它亲历的客观记录,智能体自己写自由形式的笔记。 它不靠不断增长的对话历史,也看不到隐藏规则、其他智能体的提示或分数,且无法与之通信。 每次试玩结束时模型把笔记改写成简短的教训清单,只有规则证据、试玩摘要和这份清单带入下一轮,环境在同一地图和规则上重置。
接下来
该基准面向序贯社会困境中的多智能体评测,覆盖OpenCleanup与OpenHarvest两个环境,每个环境用三个种子、每种子五轮、每轮至多400步,OpenHarvest在无苹果剩余时提前结束。它适合研究智能体如何在隐藏规则下探索、推断与适应,作者提出未来可把多轮协议扩展到显式通信与更精细的心智理论机制。
作者指出,训练能适应潜在配置的学习型智能体仍是开放挑战;规则发现并不必然带来有效利用,且没有任何模型完全化解任一困境,更强的模型只是推迟失败。
