同伴信息不再与观测并列拼接:PCOR改作条件调制,POO未见同伴成功率从30.2%升到51.1%
核心概要
多智能体强化学习中,对手建模通常把推断出的同伴表征与当前观测拼接后一起编码,两者如何相互作用只能留给策略学习去隐式发现。PCOR改为非对称结构:观测特征作为当前交互状态的基础表示,同伴表征只调制这些特征如何被解读。在两个部分可观测基准上,PCOR在未见同伴上的最终评估表现高于所报告的基线;在POO上,与使用相同编码器、仅融合方式不同的拼接变体相比,评估成功率从30.2%升到51.1%。
深度剖析
同伴信息进入策略的方式被单独拿出来设计:观测先编码成当前交互状态的基础特征,同伴表征不再作为并列输入,而是决定这些特征怎样被解读。 此前的对手建模方法主要研究应当学习什么样的同伴表征,随后把该表征与当前观测拼接或联合编码成策略输入,两种来源之间的关系留给策略学习隐式发现。 在部分可观测的Overcooked与Predator-Prey with Watchtowers两个基准上,PCOR在未见同伴上的最终评估表现高于所报告的基线;POO评估成功率为0.511±0.080,PPW评估回报为−3.72±0.07,均为五个随机种子的均值±标准差。
实现上,当前观测先经观测编码器得到特征,再由同伴表征生成逐特征的缩放系数,对该特征做门控缩放后送入策略网络。 这种条件化属于FiLM类条件变换的门控缩放形式,而非完整仿射变换;同伴表征由基于Transformer的交互历史编码器给出,并与同伴识别目标联合训练。 消融中,保留同一架构但把条件系数压到10⁻⁶的Weak-Z变体在POO上从51.1%降到12.0%;去掉同伴表征的Pure Obs与只保留同伴表征的Pure Z都明显更差,Pure Z在POO上成功率为0。
机制分析显示,随着交互历史累积,PCOR构造的策略表示对同伴越来越可区分,同一同伴下观测到表示的映射也更一致。 在POO上,PACE在适应早期具有更高的同伴表征线性探测准确度与轮廓系数,PCOR在后段追平或略高;两种方法都保持较高的同同伴相似度与较低的跨同伴相似度。 在未见同伴上,PCOR在第4、5局的成功率为45.7%和47.6%,PACE为38.0%和35.7%;早期第1、2局则是PACE更高,构成早段与后段的取舍。
启示与展望
结论建立在两个部分可观测基准上,同伴来自预定义的规则型策略池,主协议中每个同伴的适应窗口为五局;评估同时报告已见同伴、未见同伴及其并集。机制分析只在POO上进行,PCOR与PACE使用同一组未见同伴、初始配置和适应会话。
作者指出,优势是否在更大行为多样性、更长交互窗口、会学习或非平稳的同伴以及其他多智能体环境中保持尚不清楚;仅有一两局交互时,早期同伴识别更强的方法如PACE仍可能更好,Eval20平均值会掩盖这一取舍。训练中使用离散同伴身份的识别损失,执行时不需要标签,但这种监督未必适用于无标签或开放式同伴群体。机制分析只揭示相关性,未建立因果关系,也未验证PPW上是否出现相同的表示层模式。
