不用逐条偏好标签也能对齐:三元可行性对齐在受控环境守住任务,却输给风险敏感控制与多步规划
一种名为三元可行性对齐(TVA)的决策方法在受控多智能体环境 Triadic Commons Environment 中不使用任何实例级规范性标签,任务成功率相对偏好监督基线只低 3.06 个百分点,仍在预设的 10 个百分点非劣界内,联合可行性提高 83.68 个百分点。它把行动主体、受影响他者与共享条件三类角色和不可补偿的硬底线放在效用比较之前,先剔除会突破底线的动作。但风险敏感控制与多步模型预测控制在该环境中的联合可行性分别高出 10.42 和 8.68 个百分点,结构化数据选择也未减少所需数据。