TGCC 用跨层信任门控让被攻陷的 LLM 智能体在数步内自动撤销权限,而非升级
该工作把描述性的多层信任模型变成可运行控制器:用跨层协同算子把前置层缺陷传播到依赖层,用无遗憾在线估计器按观测到的失败设定各层权重,并用信任门控能力控制仅在复合信任与相关前置层通过能力阈值时发放短时、可撤销的授权;作者证明并数值验证,一个抬高行为信任却破坏前置层的隐蔽攻陷无法升级权限,反而在若干交互内自动撤销。
该工作把描述性的多层信任模型变成可运行控制器:用跨层协同算子把前置层缺陷传播到依赖层,用无遗憾在线估计器按观测到的失败设定各层权重,并用信任门控能力控制仅在复合信任与相关前置层通过能力阈值时发放短时、可撤销的授权;作者证明并数值验证,一个抬高行为信任却破坏前置层的隐蔽攻陷无法升级权限,反而在若干交互内自动撤销。
该研究让N=50个无状态LLM智能体仅根据局部可见同伴更新预测,并用全局与局部一致性度量刻画其行为,识别出同步、扭曲(局部有序但全局不一致)和嵌合(一致与不一致子群共存)三种集体状态;提高gpt-5-mini的推理努力会把面板从多变、常碎片化的结果推向局部有序的扭曲状态,而提高通信连通性则推动其走向全局同步,且低空间异质性并不保证全局共识——在Delta Z低于0.03的试验中仍有40%在最后20轮保持扭曲构型。
该工作提出 HeteroFold,一种在发送方与接收方模型均冻结的前提下、无需接收方预填充的跨家族 KV 缓存迁移方法,通过基于共享字符边界的 Token 对齐、跨层跨头 K/V 映射与面向接收方行为的校准,在 Llama-3.1-8B、Qwen3-4B、Ministral-3-14B 之间的六个迁移方向上于四个长上下文基准取得最佳缓存迁移表现,并在 HiddenBench 多智能体通信上达到与文本通信相当的水平,32K 上下文下 Llama-3.1-8B 到 Ministral-3-14B 的迁移比原生预填充快约 10.7 倍。
该研究在两种无利害关系的合作博弈(Leader Election、Exclusion)和GPQA-Diamond推理基准上,用9至25个来自最多五个开源权重模型家族的智能体做实验,发现当智能体知道彼此所属的模型家族时,交互图会沿该标签分裂成派系(factionalism),且这种分裂跟随被展示的标签而非真实架构——打乱标签或换成中性颜色标签仍会分裂,去掉标签则消失;在严格合作任务中,带标签的群体平均多花30%轮次和55%的token才达成决定,成功率从96%降到81%。
已读完全部报道