跳到主要内容
返回时间线
arXiv来源发表:

扩散语言模型智能体不再先解码再传话:一条隐藏消息在QASC上比四轮往返高7.0分

核心概要

扩散语言模型智能体之间可以不经文字、直接传递压缩后的去噪状态。发送方把隐藏状态压成四个带符号的稠密向量,接收方保留自己的上下文与轨迹继续去噪。在QASC上,配对消息把准确率从72.6%提到80.8%,换成别题的消息则降到46.8%;而一次临近决策的传递达到87.8%,比四轮往返高7.0分。

Source-provided article image: Hidden Messages Between Diffusion Language Model Agents: Causal Evidence for Latent Communication
Figure 1 · arxiv.org · 第 3 页

深度剖析

两个各自独立去噪的扩散语言模型智能体之间,可以靠一条压缩的连续消息传递对答案有用的信息,接收方不必先读到对方解码出的文字。 多智能体系统通常只在解码出文本之后才让智能体通信,去噪过程中那一串可反复修改的连续状态被丢弃。 在Tiny-A2D的HM-Synth上,配对消息把准确率从8.6%抬到72.9%,换成另一道题的消息后回落到9.3%,配对差值+63.6分;Dream-7B的依赖跨越任务上对应为9.8%、100.0%和0.0%。

接收方用的是消息里的具体内容,而不只是“收到了一条消息”这件事。 仅凭准确率上升无法区分内容作用与通用激活、额外算力或分布线索带来的增益。 在QASC上把消息换成另一道题产生的消息,准确率从80.8%降到46.8%,内容效应+34.0分;在受控任务里替换发送方事实后,接收方有89.4%的样本改变答案,72.9%选中被替换的目标。

消息何时送达会改变协作效果,轮数多不一定更好。 按“交互越多越好”的直觉,四轮往返应当优于一次传递。 Dream-7B依赖跨越任务需要先问后答,四轮往返达100.0%,仅一次晚传递只有10.8%;QASC上每个智能体可先独立读自己的证据,一次晚传递达87.8%,比四轮往返高7.0分。

启示与展望

受控证据覆盖Tiny-A2D与Dream-7B两个骨干,自然问答题证据来自Dream-7B上的QASC,评测用全部1,000条派生开发样本。通道是有监督、按任务训练的适配器,骨干与语言模型头保持冻结。作者提出的下一步是上下文被刻意切分的多智能体代码生成:不同智能体分别看到规格、源文件、测试或执行反馈,并用配对与错配干预检验代码改动是否因果依赖所传内容。

自然问答题证据目前只来自Dream-7B与QASC,更大的智能体团队、其他扩散骨干和长文本生成可能产生不同的通道几何。通道依赖有监督的任务特定适配器,因此结果支持的是学到的隐藏通信,而非涌现语言或任务无关协议;初始的跨异构任务零样本复用没有带来可检测收益。与文本通道的匹配比较和实际耗时比较仍属未来工作,且稠密状态即使不可读也可能编码敏感信息,不构成隐私机制。