文生图注意力不再只盯第一个词：扩散模型把注意力堆在模态边界和图像角落

文生图Transformer的注意力汇不是语言模型那种固定的首token模式，而是随生成范式与token排布改变。 此前注意力汇主要在大型语言模型中研究，那里因果掩码让序列开头的token成为持久的注意力锚点。 在FLUX.1、Z-Image和Infinity-2B上统计位置汇比率，Infinity-2B的序列位置0达到37.52%，而FLUX.1与Z-Image的序列位置0分别只有0.32%和0.47%。

汇位置在生成过程中逐步偏向图像一侧，相邻去噪步之间保持局部连续，但跨阶段会缓慢迁移。 此前对文生图模型汇位置是否随推理阶段移动没有统一比较。 图像指向比率在FLUX.1上从41.21%升到50.47%，Z-Image从7.46%升到12.73%，Infinity-2B从81.24%升到89.95%；相邻步top-1重叠在FLUX.1和Z-Image分别为79.12%和76.03%，跨完整阶段降到61.29%和54.11%。

汇相关头在生成中承担实际作用，而汇位置本身的影响因模型而异。 此前缺少对汇相关头与汇位置分别做干预的对照。 在Z-Image上按汇浓度排序剪掉50个头，平均指标下降2.36%，而随机50个头下降1.84%、最低浓度50个头下降1.60%；在Infinity-2B上移除位置0的token使GenEval从64.56降到11.37，而FLUX.1移除候选汇位置后GenEval仍保持在64.81到65.45之间。

插入一个可学习的寄存器token可以把部分汇注意力转移到非语义位置，同时不损害生成质量。 此前寄存器token主要用于视觉Transformer吸收多余注意力，尚未在文生图扩散模型上检验。 在FLUX.1的图像token序列中加入一个寄存器token后，GenEval从67.14升到68.85，DPG从83.67升到84.01，而两个原生汇位置的位置汇比率从12.95%降到12.44%、从3.04%降到2.72%。

研究覆盖FLUX.1、Z-Image和Infinity-2B三个文生图Transformer，在GenEval与DPG-Bench两个提示基准上评估，使用官方推理设置，全部实验在NVIDIA H100 GPU上完成。分析对象是推理阶段的注意力行为，作者把更广的架构、规模与训练配方留给后续验证，并把理解注意力汇在训练中如何出现列为下一步。

作者指出，若干频繁出现的汇位置同时对应模态边界、角落位置或全局尺度token，因此分数变化被解释为通路敏感性，而不是汇行为单独的因果效应。提示分布主要影响稳定汇头把注意力路由到哪里，而非哪些头成为汇主导；由于两个数据集在提示长度、语义与复杂度上都不同，作者没有把这一变化归因于单一提示因素。寄存器token带来的是汇主导地位的部分再分配，不是对原生汇的完全替代。