同一批注意力头，换个任务就换角色：改一处内部激活，模型读的事实和影响下游的方式都变了

同一批注意力头在不同任务下承担的角色不同，这种差别体现在它们对后续计算的影响方式上，而不只是它们是否被复用。 此前的工作能找出跨任务复用的注意力头，但识别出共享的头并不能说明它们在每个任务里各自做什么。 在Falcon-H1-1.5B中，图事实保持不变、只把指令从Compose path换成Read direct edge，H1对H2的平均影响就从−0.0145变为0.00101，对H3的影响从0.0107升到0.0238，对更晚残差位置的影响则从0.0446降到0.0346。

任务上下文会改变同一批头对哪些图事实作出反应，以及它们的输出如何影响后续组件。 在书面指令仍为Read fact 1时，H2和H3原本最响应Fact 1，早期激活编辑之后它们转而最响应Fact 2。 在Gemma-2-9B中，Fact 2的响应份额在H2上升78.9个百分点、在H3上升97.1个百分点；Qwen3-14B的对应上升为68.7和91.8个百分点，四个经校正的区间都不含零。

按当前内部状态选出的线性响应图，比把编辑前后两张图平均起来，更能预测一次独立事实干预对下游头的影响。 此前的做法是把编辑前后两张响应图平均，用同一个平均图去预测下游响应。 在Gemma-2-9B中，任务特定图把均方预测误差相对平均图降低53.6%，Qwen3-14B降低5.0%，两个经校正的差值区间都不含零。

这组结果覆盖五个开放权重模型，跨四个家族、1.5–14B参数；影响与重要性的比较在Gemma、Qwen、Llama和Falcon-H1-7B上完成，事实干预、内部任务编辑与响应预测使用无需额外训练的Gemma和Qwen，条件响应分析使用在图任务上微调过的Gemma和Qwen。每个影响值描述的是经由中间网络传递的响应，包含所选站点之外的组件，其解释与所选激活方向和扰动幅度绑定。预测分析使用实测的源位移和针对同一提示估计的响应图，因此改进体现的是在该设定内匹配内部任务状态的好处。作者提出的下一步，是检验影响测量能否预测估计提示之外的新图与新指令上的响应，以及更细的组件描述能否解释哪些交互可以迁移。

影响值描述的是有限扰动范围内的响应，而不是无穷小导数或孤立的直接连接。响应图的改进是在同一提示内、用实测源位移和为该提示估计的图得到的。条件响应结果适用于在图任务上微调并在AND指令下评估的Gemma和Qwen。在只保留三个头的探索性比较中，影响角在Gemma和Falcon-H1-7B小于重要性角，在Qwen和Llama则更大，这些只是描述性点估计，四个角度差的区间都包含零。作者也指出，影响测量能否预测估计提示之外的响应仍是待答问题。