跳到主要内容
检索

# 协同头信息漂移

1 篇关联报道

订阅更新
  1. arXiv

    多模态大模型的幻觉源自“协同头”内部信息分布漂移

    该工作提出 HEAL,通过对多头注意力输出施加因果噪声干预并用反事实双重差分把注意力头分为冗余、视觉、语言与协同四类,发现幻觉发生在协同头内部视觉—语言信息分布偏离健康均衡之时,而非与模态专属头的数量或强度强相关,并据此在推理时向协同头的 value 向量注入动态校准因子,在多个 MLLM 与多个基准上降低了幻觉。

已读完全部报道