Sheridan Feucht

该研究在四个视觉语言模型（Qwen3-VL-2B、Qwen3-VL-8B、Molmo2-7B、Llava-Next-34B）中定位出对OCR因果必要的注意力头，发现它们其实是通用的“言语化头”，把这些头的输出-值（OV）矩阵求和构成一个“言语化透镜”后，可在任意层（包括第0层）把图像token的隐藏状态解码为可解释的语义词，并可用其伪逆构造概念向量来编辑图像表征（如把“拖拉机”替换为“左轮手枪”），从而为“图像表征在早期层就与语言空间对齐”提供了证据。

该研究在四个视觉语言模型（Qwen3-VL-2B、Qwen3-VL-8B、Molmo2-7B、Llava-Next-34B）中定位出对OCR因果必要的注意力头，发现它们其实是通用的“言语化头”，把这些头的输出-值（OV）矩阵求和构成一个“言语化透镜”后，可在任意层（包括第0层）把图像token的隐藏状态解码为可解释的语义词，并可用其伪逆构造概念向量来编辑图像表征（如把“拖拉机”替换为“左轮手枪”），从而为“图像表征在早期层就与语言空间对齐”提供了证据。