# 多模态旋转位置编码

视觉语言模型常用的多模态旋转位置编码（MRoPE）给没有空间结构的文本也分配了高、宽坐标，使文本与图像块之间的注意力带上位置偏好。研究把图像内部的空间编码与跨模态空间效应分开控制，在官方预训练检查点上做免训练探测，并在2B、4B两个规模上从相同初始参数出发做控制训练。结果显示跨模态空间效应作为空间参照几乎没有额外收益，甚至可能损害性能，而图像内部的空间编码对细粒度定位仍然有用。

视觉语言模型常用的多模态旋转位置编码（MRoPE）给没有空间结构的文本也分配了高、宽坐标，使文本与图像块之间的注意力带上位置偏好。研究把图像内部的空间编码与跨模态空间效应分开控制，在官方预训练检查点上做免训练探测，并在2B、4B两个规模上从相同初始参数出发做控制训练。结果显示跨模态空间效应作为空间参照几乎没有额外收益，甚至可能损害性能，而图像内部的空间编码对细粒度定位仍然有用。