大脑体素不再只配一个语义单元:SAIL把多层稀疏特征合到一起,冗余更低、语义对齐更高
核心概要
多模态大模型与人脑视觉表征的相似度此前只能说明两者“像”,说不清像在哪些语义上。SAIL把体素解释改写为体素与多个稀疏语义单元之间的对应问题:先在多模态大模型多层表征上联合训练跨层稀疏自编码器,再为每个体素匹配多个单元,并用最优传输比较双方最偏好图像集合的语义相似度。在自然场景数据集八名被试上,跨层联合训练相比逐层独立训练降低了单元响应冗余,并在全皮层与选择性感兴趣区都取得更高的语义相似度。
深度剖析
大脑体素与多模态大模型之间的对应关系现在可以落到具体的语义单元上,而不只是整体表征相似度。 此前的做法是逐层独立训练稀疏自编码器,再把每个体素配到单个最佳匹配单元,只能给出一个主导偏好。 在自然场景数据集八名被试上,跨层联合训练的SAIL在单元响应冗余和语义相似度两项上都优于逐层独立训练的SAEs-BrainMap,且这一比较覆盖全皮层与选择性感兴趣区两种评估范围。
做法是把模型多层表征拼进同一个稀疏字典,让不同层的单元在共享空间里竞争,而不是各层各自学一套。 具体手段是跨层稀疏自编码器:一种把高维激活压成少量非负稀疏系数的自编码器,系数即单元激活。 每层先做主成分分析并标准化,再按层序拼接训练;匹配时用余弦相似度取前K个单元,语义一致性用SEED图像相似度加离散最优传输在留出图像上计算。
匹配到的多个单元还能反过来预测独立功能定位实验里的类别响应。 预测时固定体素与单元的对应关系,用归一化匹配分数加权单元激活。 在八名被试、八个功能定位类别上,预测与实测响应的余弦相似度均值介于0.660与0.812之间,其中数字类别最低、儿童类别最高。
启示与展望
结论建立在自然场景数据集的静态图像与八名被试上,覆盖四个多模态大模型;语义标签与偏好图像描述的是该刺激集内的语义偏好,动作相关语义的皮层分布属于探索性定位,而非动作选择性的独立证明。
作者指出,偏好图像与标签只能刻画所评估刺激集内的语义偏好,无法完全把单个概念与同时出现的视觉内容区分开,需要受控刺激比较;分析也只覆盖静态图像,动态刺激下对应关系如何随时间演化尚未考察。
