跳到主要内容
返回时间线
arXiv来源发表:

连接组约束的果蝇视觉模型被系统压力测试:机制结论随干预与训练解而变

核心概要

对果蝇视觉模型flyvis的50个训练解做系统压力测试后发现,连接组约束并不让机制结论唯一:反向phi错觉在任务匹配的因果CNN中同样出现,归因效应量只在与其干预语义匹配时才与穷举单连接真值一致,而满足T4/T5调谐判据的细胞类型解在50个模型中只有25个成立。这些结果把连接组约束的价值定位为让机制假设可直接干预检验,而不是给出唯一机制。

Source-provided article image: FlyHack: Stress-Testing Mechanistic Claims in a Connectome-Constrained Visual Model
Figure 4 · arXiv

深度剖析

连接组约束模型的机制结论会随对照模型、干预方式、回路表示和训练解而改变,因此这类模型给出的机制主张必须限定在具体的模型族、干预、表示和训练解之内。 此前连接组约束网络被用来生成关于回路功能与行为的预测,其生物学约束被视为机制结论的支撑;这里把问题从“是否受生物学约束”改为“结论在更换对照与干预后变化多大”。 在flyvis的50个预训练模型、任务匹配的因果CNN对照以及重复干预上做压力测试,行为层面与机制层面都出现依赖关系。

反向phi方向反转在flyvis中强烈依赖空间周期与速度,并且同样出现在任务匹配的CNN中,两个模型族都没有复现果蝇对静止锯齿光栅的转向反应。 此前反向phi被当作相关型运动探测器的预测,并被用于区分亮暗通路贡献;这里显示它既不一致也不为连接组约束模型族所独有。 在匹配的三级反向phi刺激下,flyvis在50个模型中的反转计数随速度从14到46不等,而全部5个小CNN和5个中CNN检查点在65.7°/s处反转;静止锯齿光栅判据在flyvis中每个极性只有3/50满足,CNN无一满足。

归因方法只有在与其所匹配的干预语义下评估时,其效应量才与穷举单连接干预真值一致;识别重要连接本身对基线不敏感,但效应大小不是。 此前电路发现方法多以植入电路或忠实性代理作为评估依据;这里改用穷举单组件干预真值,并区分零、留出均值与反事实三种替换语义。 对留出均值替换,匹配的一阶边归因修补达到合并AUROC 0.970、Spearman 0.872,而零对齐评分在同一真值下为0.933和0.126;AUROC在所有行中保持0.91以上,但precision@20仅在0.44到0.66之间。

满足模型相对T4/T5调谐判据的细胞类型解在50个模型中只有25个,且这些解对应的连接集在剪枝后仍保留判据,但加入双侧响应幅度检查后六个首次成功的类型解中只有两个仍达标。 此前连接组约束模型常以单一训练解的回路结论呈现;这里显示同一判据下的解在释放的模型集合中分布不均,且随干预粒度与表示而变。 贪心细胞类型搜索在50个模型中25个于15次添加内达标,中位7次添加;六个首次成功模型的类型集展开后剪去74%到91%的添加连接,仍保留13到31个连接,但双侧幅度检查后仅模型003和005仍满足阈值。

启示与展望

这套压力测试覆盖flyvis一个架构及其释放的50个模型集合,行为对照为任务、Sintel渲染与目标、损失和输入格点匹配的因果CNN,机制分析在可穷举单连接干预的604个类型间连接类和细胞类型两个粒度上进行。适合正在使用或评估连接组约束模型的研究者,用来判断一条机制主张需要附带哪些限定条件。释放包未保留模型启动时的训练划分与打包任务误差标量的确切生成方式,因此共同评估是描述性的而非共享留出泛化比较。

反向phi刺激的三级构造在减去每帧空间均值后等价于半对比度的两级对比反转图案,因此不能把反转计数的变化归因于极性结构、对比度减半或附加闪烁中的任何一项。T4/T5调谐判据是模型相对的、分母取绝对值会饱和且只设单侧幅度约束,所以达标只表示满足该判据而非生理充分性。输出沉默同时移除了解码器34个输入中的8个,无法把对循环回路的依赖与解码器输入损失分开。剪枝端点是贪心且一步不可约的集合,不是全局最小回路,615个剪枝步骤中有455个在冻结尺度上数值歧义。