Goodfire 直接读 Qwen3.6 的神经元：砍掉 92.2% 弱激活只让语言模型损失上升 2.9%
核心概要
Goodfire 团队在 Qwen3.6-35B-A3B 上直接研究 MLP 神经元，而不是先学一层替代特征空间。按路由加权保留每次前向最强的 320 个神经元、屏蔽其余 92.2% 后，语言模型损失只上升 2.9%；多数神经元只有一个或一个占主导的计算模式，用自然语言写下的描述还能预测、模拟并激活这些神经元。
深度剖析
单个 MLP 神经元可以作为可解释的计算单元直接研究，不必先把模型转换成学到的特征空间。 此前神经元长期被视为过于复杂、多义，难以直接分析，研究重心因此转向神经元集合之上的学习特征空间。 在 Qwen3.6-35B-A3B 上，按路由加权每次前向只保留最强的 320 个神经元、屏蔽 92.2% 的弱激活，语言模型损失上升 2.9%，非推理基准与原始模型接近。
每个神经元极性的计算功能数量很少，通常只有一个模式，或一个在因果上压倒其余的模式。 多义性曾被理解为单个神经元对大量互不相关的概念作出响应。 在 2,734 个神经元的样本中，47% 的神经元极性只有一个模式，多模式极性中约一半有一个模式承担至少 90% 的 KL 损伤。
用自然语言写下的神经元描述足以预测、区分并模拟该神经元的放电。 过去对神经元的描述多为观察性或相关性描述，难以支撑干预下的因果预测。 在 p97/3 以上的激活区间，判官模型凭描述识别放电片段的准确率为 95%（随机文本对照，随机水平 50%）；在最强激活区间，按描述模拟的激活恢复了消融损伤的 73%（以完美读取器上限计）。
启示与展望
结论建立在 Qwen3.6-35B-A3B 的混合专家 MLP 神经元上，分析集中在 p97/3 及更强的激活区间，共享专家神经元在所有稀疏化实验中保持不变。随文发布的是 2,734 个分层抽样神经元的电路图、激活样例与描述页面，以及全部一千万个神经元极性的低成本标签。
弱激活与 Q3 激活的作用尚未分析清楚，作者将其留待后续工作；模式数量受描述粒度影响，并非神经元所表概念的确定计数；上下文复用机制只在示例中展示，尚未确定其普遍程度与消歧可靠性；这些发现能在多大范围上推广到其他模型与行为仍待建立。