跳到主要内容
检索

# Neuron Scientist

1 篇关联报道

订阅更新
  1. goodfire.com

    Goodfire 直接读 Qwen3.6 的神经元:砍掉 92.2% 弱激活只让语言模型损失上升 2.9%

    Goodfire 团队在 Qwen3.6-35B-A3B 上直接研究 MLP 神经元,而不是先学一层替代特征空间。按路由加权保留每次前向最强的 320 个神经元、屏蔽其余 92.2% 后,语言模型损失只上升 2.9%;多数神经元只有一个或一个占主导的计算模式,用自然语言写下的描述还能预测、模拟并激活这些神经元。

已读完全部报道