arXiv 2026年9月29日该工作提出激活支撑的参数分解(ASPD),联合分解激活空间与参数空间,把每个学到的权重组件锚定到它所读取或写入的激活特征上,用内部激活约束原本不唯一的参数分解,并以内部重构目标在被分析的权重矩阵处提供局部学习信号,从而在预训练大语言模型(在 Qwen-3-8B 上演示)中实现可扩展、可解释且可因果编辑的参数分解,学到的读写组件还能组合成参数级机制电路,用于恢复经典 IOI 电路背后的机制并沿模型权重追踪语义变换。该工作提出激活支撑的参数分解(ASPD),联合分解激活空间与参数空间,把每个学到的权重组件锚定到它所读取或写入的激活特征上,用内部激活约束原本不唯一的参数分解,并以内部重构目标在被分析的权重矩阵处提供局部学习信号,从而在预训练大语言模型(在 Qwen-3-8B 上演示)中实现可扩展、可解释且可因果编辑的参数分解,学到的读写组件还能组合成参数级机制电路,用于恢复经典 IOI 电路背后的机制并沿模型权重追踪语义变换。ASPD 将权重分解锚定在激活空间,在 Qwen-3-8B 上恢复 IOI 电路并追踪语义变换该工作提出激活支撑的参数分解(ASPD),联合分解激活空间与参数空间,把每个学到的权重组件锚定到它所读取或写入的激活特征上,用内部激活约束原本不唯一的参数分解,并以内部重构目标在被分析的权重矩阵处提供局部学习信号,从而在预训练大语言模型(在 Qwen-3-8B 上演示)中实现可扩展、可解释且可因果编辑的参数分解,学到的读写组件还能组合成参数级机制电路,用于恢复经典 IOI 电路背后的机制并沿模型权重追踪语义变换。该工作提出激活支撑的参数分解(ASPD),联合分解激活空间与参数空间,把每个学到的权重组件锚定到它所读取或写入的激活特征上,用内部激活约束原本不唯一的参数分解,并以内部重构目标在被分析的权重矩阵处提供局部学习信号,从而在预训练大语言模型(在 Qwen-3-8B 上演示)中实现可扩展、可解释且可因果编辑的参数分解,学到的读写组件还能组合成参数级机制电路,用于恢复经典 IOI 电路背后的机制并沿模型权重追踪语义变换。