跳到主要内容
返回时间线
arXiv来源发表:

语言模型不跑梯度也能写脑电网络:2730个权重全手写,5名受试者上平衡准确率0.834

核心概要

权重空间编程让语言模型直接读写神经网络权重,此前只在游戏网络和语言模型上演示过。这项研究把它用到脑电与心电模型上:Claude Opus 5.5 在没有任何梯度步骤、只给5名练习受试者的情况下,写出 TinyEEGNet 全部2730个权重,在65名未见受试者上取得0.834的平衡准确率,与同架构用30名受试者常规训练的0.806相当,高于用5名训练的0.704;但它无法从权重判断网络任务,也无法改进已训练良好的网络。

Source-provided article image: Mixed Signals: Weight-Space Programming for EEG and ECG
arXiv

深度剖析

语言模型可以不经梯度下降,直接写出一个能用的生理信号分类器。 常规做法是用优化器在标注样本上做数百万次小梯度步来设定权重;此前的权重空间编程演示集中在游戏网络和语言模型上,尚未在脑电、心电这类生理信号模型上评估。 在 PhysioNet 脑电运动想象数据集的睁眼对闭眼任务上,Claude Opus 5.5 写出的网络在65名未见受试者上平衡准确率为0.834(95%置信区间0.794–0.872),与同架构用30名受试者梯度训练的0.806相当,高于用5名受试者训练的0.704。

模型还能在不知道原因的情况下找出心电网络依赖的录音伪迹,并在权重里把它关掉。 此前这类捷径通常要等原因已知后,再用针对性的梯度微调来修补。 在 PTB-XL 心电数据上植入工频干扰、记录起始校准脉冲或约25赫兹低通“肌电滤波”三种伪迹后,Claude Opus 5.5 与 GLM-5.3 各在4次运行中全部正确命名三种伪迹,DeepSeek-V4.1-Flash 命名了工频干扰和校准脉冲;编辑前伪迹使75%–91%的心肌梗死判断翻转,Opus 与 GLM 编辑后至多3%,心肌梗死检测的 MI-AUC 从0.67–0.69升到0.83–0.86。

写网络靠的是调用模型对脑电结构的先验,而不是拟合数据。 模型在“读网络”任务上失败:没有任何模型能仅凭权重说出网络训练的任务,GLM 在有电极名时最高0.33,与它在从未训练的对照网络上的0.29相当。 Opus 写出的睁眼网络在枕部检测 alpha 节律,握拳网络做成镜像对称并组合了眼动、对侧运动皮层慢电位与 beta 下降三条教科书线索;Opus 自估睁眼网络0.97,实际为0.834。

启示与展望

结果来自两个公开数据集:PhysioNet 脑电运动想象数据(109名受试者、64电极)和 PTB-XL 心电数据(21,388条带诊断标签的记录),网络为2730个权重的 TinyEEGNet 与941,189个权重的 ECGResNet,评分全部在模型未见过的受试者或记录上完成。作者把适用对象限定为部署在边缘设备和可穿戴设备上的小型网络,并建议把语言模型作为梯度下降前的初始化步骤。

心电电极交换修复、隐藏伪迹调试和从零写网络每个模型与设置只运行一次,运行间波动尚未考察;所有文本答案由单一模型 gpt-oss-120b 评分;两个数据集都是公开的,可能已进入语言模型训练语料,因此所谓生理学先验可能部分是对这些具体数据集的知识;从零写网络时 Opus 的 API 费用为8.50和9.08美元,耗时38–39分钟,而梯度下降在单块 A100 上用5名受试者训练同一网络只需2–5秒。