跳到主要内容
返回时间线
arXiv来源发表:

脑电、心电、肌电共用一套小波主干:折叠子带后序列缩短四倍,128通道显存从约32GB降到2.5GB

核心概要

PhysioWave-T 把多尺度小波分析压进固定长度的 token 序列:在分词之前用动态尺度折叠把各子带重新合成一路信号,使分解层数只改变每个 token 的内容、不再拉长序列。四个脑电路由上,折叠相对尺度展开把 Transformer 延迟降低 4.0–7.2 倍、峰值显存降低 6.8–12.7 倍且不损失精度;30M 参数脑电编码器在九个指标中的八个领先 BENDR、BIOT、LaBraM 与 EEGPT。

AI-generated editorial illustration: PhysioWave-T: Token-Efficient Wavelet Foundation Models for Biosignals

深度剖析

生理信号采集硬件差异很大,脑电从两通道可穿戴到 128 通道头皮阵列,心电从单导联贴片到十二导联,肌电从腕带到高密度网格,采样率与电极几何各不相同;PhysioWave-T 让同一模态的一个 Transformer 主干直接吃下这些不同配置。 此前 PhysioWave 的每个编码器被限定在单一固定输入配置,且分词器把每个小波尺度展开成单独一行 token,通道数、窗口时长与分解深度会一起拉长序列。 预训练的脑电编码器为 30M 参数,覆盖 19 至 128 通道、256 与 512 Hz 的超过 1500 万个四秒窗口;在睡眠分期、P300 与错误相关负波检测三项任务、九个指标上,微调后的编码器在八个指标上取得最高值。

多尺度信息不再靠加长序列换取:动态尺度折叠在分词前把各小波子带按数据相关的权重重新合成一路与输入同形状的信号,分解越深只是让每个 token 携带更多频带内容。 尺度展开把每个子带都送进主干,序列长度是折叠后的四倍;静态均匀折叠则平均低 1.6 个百分点,比尺度展开还低 1.3 个百分点。 在四个脑电路由上,折叠把 Transformer 延迟降低 4.0–7.2 倍、峰值显存降低 6.8–12.7 倍、FLOPs 降低 4.3–5.5 倍;128 通道路由上单批显存从约 32 GB 降到 2.5 GB,折叠本身只占前向计算的 1.5–2.6%。

三个模态各自独立预训练的编码器可以按样本可靠性融合,用于可穿戴癫痫监测,而不需要联合多模态预训练。 PhysioWave 用每个模态一个训练后固定的权重合并单模态 logits,无法反映某个传感器在某个窗口里的退化。 在 SeizeIT2 的同时采集耳后脑电、心电与肌电上,融合把每小时 11 次误报下的事件灵敏度从单用微调脑电的 61.4% 提高到 74.4%;窗口级 AUPRC 从最佳单模态的 0.321 升到 0.399,六种训练变体在脑电与心电同时存在时都优于加权 logit 与拼接融合。

启示与展望

演示范围是脑电、心电与表面肌电三类信号:脑电覆盖 19 至 128 通道、256 与 512 Hz 的预训练路由,下游包括睡眠分期、P300、错误相关负波检测与两通道耳后癫痫检测;心电为十二导联 500 Hz,肌电为 16 至 64 通道 2 kHz 预训练并迁移到八电极 200 Hz 腕带与 28 电极 2 kHz 阵列。多模态融合实验使用冻结编码器,通过任务专用前端与适配器接入可穿戴采集配置。

多模态融合中考察的传感器损坏是人工注入的噪声、基线漂移、饱和、坏道与时间丢弃,而非真实记录中的自然故障;作者把前瞻性记录、联合多模态预训练以及光电容积脉搏波等新模态路由列为后续方向。脑电编码器在错误相关负波任务上冻结时低于从零训练的模型,需要微调主干才能超过。