物理信息不再只用来挑样本：PI-Init 先做无标签预训练，Burgers 误差降 53.3%
核心概要
神经算子训练需要昂贵的数值解标签，而PDE输入和控制方程本身是廉价的物理信息。PI-Init把这份廉价信息用在初始化上：先在无标签输入上用物理损失预训练，再保留参数做监督微调。在Burgers、1D Advection等基准上，同等标签预算下FNO预测误差分别降低53.3%和62.7%，Burgers上仅用200条标签轨迹即优于监督训练用2000条。
深度剖析
廉价物理信息可以不必用来挑选哪些输入去标注，而是用来决定神经算子从什么参数出发接受监督训练。 此前的自然做法是用物理残差、不确定性或特征分数挑选待标注输入，但Burgers上的采集实验显示这些策略在相同标签预算下并不稳定优于均匀随机采样。 在Burgers固定与变化黏度两种设置下，随机采样取得最低平均测试误差；960组分数—误差配对中归一化残差分数与当前预测误差相关，说明预测困难不等于标注价值高。
做法是两阶段训练：先在无标签PDE输入上用控制方程残差和初边值约束预训练，再保留这组参数、重置优化器做监督微调。 物理损失只出现在无标签阶段，与监督损失在时间上分开，因此不需要在训练中平衡两项损失，也不改动算子结构。 在六个PDEBench任务、2D Navier–Stokes与AirfRANS上，以FNO为主并测试WNO和LNO；FNO在Burgers、1D CFD、1D Advection、2D Navier–Stokes上误差分别降低53.3%、37.3%、62.7%、10.2%。
预训练带来的收益主要体现在标签数据约束较弱的方向上，因此标签越少时相对收益越明显。 线性化分析把预测风险分解为初始化偏差与标签方差两部分，监督优化只在有标签曲率的方向上收缩初始化误差。 Burgers上PI-Init用200条标签轨迹的误差低于监督训练用2000条，对应标签减少90%；1D CFD、2D Darcy Flow、AirfRANS、2D Navier–Stokes分别观察到约80%、70%、25%、33%的标签节省。
启示与展望
演示范围是八个PDE基准（含几何相关流体）与FNO、WNO、LNO三种架构，预训练使用精确或近似的控制方程残差，监督数据由均匀随机采样输入并计算解得到；方法保留原算子结构与推理操作，因此不增加推理复杂度。
分析建立在线性化算子模型与物理、标签曲率共享特征基的假设上，有限样本矩阵的精确兼容并不普遍保证；物理目标近似时收益还取决于物理极小值与监督目标之间的失配，更强的物理预训练不一定带来更好的下游表现。预训练开销随廉价输入数与预训练轮数近似线性增长，在500轮监督训练下约占其1.4%–8.1%，输入增至5万时升至6.6%–39.8%。