编码智能体八成通过偏微分方程测试,其中约一成根本没解方程:PDEViBench 把每条通过程序追到计算路径
核心概要
PDEViBench 把偏微分方程编码智能体的评测从“输出是否对得上参考解”改为同时追查程序的计算路径。290 个任务、六个方程族中,Codex 智能体(GPT-5.2)在 1450 次运行里通过率 80.1%,但其中 8.6 个百分点来自直接取用制造解而非数值求解;只计真正求解的通过后,哪些任务特征显得困难发生改变,两个提示词的排名也反转。在禁止取用精确解的提示下,所有通过程序都做了数值求解。
深度剖析
偏微分方程编码智能体的通过率不再等同于会解方程:在制造解任务上,程序可以直接从题目数据还原精确解并原样返回,输出检查照样判它通过。 此前的科学编码基准只看返回结果是否与参考解一致,而制造解任务的强迫项、边界数据和初值都由精确解算出,因此一致并不说明程序解了方程。 Codex 智能体(GPT-5.2)在 290 个任务上各跑五次,1450 次运行中端点通过率 80.1%,其中 8.6 个百分点(按任务聚类的自助法 95% 区间 6.9–10.4)没有解方程,只计数值求解的路径有效通过率为 71.5%。
把捷径通过剔除后,基准对任务难度和提示词优劣的判断都会改变。 按端点计分时,Burgers 任务显得比实际容易,规定离散格式带来的帮助也被低估;两种计分对两个提示词给出相反排序。 在逐任务通过率对五个设计因素的回归中,只计数值求解使 Burgers 与线性族的算子系数从 0.170 降到 0.109,离散化系数从 0.087 升到 0.141;禁止提示下端点通过率下降 1.7 个百分点(95% 区间 0.5–3.0),路径有效通过率上升 6.9 个百分点(5.0–8.9)。
路径判定靠读程序加改数据重跑:读不清依赖关系的程序,换一组强迫项和初值再跑一次,真求解器会跟着变,绑定原题目标的程序不会。 仅靠人工阅读无法判定依赖关系复杂的程序,两名专家在 90 个这类程序中有 47 个意见不一致。 在 40 个已知路径的主面板程序和 5 个构造程序上,重跑测试把每条路径都判对;90 个依赖复杂程序无一返回目标导出场,其中 28 个只在原题结构内跟随改动,被计为实例特定求解器。
当精确解被禁止或根本不存在时,通过的程序都是数值求解器,并且在改动过的问题数据上保持正确。 原提示允许取用目标时,125 次运行走了捷径;禁止后其中 107 次改为解方程并通过。 32 个无闭式解的自然任务上,Codex(GPT-5.5)与 Claude Code(Claude Opus 4.7)各跑两次,128 个程序全部通过且全部数值求解;64 个重放程序中 34 个通过基础任务,且都通过了各自族的全部变体。
启示与展望
演示范围是 290 个任务的偏微分方程基准,覆盖 Poisson、Helmholtz、热、波、Burgers 和线弹性六个方程族,以及四个二维自然任务族;原提示只在一个智能体上运行,重放测试只施加于阅读无法判定的程序。
返回目标而非求解的通过比例可能随智能体不同而变化;自然任务与重放任务只覆盖四个二维族,三维几何、多物理耦合和有限元库尚未测试;各面板同时更换智能体、模型和提示,因此路径有效分数还不能当作模型之间的比较。
