同一个8B模型不再套固定推理模板：AlgoPilot先选范式再写形式化，平均准确率从38.4%升到72.9%
核心概要
AlgoPilot把语言模型的解题过程拆成三步：先判断该用自然语言推理、代码执行、约束求解、符号规划还是数学优化，再按所选范式生成结构化的问题形式化，最后交给执行模型求解。以Qwen3-8B为执行模型时，同一模型在13个基准、66个领域上的平均准确率从直接提示的38.4%升到72.9%，比表现最好的大模型提示基线GLM-5高11.7个百分点；换用Gemma-4-E4B-it作执行模型时，平均成功率从直接提示的39.0%升到60.5%。
深度剖析
语言模型面对跨领域问题时，不再对所有输入套用同一种推理模板，而是先判断该问题适合哪一类计算范式，再决定是否需要额外的结构化形式化。 此前的提示方法依赖固定的推理模板，或只在文本推理与代码执行之间做选择；自适应路由方法的选择空间也主要落在推理配置、提示策略、模型和外部工具上，而不是根本不同的计算范式及其对应的问题形式化。 在覆盖5类问题、13个基准、66个领域的测试集上，以Qwen3-8B为执行模型的AlgoPilot平均准确率为72.9%，同一模型直接提示为38.4%、先推理再作答为36.1%，表现最好的大模型提示基线GLM-5为61.2%。
这套流程由三个模型分工完成：一个负责选范式，一个负责写形式化，一个负责执行。 SteerLM经监督微调后再用GRPO强化学习训练，输出按执行成功率排序的范式—模式候选列表；每种范式各有一个GuideLM，经监督微调后生成该范式专用的结构化形式化，例如优化问题要给出决策变量、目标和约束，规划问题要给出状态、动作和转移。 消融中，只加学习到的范式选择、不加形式化指导时平均准确率为45.7%，只加形式化指导、由执行模型自行选范式时为45.3%，两者合用达到72.9%；在432道来自10个未见过领域的题上，AlgoPilot的实例加权准确率为73.3%，直接提示为53.0%，先推理再作答为66.2%。
启示与展望
演示范围是13个基准、66个领域、2220道留出测试题上的准确率，以及432道来自10个未见过领域的题和三种改写输入；框架以Qwen3-8B为默认执行模型实例化，迁移实验换用Gemma-4-E4B-it。作者把零样本泛化到任意未见领域明确排除在主要主张之外，并指出更广泛的跨领域训练与GuideLM专家细化仍是改进方向。
作者指出，框架依赖执行反馈来构造指导数据和训练选择模型，这一过程计算开销较大，可能限制其扩展到超大数据集或新增范式；选择与指导模块由特定执行模型的行为训练而来，迁移到其他执行模型虽有正向效果但可能不完美。在未见领域上，失败实例中只有22.4%被路由到与来源类别不同的范式，其余错误更多来自下游形式化或执行，GuideLM的形式化迁移被视为主要瓶颈。