跳到主要内容
返回时间线
arXiv来源发表:

优化建模不再靠固定检索规则:COMPASS把模板遍历学成策略,复杂题准确率提升最明显

核心概要

把自然语言优化问题翻译成求解器代码时,模板检索的质量决定成败。此前结构化检索依赖固定的或由大模型在推理时临时决定的遍历规则,无法从过去的成功与失败中改进。COMPASS把模板库组织成有向无环图,用深度Q网络从模板级判断和求解器执行反馈中学习可复用的遍历策略,并在共享语义空间中对新插入模板打分;在多个大模型骨干和优化建模基准上,它稳定优于启发式结构化检索,复杂与混合类别问题上的提升最大。

Source-provided article image: COMPASS: Composable Policy-Amortized Structured Search for LLM-Based Optimization Modeling
arXiv

深度剖析

优化模板检索从推理时固定的遍历规则,变成一项可以从建模经验中学习的策略。 此前的结构化方法把建模知识组织成层级分类体系,但遍历规则在推理时固定不变或由大模型临时驱动,检索无法从以往哪些模板导向有效建模、可行求解或执行失败中学习。 在六个优化建模基准和多个大模型骨干上,COMPASS相对启发式结构化检索取得一致提升,其中在MAMO-Complex上以DeepSeek-V3为生成骨干时准确率为61.6,高于最强检索基线的56.4。

系统把模板库表示成有向无环图,把检索当作在模板节点上逐步推进的序列决策。 深度Q网络从模板级判断和求解器执行反馈中学习可复用的遍历策略,取代固定的启发式遍历。 在与DAG-Greedy共用同一模板库、同一生成器和同一执行器的对照中,COMPASS在全部基准上准确率更高,MAMO-Complex上为61.6对54.5,IndustryOR上为66.0对63.0。

问题描述与模板节点被嵌入同一个语义空间,新插入的模板可以直接按其文本描述打分。 策略不再绑定固定的模板编号,因此扩充模板库时无需重新定义动作空间。 在MAMO的配对McNemar检验中,COMPASS相对DAG-Greedy在MAMO-Easy和MAMO-Complex上均达到p=0.001的显著性,MAMO-Complex上纠正了17个DAG-Greedy做错的实例而只丢掉2个。

启示与展望

评估覆盖NL4Opt、MAMO-Easy、MAMO-Complex、LPWP、IndustryOR和OptMATH六个基准,生成骨干包括DeepSeek-V3、GPT-5-mini,并迁移到Qwen-32B、LLaMA-8B和DeepSeek-R1;所有实验使用固定结构的标准化提示模板。

实验无法完全覆盖真实优化任务、求解器接口、数据格式和未来语言模型的多样性;基于大模型的优化建模对提示设计仍然敏感,提示变化会影响问题理解、检索到的模板和生成的求解器代码。