SaveRouter 只用约三分之一监督反馈就把 LLM 路由的盈亏平衡点最多提前约 9.5 倍
该工作提出 SaveRouter 稀疏监督路由框架,通过自适应选取信息量大的查询—模型反馈并跨相关查询共享能力信息,在四个路由基准上仅用约 33–41% 的可用训练反馈即保持有竞争力或更好的路由质量,并把盈亏平衡部署量相对最快的传统全监督路由降低约 1.9–9.5 倍。
4 篇关联报道
该工作提出 SaveRouter 稀疏监督路由框架,通过自适应选取信息量大的查询—模型反馈并跨相关查询共享能力信息,在四个路由基准上仅用约 33–41% 的可用训练反馈即保持有竞争力或更好的路由质量,并把盈亏平衡部署量相对最快的传统全监督路由降低约 1.9–9.5 倍。
该研究对7个代表性扩散大语言模型(含闭源Mercury-Coder-Small)与4个开源自回归基线在HumanEval/HumanEval+、MBPP/MBPP+、HumanEval-X、LiveCodeBench、RepoQA、RepoBench-C及SWE-Bench Verified上做了代码生成中心的实证评测,发现扩散模型能力有前景但不均衡:闭源扩散模型在多数基准上最强(如MBPP+ 79.1%对最佳自回归基线73.3%),代码专用开源扩散模型优于通用扩散模型,开源扩散模型整体尚未稳定追平最强自回归基线,但在若干函数级基准上已具竞争力,且所选扩散与自回归模型组解决的问题集合部分不重叠(3
该工作提出并形式化了“带示例的数据集搜索”(DSE)及其可解释扩展(ExDSE)任务,构建了首个同时提供数据集级与字段级人工标注的测试集DSEBench(141个测试用例、7,415个三元组,另含5,699个训练用例、122,585个三元组),并用大语言模型生成大规模训练标注,最后适配并评测了多种检索、重排与解释方法以建立基线。
该工作对27个常用基准数据集上的基线模型进行超参数微调,依据图感知模型与其对应图无关模型的对比表现,将异质数据集划分为恶性、良性与模糊三类,并据此重新评估11个SOTA异质图模型、在三种合成图生成方法上对11个同质性度量做首次定量评测,发现多数SOTA模型并未显著优于最佳基线,且经典度量仍具竞争力。
已读完全部报道