# 研究世界模型

语言模型改进语言模型时，判断哪条改动值得试一直靠昂贵训练实验来验证。LM2LM把冻结的大模型当作“研究世界模型”，用真实实验记录在上下文中预测改动收益，作为强化学习奖励，并定期执行当前策略高分提案、把实测结果补回记录。在八个自回归与扩散语言模型开发环境上，Qwen3.8-27B经此训练后在留出任务上超过GPT-6-sol，即使后者上下文中带有300条真实实验记录，且数据生成成本低约33%。

语言模型改进语言模型时，判断哪条改动值得试一直靠昂贵训练实验来验证。LM2LM把冻结的大模型当作“研究世界模型”，用真实实验记录在上下文中预测改动收益，作为强化学习奖励，并定期执行当前策略高分提案、把实测结果补回记录。在八个自回归与扩散语言模型开发环境上，Qwen3.8-27B经此训练后在留出任务上超过GPT-6-sol，即使后者上下文中带有300条真实实验记录，且数据生成成本低约33%。