# 大语言模型

该工作针对大语言模型因在长时间序列数据上训练而在金融预测任务中产生前视偏差、且从头重训前沿模型以设定知识截止点代价过高的问题，提出一种快速、有效且低成本的替代方案：在推理阶段用一对较小的专用模型——一个在应被遗忘的信息上微调、另一个在应被保留的信息上微调——来调整大型基础模型的 logits 以引导生成，并报告该方法能有效移除逐字知识与语义知识、纠正偏差，且优于此前的方法。

该工作针对大语言模型因在长时间序列数据上训练而在金融预测任务中产生前视偏差、且从头重训前沿模型以设定知识截止点代价过高的问题，提出一种快速、有效且低成本的替代方案：在推理阶段用一对较小的专用模型——一个在应被遗忘的信息上微调、另一个在应被保留的信息上微调——来调整大型基础模型的 logits 以引导生成，并报告该方法能有效移除逐字知识与语义知识、纠正偏差，且优于此前的方法。

SkillGym 提出一个把人类编写的 agent 技能转化为可执行、可验证训练环境的框架，通过技能到任务流水线生成具体任务、用代码检查器验证结果并以对比执行衡量技能依赖，构建并发布 12 个类别共 2756 个环境和 8364 条成功轨迹（平均 49 次工具调用、超过 60k 文本 token），支持在已验证工作流上做监督微调与基于结果奖励的强化学习；在 Claude Code 下，监督微调使 Qwen3.5-35B-A3B 在 GDPval-AA v2 上提升 199 Elo、在 Terminal-Bench 2.1 上提升 19.10 个百分点、在 SkillsBench v1.1 上带技能与不带技能分别提升 28.13 和 12.38 个百分点，其 35B 的

SkillGym 提出一个把人类编写的 agent 技能转化为可执行、可验证训练环境的框架，通过技能到任务流水线生成具体任务、用代码检查器验证结果并以对比执行衡量技能依赖，构建并发布 12 个类别共 2756 个环境和 8364 条成功轨迹（平均 49 次工具调用、超过 60k 文本 token），支持在已验证工作流上做监督微调与基于结果奖励的强化学习；在 Claude Code 下，监督微调使 Qwen3.5-35B-A3B 在 GDPval-AA v2 上提升 199 Elo、在 Terminal-Bench 2.1 上提升 19.10 个百分点、在 SkillsBench v1.1 上带技能与不带技能分别提升 28.13 和 12.38 个百分点，其 35B 的