跳到主要内容
返回时间线
arXiv来源发表:

分子优化不再只改一轮:MFG 用多轮反馈训练大模型,十项任务平均相似度约束成功率 81.50%

核心概要

多目标分子优化通常要求一次生成就同时改善多个性质并保持骨架相似,而此前基于大语言模型的方法要么只在推理时把上一轮反馈塞进提示、没有专门训练,要么只在单轮生成上做监督微调或强化学习。MFG 把这一过程改写为带反馈的多轮问题,用强化学习训练模型逐轮利用上一轮的性质变化与相似度信息,并在 MuMOInstruct 的十项任务上以 GeLLM3O 为底座得到 GeLLM3O-MFG,取得 81.50% 的平均相似度约束成功率。

AI-generated editorial illustration: MFG: Multi-turn Feedback Guided Molecular Optimization

深度剖析

分子优化模型现在被训练成在多个轮次里连续改进同一个分子,而不是只做一次生成就交差。 此前的做法分两类:一类在推理时把上一轮的性质反馈写进提示让模型继续改,但模型并未被训练过如何使用这些反馈;另一类用监督微调或强化学习训练,却只覆盖非迭代的单轮生成。 在 MuMOInstruct 的十项多目标优化任务上,以 GeLLM3O 为底座的 GeLLM3O-MFG 取得 81.50% 的平均相似度约束成功率,高于最强基线 BioMedGPT-Mol 与底座 GeLLM3O。

每一轮模型都会拿到一个反馈向量,里面记录各目标性质相对源分子是变好还是变差,以及当前分子与源分子的结构相似度。 训练用的奖励函数与这个反馈向量对齐:相似度低于阈值时只按相似度扣分,性质提升再大也不能抵消结构偏离;达到阈值后,奖励同时计入归一化的性质提升、相似度和对上一轮最优分子的进步。 训练采用组相对策略优化(GRPO,一种按同组候选的相对得分更新策略的强化学习方法),每轮采样多个候选分子,并用分层选择准则挑出进入下一轮的中间分子;评估覆盖 MuMOInstruct 的五项分布内任务与五项分布外任务。

启示与展望

评估限定在 MuMOInstruct 数据集上,涉及血脑屏障通透性、多巴胺 D2 受体结合亲和力、人肠道吸收、致突变性、 penalized logP 与类药性六种性质的组合,分为五项分布内任务与五项分布外任务;性质改善由性质预测器给出,未经实验验证。

多轮反馈依赖性质预测器,其准确性决定反馈可靠性,评估中观察到的性质提升尚未经实验验证;训练奖励用 MuMOInstruct 提供的参考优化分子做归一化,缺少这类目标分子的数据集可能难以直接套用;方法目前只在 GeLLM3O 上实例化,对其他分子优化大模型是否同样有效仍需评估;六种性质之外的目标尚未探索。