D-OPCD 把智能体提示经验蒸馏进扩散模型权重,直接生成均分从 60.52 升至 65.09
作者提出扩散在线策略上下文蒸馏(D-OPCD),把智能体框架生成的提示当作教师独享的特权上下文,在学生的去噪轨迹上监督只接收原始查询的学生模型,从而把提示层面的框架收益写入扩散模型权重;配合自动技能演化器(ASE),四个基准上的直接生成均分从 60.52 提升到 65.09,且更新后的生成器在无技能框架下平均略高于原技能框架智能体。
作者提出扩散在线策略上下文蒸馏(D-OPCD),把智能体框架生成的提示当作教师独享的特权上下文,在学生的去噪轨迹上监督只接收原始查询的学生模型,从而把提示层面的框架收益写入扩散模型权重;配合自动技能演化器(ASE),四个基准上的直接生成均分从 60.52 提升到 65.09,且更新后的生成器在无技能框架下平均略高于原技能框架智能体。
已读完全部报道