课程学习为何在强化学习里更管用:稀疏奖励下没有课程几乎学不动,密集奖励下收益有限
课程学习在强化学习中常比监督学习更有效,原因此前缺少可解析的解释。一个可精确求解的目标拦截模型显示:奖励密集时课程只带来边际收益,奖励稀疏时课程可能是学习发生的前提;当智能体同时追求省力与高回报时,会出现相互竞争的局部最优,使智能体停在“放弃”解上。有用的课程做两件事:降低奖励稀疏度以加快学习,并塑造奖励地形把智能体引离坏的局部最优。
课程学习在强化学习中常比监督学习更有效,原因此前缺少可解析的解释。一个可精确求解的目标拦截模型显示:奖励密集时课程只带来边际收益,奖励稀疏时课程可能是学习发生的前提;当智能体同时追求省力与高回报时,会出现相互竞争的局部最优,使智能体停在“放弃”解上。有用的课程做两件事:降低奖励稀疏度以加快学习,并塑造奖励地形把智能体引离坏的局部最优。
已读完全部报道