跳到主要内容
检索

Abigail Tenenbaum

1 篇关联报道

订阅更新
  1. arXiv

    元学习网络学会“加减”函数:把两个已适应网络相减再相加,新网络未经训练就实现目标函数

    元学习(先用大量相关函数训练网络,使其更容易学会同类新函数)得到的初始化,让网络快速适应后的参数向量之间出现可加减的几何关系。在ABgeom序列生成任务上,随机初始化Transformer训练五步后平均F-score仅0.062,而元学习初始化一步即达1.00;把已适应网络的参数向量按符号类比相减再相加,所得网络未经直接训练,在100个类比上平均F-score为1.00。这一现象在Transformer与LSTM、三个函数域上均出现,但类比只在单个初始化附近成立。

已读完全部报道