跳到主要内容
检索

# 渐进神经网络

1 篇关联报道

订阅更新
  1. 渐进网络不再越堆越重:侧向增益衰减到零,父网络剪掉后输出分毫不差

    渐进神经网络靠保留每一代冻结列来传递知识,代价是存储与推理随代际增长。WeanNet 只保留一个冻结父网络,把它的逐层激活经一个标量增益送入新学生网络,并让增益在训练中线性衰减到零,部署时直接移除父网络。在概念漂移任务上,它与架构相同的 PNN-Reset 对照相比,各熵设置下漂移态找到新动作的比例都更高,但核心态也同时占优,且与从零重训的 Reset 相当。

已读完全部报道