无限宽下的混沌边缘在有限宽网络里挪了位置：新初始化规则Crinit免去搜索，深层网络训练更快
深度网络在权重与偏置方差平面上有一条“混沌边缘”，初始值落在这条线上时信号与梯度能逐层传递；以往这条线的位置只在无限宽极限下已知，有限宽时是否移动、往哪移动存在分歧。该工作把两个输入间距离的对数当作随机游走，逐层算出其漂移与方差，得到有限宽下混沌边缘向更大权重方差移动，移动量随宽度减小。据此给出的初始化规则Crinit无需搜索即可把网络放到有限宽混沌边缘，在MNIST与Fashion-MNIST上比标准规则更准、训练步数更少。