有限经验也能定住规则：空间记忆做成通用计算机，短串训练后规则保持到500长度

学习能否从短输入推广到长输入，取决于它在做决定时读到了什么：读位置、计数这类随输入不断取新值的坐标，就会在长输入上遇到训练中从未出现的情形；只读“两个量是否相等”这类在每个长度上只有两种答案的巧合，规则就被有限经验固定。 此前LSTM和Transformer在最多40个符号的串上训练后，在41到500的长度上失败，连复制字符串这样的任务也不例外；一个能无误差反转40个符号的Transformer到长度50已降到随机水平。 这一区分被表述为一条定理：读坐标的学习者对每个训练规模都存在一个在训练情形上行为相同、却在更长输入上答案不同的“孪生”模型；只读巧合、状态与记录都有限的学习者，则存在一个规模，使其在不超过该规模的输入上正确即对所有其记忆能容纳的输入正确。

满足这一要求的记忆必须随输入增长，而学习者在其上只能遇到有限多种情形；这样的记忆从每个位置看都一样，因而由环构成，少数互不共享因子的周期用最少的单元覆盖最多的时刻。 这些环对应内嗅皮层的网格模块，检测环回到原位的细胞对应位置细胞，海马提供按读数归档的索引，前额叶控制器只移动环而从不读取它们。 在神经元网络上，把每个环整体转动整格是网络动力学的一个对称性；在弱偏置、合适脉冲与适应强度低于阈值的条件下，每个环在每个格点有稳定活动包，一次脉冲把活动包推进整数格，网络在这些稳定态上就是时钟。

只读巧合不损失计算能力：有限经验在这类学习器中固定的规则，正是多带图灵机与输入同步计算的那一类过程，因此一个为找路而演化出的回路也能学会算术和语法。 以往把无界部分放在精度或地址里的通用性构造，其无界部分仍是控制器会读到的坐标；这里无界部分位于时钟的位置上，而控制器从不读取它。 一个带工作带的图灵机每步读一个输入符号，可逐步对应为带无界时钟的该机器；反过来，时钟每步移动不超过一格且由控制器状态决定的该机器，可由多带图灵机实时模拟。

在实验中，记忆按理论搭建、只学习控制器：在最多40个符号的串上训练后，机器在15项基准任务中的9项上把规则保持到长度500，其中5项没有LSTM或Transformer能解。 在这5项任务上，已发表的最好结果分别是反转60.9%、栈操作59.1%，复制、奇数优先和二进制加法至多75.1%；两个能在这些任务上外推的网络都被赋予了记忆，Stack-RNN得到栈，Tape-RNN得到带，而带就是一个时钟。 30次拟合训练长度的运行中有27次外推到长度500；训练后把时钟换成周期为3、5、7、11的环，3台反转机器中的3台和3台复制机器中的2台在长度15015以内全部正确，是训练最长输入的375倍，超出范围后反转准确率与无自由参数的预测曲线平均相差0.27个百分点以内。

演示范围是15项基准任务中最多40个符号的训练串与41到500的测试长度、训练后更换周期的时钟交换实验、长度15015以内的反转、以及每格若干神经元的环形吸引子网络与编译后的图灵机；作者声明不涉及人类被试或动物实验。

15项任务中有6项未解决：括号算术与方程求解在六次尝试内没有运行拟合训练长度，因为其过程要到长度29和49才遇到全部情形；循环导航有一个种子随长度稳定掉分；乘法与平方根没有已知的与输入同步的过程，桶排序需要第四个时钟。作者还指出，一个需要全部模块一致的位置细胞在范围内只发放一次，而同一细胞视野大小差异未被理论解释。