冻结权重下，单个第14层rank-8 LoRA把Qwen3-8B的24行引用链准确率从15.5%提到99%
该工作测量了预训练Transformer在上下文中跟随引用链的能力：十三个基座模型只能可靠跟随1.4–3.6行（中位数2.2），额外预训练循环也帮助有限；在全部权重冻结的前提下，于某一早期层训练一个rank-8 LoRA即可延长这一计算，使Qwen3-8B在24行链上的精确准确率从15.5%升至99%，更长训练的LoRA达到50行，Ouro-1.4B在四循环后达到60行、八循环后至少160行，机制上表现为LoRA在中层启动一段“接力”，由冻结的注意力头沿链逐步向上读取，移除父行注意力即中断该接力。