检索单位从内容换成推理骨架：PatternBloom 让 7B 智能体在多跳问答上随推理深度累积优势
PatternBloom 把智能体检索增强生成（RAG）的检索单位从“读什么内容”改为“怎么推理”的类型化图骨架，骨架由第一阶段强化学习高分轨迹蒸馏进外部图模式记忆，第二阶段再用模式覆盖奖励把策略与这份冻结记忆耦合。在七个问答基准上，7B 版本在全部七项数据集上按 EM 与 F1 排名第一，平均分布外 EM 领先 R1-Searcher，且同一冻结模式记忆可迁移到 Qwen3-8B 骨干。
固定参数的通用 Transformer 通过输入嵌入模拟同类任意模型，并在括号匹配与多跳推理任务上得到验证
作者提出“通用 Transformer”：内部参数全部固定，仅通过合适的输入嵌入编码目标模型描述，即可模拟给定类别中的任意 Transformer；他们给出嵌入维度足够大时的显式稀疏构造，证明随机初始化的 Transformer 几乎必然具有通用性，并在括号匹配与多跳推理任务上做了实证验证，提示 Transformer 的表达能力可能很大程度存在于输入表示而非学习到的权重中。
冻结权重下，单个第14层rank-8 LoRA把Qwen3-8B的24行引用链准确率从15.5%提到99%
该工作测量了预训练Transformer在上下文中跟随引用链的能力：十三个基座模型只能可靠跟随1.4–3.6行（中位数2.2），额外预训练循环也帮助有限；在全部权重冻结的前提下，于某一早期层训练一个rank-8 LoRA即可延长这一计算，使Qwen3-8B在24行链上的精确准确率从15.5%升至99%，更长训练的LoRA达到50行，Ouro-1.4B在四循环后达到60行、八循环后至少160行，机制上表现为LoRA在中层启动一段“接力”，由冻结的注意力头沿链逐步向上读取，移除父行注意力即中断该接力。
已读完全部报道