智能体长任务不再被上下文拖垮：Step 5 Preview用92层窄深结构撑起百万级环境
核心概要
Step 5 Preview 把智能体工作负载当作模型设计的出发点：它采用92个Transformer块的窄而深结构，在高效注意力与稀疏全注意力之间按3:1交错，并用Sparse GQA把全注意力路径扩展到最长100万token上下文。其总参数量不到Qwen3.8-Max、Kimi K3这类万亿级模型四分之一，活跃参数不到三分之一，报告称由此获得与这些万亿级模型相当的长程智能体能力。训练侧配套了智能体原生数据合成与面向长rollout的强化学习系统，最终构造出百万级可验证环境。
深度剖析
长程智能体任务把模型设计的重心从显式推理推向预填充阶段的隐式推理，因为频繁工具调用带来大量预填充上下文，模型没有多少机会展开完整的思维链。 此前的做法依赖模型在生成阶段做显式多跳推理，而智能体场景下多跳依赖遍布各处，预填充的信息流又只能沿时间与深度两个方向单向推进。 Step 5 Preview 因此选择直接加深网络，用92个Transformer块，与Qwen3.8-Max、Kimi K3等开源大模型深度相当，而总参数量不到其四分之一、活跃参数不到三分之一。
全注意力层在上下文达到100万token时成为训练和推理的主要效率瓶颈，稀疏注意力是缓解路径，但索引器开销、GPU利用率与选择粒度三者互相牵制。 已有稀疏注意力实现中索引器开销不可忽略，在极长上下文下甚至可能超过稀疏Flash Attention算子本身的成本。 Sparse GQA 把相邻历史位置的索引器压缩成块表示，块大小为8，使索引器与top-k选择成本降低8倍；在B=8、k=4096配置下token覆盖率78.06%，接近B=1、k=2048参考配置的79.09%。
数据构造被重新组织为智能体原生流程，专家提供高层原则与先验，智能体在原则内协调构造过程，确定性操作交给可复用代码与工具。 以往数据构造依赖领域专家把先验、直觉与实践嵌入各自的任务设计、流水线和决策中，跨领域迁移需要从头再来。 统一上下文层保留任务规格、流水线状态、环境配置、中间结果与反馈，使智能体可跨任务复用经验；质量引导针对难度与多样性偏差，并加入反作弊检查，最终构造出覆盖科学推理、软件工程、机器学习研发与专业工作的百万级可验证环境。
面向长rollout的强化学习把训练与推理的系统性数值差异和off-policy陈旧度分开处理，前者在可对齐处精确对齐，后者用回放推理计算状态来还原。 在线强化学习中训练侧与推理侧由不同算子构成、性能目标不同，微小数值差异会经MoE分发与深度放大，再与off-policy陈旧度耦合。 在staleness为0时训练与推理算子完全对齐，logprob差恰为零，且TP=1训练与TP=8推理保持逐位一致，总开销低于10%；配合RL轨迹回放，长程logprob差稳定低于1e-2。
启示与展望
报道覆盖的是 Step 5 Preview 的架构与训练设计说明，面向从事长上下文模型、智能体训练与强化学习基础设施的研究人员和工程师。文中给出的深度、参数比例、token覆盖率与logprob差均来自该设计自身的观测，适用场景是长程智能体任务与最长100万token的上下文训练。样本丢弃率低于1%属于训练基础设施侧的结果，与上述架构观测分属不同环节。
窄而深设计在放大训练时出现数值爆炸与梯度尖峰，其底层原因仍不清楚，只能通过FP32隐状态、FP32 RMSNorm缩放与细粒度梯度裁剪来缓解。智能体自主合成在难度和多样性上存在系统性偏差，需要显式信号干预。系统仍在演进，上下文、训练基础设施与反馈的边界会互相暴露瓶颈。