电脑操作智能体每张截图要编码成数千个视觉token，长任务和实时游戏里上下文迅速膨胀。VTR把视觉语言模型与一个轻量时空路由器联合训练，路由器查看当前与上一张截图中同一图像区域，决定该token是否进入语言模型，并用自适应损失在尽量少保留token与尽量不损失动作预测之间取舍。仅2000步训练后，VTR在OSWorld、CUA-World和电子游戏动作预测上匹配全分辨率模型，视觉token少2.5至5.8倍，推理成本最多降3.3倍，预填充最多快2.9倍。
此前按“验证时激活的专家权重字节数”估算投机解码成本，认为稀疏MoE的加速比随批大小呈凹形、在低批大小收益有限。对10个30B至1T参数、8至512专家的稀疏MoE模型实测后，细粒度模型多在批大小1附近达到最高加速比。原因有两层：相邻草稿位置的路由重叠让验证时真正加载的唯一专家数比独立假设少21%至34%，而GPU上MoE核与注意力核的带宽利用差异和L2缓存复用又让运行时间不再正比于专家字节。
当模型权重装不进单张消费级GPU时，按需搬运权重会占去解码阶段约98%的时间。一种按层调度的方法把部分层放到CPU上计算，同时异步把下一层的权重传往GPU，用CPU计算时间遮住传输；在RTX 5090台式机上，OPT-30B的推理比HuggingFace Accelerate快3.5倍、比DeepSpeed Zero-Inference快6.3倍。
PowerMH 的接受/拒绝判定必须串行，每次判定后才能生成下一个提议；PreSTO 把未来若干步的提议放进一次批量调用预取，在七个数据集和五个基座模型上对 PowerMH 取得 1.71 倍中位加速，且不改变其转移核。
多模态大模型的视觉token选择改用图传播加度数校正：在四个骨干、十个基准和七个剪枝率上，LLaVA-NeXT保留三成视觉token时精度保留98.7%，并带来净prefill加速。
语音识别解码不必再逐字等待：一个复用目标模型内部声学与解码器特征的轻量草稿模块，在 Whisper 与 Conformer 上分别带来最高 1.9 倍和 2.4 倍的无损提速。
作者提出免训练的视觉 token 压缩框架 V-CoLA，针对含线性注意力的混合视觉语言模型，从线性注意力有界循环状态的保留偏好中导出唯一性感知的重要性准则，并配合自适应分块合并与深层视觉 token 提前退出；在 Qwen3.5-9B 等模型上，保留 50% 视觉 token 时达到原性能的 99.5%，保留 12.5% 时仍超过 88.0%，预填充加速 1.86 至 6.15 倍。
作者指出稀疏注意力现有选择规则只保留注意力矩阵中数值大或质量高的条目，而 Transformer 实际是通过矩阵乘法使用该矩阵，因此提出 MASA：用矩阵乘积近似误差的闭式分数替换原有的注意力质量排序，在不改变稀疏核、候选单元与预算的前提下接入 MInference、SeerAttention、FlexPrefill 三种框架，在 RULER、InfiniteBench、LongBench 上取得一致的准确率提升且延迟开销可忽略。
该工作把并行与半自回归推测解码草稿模型的训练建模为马尔可夫奖励过程，提出期望解码轮数（EDR）目标，用状态占用度加权局部拒绝代价，并给出精确的时序差分梯度与离线评估器；在九个数学、代码与对话基准上微调 DSpark 和 DFly 后，平均接受长度一致提升并优于端到端 TV 等既有目标。
AgSpec 是一个面向编码智能体流水线的检索式推测解码框架，它按来源把可复用文本组织为会话、工作区与全局三类语料，并按智能体输出格式索引工作区文件，同时用离线画像的每智能体草稿上限与基于验证反馈的在线长度缩放来控制草稿长度；在 SWE-bench Verified 与 TeamBench 两个仓库级多智能体基准上，它在多数评测设置中优于五种检索式草稿器和 EAGLE-3，相对自回归解码在 batch size 1 最高提升 4.37 倍、batch size 16 最高提升 4.76 倍吞吐，并在无仓库或单智能体的基准上仍然有效。