字节级语言模型用学到的边界预测器把字节切成片段，而预测器在有限前瞻下能看到什么，取决于文本编码。UTF-8 中许多文字的一个码点占三字节，首字节只携带 4 个高位码点比特，因此同一左文后“延续字素簇的附标”和“开启下一字素的字母”可能共享首字节。在匹配的 FineWeb-2 文本上训练小型因果预测器、在 FLORES-200 的 17 种语言上评估，一符号前瞻下字素边界的平衡错误在 UTF-8 为 8.76%，在 UBE 为 0.06%；同长度的 UBE-BE 为 8.62%，说明增益来自字节顺序而非流长度。
作者提出 ServeTwin，一个将规格驱动分析时序与有状态服务循环耦合的闭环模拟器，通过 iSTAGE 从模型与引擎规格推导逐迭代轨迹、避免目标硬件算子剖析，并实现 vLLM 兼容接口以运行未修改的服务基准；在真实部署对比中，它以 3.6% 平均误差复现 InferenceX 的稳态吞吐-交互性前沿，以 9.9% 误差预测 LMBenchmark 多轮性能并跟踪 KV-cache 演化，预硅扫描还显示首选 HBM 带宽-容量权衡随工作负载状态反转、并发提升会把瓶颈从内存带宽转向调度与运行时开销。
该工作通过固定上下文的 Pass@K 分析发现视觉 token 剪枝后的性能下降并非全是信息丢失，而是模型未能可靠利用残留证据（表征—利用差距），并提出 SCOPD 与 SCOPD+ 两种稀疏上下文在线自蒸馏方法，在 10% 视觉 token 保留率下把 13 个基准的归一化平均性能从 Vanilla 的 86.37% 提升到 90.49% 和 92.43%，且不改变架构、不增加推理开销、不需要真实答案。
已读完全部报道