投机解码不再固定树深：EAGLE-4按GPU实测成本伸缩验证树，创意提示词吞吐最高1.85倍
EAGLE-4把投机解码的验证树从固定深度改为按GPU实测成本逐层伸缩，并配一个轻量草稿模型。在NVIDIA B300、TP=4上，批大小为1时它在Fireworks Bench和Prompt Enhancement SpecBench分别达到660.6和622.9 tokens/s，是最快对照方法的1.63倍和1.85倍；批大小为8时优势为1.36倍和1.62倍。创意提示词扩展这类高熵任务对草稿模型更难，但树结构从这种不确定性中找回了更多可用续写。