跳到主要内容
检索

Raghavv Goel

1 篇关联报道

订阅更新
  1. arXiv

    投机解码不再按位置挑层:熵与CKA选出层组合,Qwen3上平均接受token提高约0.085

    投机解码的草稿模型该看哪几层隐藏状态,现在可以按信息量和冗余度来选,而不是沿用固定的位置规则;在Qwen3-4B-Instruct上,选出的三层组合平均接受token比EAGLE3默认规则高约0.085。

已读完全部报道