跳到主要内容
检索

# 架构采样

1 篇关联报道

订阅更新
  1. arXiv

    冻结视觉语言模型无需训练即可通过复用解码器层块实现候选多样性,pass@9平均提升6.58个百分点

    该工作提出“架构采样”:一种免训练方法,通过复用解码器层中选定的层块,让冻结模型沿不同前向计算路径生成候选,在五个Qwen检查点和十二个多模态基准上,以相同的九个候选预算将pass@9相对标准路径温度采样平均提升6.58个百分点,复用早期层收益最强,候选覆盖提升在贪心解码下依然存在,且候选词面重叠更低,用作无标签测试时强化学习的rollout时准确率提升。

已读完全部报道