跳到主要内容
检索

# 自适应深度潜在推理

1 篇关联报道

订阅更新
  1. arXiv

    AdaLoop 用自适应深度循环模块让音频语言模型按问题难度分配推理步数,三个骨干平均准确率提升 2.9 至 3.8 分

    AdaLoop 用一个轻量循环模块替换音频编码器与语言模型之间的线性投影,由问题引导的共享 transformer 块反复精炼音频表示,并用可学习停机机制决定每个音频—问题对需要多少步;在 Qwen2.5-Omni-7B、Kimi-Audio-7B-Instruct 和 MiMo-Audio-7B-Instruct 三个骨干上,于 MMSU、MMAU-Pro、MMAR 三个基准把平均准确率提升 2.9 至 3.8 分,增益集中在感知类子任务,且学到的深度分布显示信号级问题平均用 5.7 步、语义问题仅 2.6 步。

已读完全部报道