跳到主要内容
检索

# 自适应推理

3 篇关联报道

订阅更新
  1. NVIDIA Technical Blog

    英伟达把驾驶推理模型压进车载芯片:闭环强化学习后驾驶表现提升48.9%,像素到轨迹延迟160至190毫秒

    英伟达发布面向车载部署的推理型视觉-语言-动作模型 Alpamayo 2 Edge,以20亿参数的 Nemotron 推理骨干搭配扩散动作专家,在 DRIVE AGX Thor 上按需生成因果链推理与未来轨迹。在 AlpaGym 中做闭环强化学习后训练,使其闭环驾驶表现比未做该后训练的最佳检查点提升48.9%;按官方部署配方优化后,像素到轨迹的推理延迟为160至190毫秒,具体取决于推理量。

  2. arXiv

    视频模型学会看证据决定要不要推理:EVAThink用6.7K样本在32帧下平均63.5%,输出比全推理短约62%

    EVAThink把“这段采样帧够不够直接回答”变成训练信号:同一问题、同一答案下构造证据密集与证据稀疏两种视频视图,只保留稀疏视图直接作答变差、但显式推理能补回来的样本对,再用两阶段强化学习教模型在直接作答与推理之间切换。训练仅用6.7K样本,在32帧与64帧固定预算下六个视频理解基准的平均分分别为63.5%和65.6%,均高于基座Qwen3-VL-8B-Instruct;64帧下自适应模式比纯直接作答和纯推理分别高2.3和3.6个百分点,输出长度比纯推理少约62%。

  3. arXiv

    音频推理不再整段等长:模型先给每个推理段自评难度,MMAR准确率62.0%而token降六成

    音频大模型做显式推理时,此前多用一个整体难度信号决定要不要多想,难以指导推理链内部各段该分配多少算力。SWEAR把难度拆成声学质量、声学复杂度与推理需求等五个维度,先离线给推理链的规划、描述、推理三段打分并压缩参考轨迹,再让模型在监督微调中学会在生成每段之前先预测该段难度,随后用强化学习按自评难度控制各段长度。在MMAU-test-mini与MMAR上,相比无难度监督的CoTA-SFT,准确率分别提高2.6与6.3个百分点,生成token减少60.1%与62.3%。

已读完全部报道