跳到主要内容
检索

Xiaomi (China)

3 篇关联报道

订阅更新
  1. researchsquare.com

    智能体训练不再只看最终成败:STEP-VERIFIER用日志里的前缀分叉给每一步打分

    工具调用型语言模型智能体往往要经过几十步交互才拿到一个成功或失败的最终标签,中间哪一步出错无从区分。STEP-VERIFIER把已记录的成功标注交互日志转成动作级比较:同一前缀下两条后续轨迹的平均最终回报之差,构成一对动作的优劣标签,再由Bradley-Terry排序头转成可校准的逐步分数。在Llama-3.1-8B-Instruct与Mistral-7B-Instruct两个骨干上,它在GAIA、ToolBench、AgentBoard的六组基准—骨干组合中平均指标均高于仅用最终分数的GRPO,且逐步分数与人工判断的一致率为81.5%。

  2. arXiv

    驾驶视觉语言模型蒸馏不再逐词对齐:先挑出关键短语,再按教师说法是否可信分配监督

    自动驾驶视觉语言模型的知识蒸馏此前对所有答案词元一视同仁,既稀释了与规划相关的语义,也会把教师自信但错误的说法传给学生。RSKD 先从标准答案中定位交通参与者、状态、空间关系等关键短语,再用冻结的句子编码器比较教师在这些短语上的预测与标准答案的语义一致性,据此让一致性高的位置更多接受教师分布监督、一致性低的位置更多接受标准答案监督。在 DrivingVQA、LingoQA 和 MapLMv2 上,RSKD 分别取得 16.60、0.672 和 81.82,在两个问答基准上优于所比较的 SFT、GKD 与 ToDi 学生基线,在 MapLMv2 上与 SFT 的 81.85 基本持平。

  3. arXiv

    AdaStep 用逐状态收缩系数自适应加权步级信用,在 ALFWorld、WebShop、ScienceWorld 上以低计算成本稳定超越基线

    作者提出 AdaStep,把「组内局部优势应多大程度修正轨迹级信号」建模为对潜在步级优势的均方误差估计问题,在显式条件采样假设下推导出最优的逐状态收缩系数,该系数具有信号占总方差之比的解释:当回报波动可归因于所选动作时保留局部信用,当下游随机性主导时抑制之;方法只需轻量标量计算,无需 critic、额外 rollout 或额外模型推理,在三个模型骨干与 ALFWorld、WebShop、ScienceWorld 上以低计算成本一致优于基线。

已读完全部报道