跳到主要内容
检索

# 大语言模型推理

2 篇关联报道

订阅更新
  1. arXiv

    Seg-OPD 用教师重写片段训练学生修正推理,在数学与竞赛编程任务上平均相对提升 5.22%

    该工作提出片段级在线策略蒸馏(Seg-OPD):先用受控推理干预发现把学生推理片段替换为教师重写能提升后续推理准确率,再基于不确定性度量选取学生片段并获取对应教师重写,训练学生偏好教师重写而非配对学生片段,同时保留稠密 token 级在线策略蒸馏监督;在数学推理与竞赛编程任务上,Seg-OPD 训练的模型修正成功率高于基线,推理准确率一致优于所比较的当前最优基线,跨多种模型与任务平均相对提升 5.22%。

  2. arXiv

    TTCL 在无标签目标数据上同时提升大模型推理准确率与置信度校准,基座模型平均相对准确率提升 40.13%、ECE 降低 70.80%

    该工作提出免标签的测试时校准学习框架 TTCL,从多个模型自生成回答中导出正确性与校准的自监督信号,在无真值标签的目标任务数据上联合适配推理准确率与言语化置信度,并在数学推理与事实问答上报告了准确率与校准的同步改善。

已读完全部报道