跳到主要内容
检索

# 逻辑推理

3 篇关联报道

订阅更新
  1. arXiv

    自蒸馏的教师也要学会教:TeachBack 双向偏好让 Qwen3 数学均分最高涨 4.3 分

    在线自蒸馏让同一个模型在只给题目时当学生、在附上参考解答时当教师,但参考解答会让教师给出又短又依赖答案的推理,学生学不到探索与自我纠错。TeachBack 把参考推理的末尾一段当作可选工作笔记注入教师提示,并同时优化两个方向的偏好:教师轨迹在只给题目的条件下应优于学生轨迹,学生轨迹在带特权信息的条件下反过来塑造教师。在 Qwen3-1.7B、4B、8B 上,数学平均分相对基座分别提高 4.3、2.2、2.5 分,骑士与无赖逻辑题平均分分别提高 6.1、3.9、7.5 分。

  2. arXiv

    不改一个权重,只把中间层跑两遍:Qwen3-1.7B 在 GSM8K 上从 42.30% 升到 79.61%

    LoOPSD 不改权重、只让同一模型重复执行一段中间层来造出更强的自教师,再把它的预测蒸馏回标准路径的学生;GSM8K 上 Qwen3-1.7B 在 400 token 思考预算下从 42.30% 升到 79.61%。

  3. arXiv

    预测正确、步骤错误?用共识推理知识图谱合成更稳健的思维链

    该工作先通过 PRMBench 与 ROSCOE 上的对照实验表明,向模型提供正确答案在多数设置下并不能稳定提升推理质量,据此把推理缺陷归因于推理轨迹的结构而非答案可知性,并提出 CRAFT:对每个样本采样 K 条候选轨迹,用 TF-IRF 提取共识术语并以 z-score 过滤步骤,将各轨迹转成以步骤为节点、逻辑关系为边的推理知识图谱并聚合为共识图谱,再按拓扑序逐步合成一条新轨迹;在 FLD、FOLIO、GSM8K、OlympiadBench 上,CRAFT 在 GPT-5.4-nano 与 o4-mini 两个骨干下取得最高或次高的标签预测准确率,并在 OlympiadBench 上以更少步骤同时取得最高准确率,其合成轨迹在 RO

已读完全部报道