跳到主要内容
检索

# CRD-4B

1 篇关联报道

订阅更新
  1. arXiv

    CRD 用多教师互评与步骤级拼接蒸馏推理能力,4B 学生模型在 MATH-500 达 97.3%、AIME'25 达 70.3%,仅用 50K 训练样本

    该工作提出协同推理蒸馏(CRD)框架,让 DeepSeek-R1 与 Gemini 2.5 Flash Thinking 两名教师迭代互评彼此推理、由双评判模型对每一步给出与最终答案无关的质量分,再用 Viterbi 式连贯性感知算法跨教师拼接高质量步骤,并以推理质量优化(RQO)配合课程式长度约束训练学生;CRD-4B 在 MATH-500 达 97.3%、AIME'25 达 70.3%,仅用 50K 训练样本。

已读完全部报道