跳到主要内容
检索

Xincheng Wei

1 篇关联报道

订阅更新
  1. arXiv

    Meituan LongCat 团队用教师参数邻域扰动把 Qwen3 数学推理平均分再提 1.67–2.75 分

    该工作提出 Neighborhood OPSD(N-OPSD):在 on-policy self-distillation 中,对带参考解答的教师做局部参数扰动得到一批冻结专家,离线按“超出当前专家池最优的过滤参考 token 增益”贪心挑选互补专家,在线用 MaxPeak 选锚 token、再用分位数规则在锚一致的专家中选监督强度,在 AIME 2024、AIME 2025、HMMT February 2025 三项基准的 Average@12 上,相对 OPSD 在 Qwen3-1.7B、4B、8B 上分别提升 2.75、1.67、1.94 分,且推理时只用蒸馏后的学生模型。

已读完全部报道