跳到主要内容
检索

# 拒绝样本来源选择

1 篇关联报道

订阅更新
  1. arXiv

    LinkedIn与多校团队发现:7B到72B学生模型用更小的冻结模型生成拒答,代码与数学表现反而更好且算力更省

    该研究在SODA式两阶段偏好蒸馏流程中固定提示、优选回答、SeqKD初始化、DPO目标与训练预算,只改变拒答来源,发现7B至72B的Qwen2.5学生在代码生成与数学推理上,用参数更少、推理算力更低的冻结Base模型生成拒答,比用学生自身拒答训练出的学生更强,并进一步用线性化特征模型给出有限时域效用界,提出混合来源、提示重分配与词元置换、按参考策略似然重选三类干预。

已读完全部报道