跳到主要内容
检索

# 样本自适应零阶优化

1 篇关联报道

订阅更新
  1. arXiv

    零阶微调不再均匀抽样本:按样本重要性分配查询,收敛到同一损失最多快6倍

    零阶微调此前对训练样本一视同仁,SAZO改为在线学习每个样本的重要性并据此分配查询,在四个模型族上平均下游性能提升,达到同一训练损失所需查询数最多减少到六分之一。

已读完全部报道