低资源语言不再被专家池挤掉:给路由加一个类别偏置,推理时还能撤掉
COAX 在预训练时按数据类别给指定专家子集加正向路由偏置,让占比很小的语言、模态或领域也能分到更大的专家份额,在 345M 到 10.6B 的 MoE 上低资源类别损失普遍下降,而推理仍走标准 top-k 路由。
COAX 在预训练时按数据类别给指定专家子集加正向路由偏置,让占比很小的语言、模态或领域也能分到更大的专家份额,在 345M 到 10.6B 的 MoE 上低资源类别损失普遍下降,而推理仍走标准 top-k 路由。
已读完全部报道