# COAX类别导向专家分配

COAX 在预训练时按数据类别给指定专家子集加正向路由偏置，让占比很小的语言、模态或领域也能分到更大的专家份额，在 345M 到 10.6B 的 MoE 上低资源类别损失普遍下降，而推理仍走标准 top-k 路由。

COAX 在预训练时按数据类别给指定专家子集加正向路由偏置，让占比很小的语言、模态或领域也能分到更大的专家份额，在 345M 到 10.6B 的 MoE 上低资源类别损失普遍下降，而推理仍走标准 top-k 路由。