Meta把排序模型的缩放律交给自动搜索:34次上线平均降0.66%归一化熵,线上累计提升0.36%
Meta 的广告排序与检索模型族不再靠人工逐个模型试算容量分配。此前每个模型的缩放决策要花数天到数周训练,且架构维度相互耦合、难以单独放大。Axia 用缩放层把嵌入维度、交互深度和交互宽度三个控制量映射成完整架构,再用贝叶斯代理模型挑选少量训练试验。在两个开发周期的 34 次模型迭代中,离线归一化熵平均相对改善 0.66%,线上关键指标累计提升 0.36%。
Meta 的广告排序与检索模型族不再靠人工逐个模型试算容量分配。此前每个模型的缩放决策要花数天到数周训练,且架构维度相互耦合、难以单独放大。Axia 用缩放层把嵌入维度、交互深度和交互宽度三个控制量映射成完整架构,再用贝叶斯代理模型挑选少量训练试验。在两个开发周期的 34 次模型迭代中,离线归一化熵平均相对改善 0.66%,线上关键指标累计提升 0.36%。
已读完全部报道