广告推荐不再为每个商品建ID:Meta改用语义词表,转化率提升0.35%
核心概要
Meta 把广告推荐系统的物品表示从“每个物品一个专属 ID”换成由稳定语义词表组成的短 token 序列,使模型能借助共享概念推断从未见过互动记录的新广告。该表示与 Meta 的生成式广告模型 GEM 和自适应排序模型配合,在广告主侧带来 0.35% 的转化提升,并同时用于检索与排序。
深度剖析
广告推荐系统开始用一组共享的语义 token 描述每个物品,而不是给每个广告、商品、页面和像素分配专属 ID,因此模型可以把没有互动记录的新物品关联到它已经熟悉的物品上。 此前的做法是为每个物品维护一个独立 ID,新上线的广告或冷门商品没有历史信号,模型只能从零开始学习它的表示。 与 Meta 的生成式广告模型 GEM 和自适应排序模型配合后,这套 token 化在生产中带来 0.35% 的转化提升,数据为 Meta 内部数据,测量于 2026 年 2 月。
做法是让预训练多模态模型先读广告、商品和页面的文字与图像,把内容编码成带有世界知识的向量,再把这个向量切成若干独立子空间并各自映射到码本中的条目,得到一串离散 token。 这套三阶段流程——编码成语义嵌入、分解为独立子空间、按子空间查码本量化——取代了直接为每个物品分配 ID 的方式,相似物品因此共享 token,就像相关词共享词根。 在测试的八个 tokenizer 版本中,聚类纯度、分布均衡度和码本利用率这些内在质量指标与下游排序预测准确率呈现强相关,内在指标更好的版本在广告模型的点击率预测上也更准。
启示与展望
这套表示已在 Meta 广告推荐系统的检索与排序中覆盖广告、商品、页面和像素等物品类型,并与 GEM 和自适应排序模型配合上线。0.35% 的转化提升来自 Meta 内部数据,测量时间为 2026 年 2 月。文中提出的后续方向包括扩大 token 化对所有物品的覆盖、把 tokenizer 质量作为一等目标,以及把压缩后的语言化 token 与语义 ID 结合以控制延迟。
0.35% 的转化提升是 Meta 内部数据,文中未给出对照基线或置信区间。内在质量指标与排序准确率的相关性来自八个 tokenizer 版本的观察,属于相关性而非因果结论。完全语言化的 token 化需要广告规模下不切实际的上下文窗口,目前仍在探索压缩方案。
