跳到主要内容
检索

# LEAF(轻量嵌入对齐框架)

1 篇关联报道

订阅更新
  1. MongoDB | Blog

    MongoDB Research发布LEAF蒸馏框架:23M参数嵌入模型保留教师97%性能,无需GPU即可检索

    MongoDB Research 发布 LEAF 知识蒸馏框架,并公开两个 23M 参数文本嵌入模型 mdbr-leaf-ir 与 mdbr-leaf-mt。此前高性能嵌入模型动辄上亿至数十亿参数,通常依赖 GPU 服务器,且不同模型之间嵌入不兼容,换模型需重算全部文档向量。LEAF 只对齐教师与学生输出嵌入,蒸馏模型保留教师最高 97% 的性能,体积小 5–15 倍、速度快 7–24 倍,可在纯 CPU、物联网与移动设备上离线运行。

已读完全部报道