跳到主要内容
返回时间线
Liquid AI来源发表:

Liquid AI 把文本、视觉、音频和决策模型压进同一套2B骨干,长上下文下比LFM2快约25%

核心概要

Liquid AI 发布 LFM3 系列,把文本、视觉、音频、全模态和决策模型统一到一套约2B参数的共享骨干上,基座与后训练权重以开放权重形式在 Hugging Face 和其 API 上线。新骨干由门控短卷积、滑动窗口注意力和全局注意力混合而成,预训练使用22T token,末段3.5T token 的中训练把上下文扩展到256K。按参数计,LFM3-1.7B 在边缘设备短提示上追平 LFM2-1.2B,在8K token 上下文下约快25%。

Source-provided article image: Introducing LFM3: Every Modality for Specialized Intelligence
Liquid AI

深度剖析

LFM3 把文本、视觉、音频、全模态和两类决策模型放到同一套约2B参数的共享骨干上,首个版本包含六个模型,全部从 LFM3-1.7B-Base 分支而来。 此前 LFM2 的混合架构是为设备端快速推理设计的,LFM3 则按智能体场景重新设计,要求每参数更高能力并能在长上下文上快速推理。 按参数计,LFM3-1.7B 在边缘设备短提示上与 LFM2-1.2B 持平,在8K token 上下文下约快25%。

新骨干由三种算子拼成:24层中13层是门控短卷积,5层是窗口为256 token 的滑动窗口注意力,6层是全局注意力,卷积核大小从 LFM2 的3提高到7。 LFM2 已证明短卷积与注意力的混合能在设备端快速运行而不牺牲质量,LFM3 在这套骨架上替换部分序列块,滑动窗口注意力给出最好的质量与速度折中。 架构搜索的硬件范围从 LFM2 时的一部手机和一台笔记本的 CPU,扩展到 LFM3 的14种设备与后端组合,包括手机、Raspberry Pi 5、笔记本、Arm 与 x86 云 CPU、GPU 和高通 Hexagon NPU。

文本模型 LFM3-1.7B 面向本地智能体,支持256K token 上下文,并针对 Hermes Agent、Pi、OpenClaw 等智能体框架做了后训练。 在设备端以 llama.cpp 的 Q4_0 量化和32K token 上下文测量时,LFM3-1.7B 在三台设备上都是最快的模型,解码速度比次快者快1.8到2.8倍,内存占用最低。 完整的128K token 上下文需要1.6 GB KV 缓存,而 Qwen3.5-4B 为4.3 GB、MiniCPM5-2B 为5.6 GB;在单张 NVIDIA B300 上用 SGLang 以 BF16 服务时,它在1024并发请求下每天可产出36亿 token。

启示与展望

已展示的范围是约2B参数的首批六个模型及其在边缘设备、单张 B300 和机器人仿真与真机数据上的测量;更细的性能与推理结果指向各模型卡。

发布方说明,更大的模型在智能体编程和知识类任务上仍然领先,搜索只是把知识差距缩小、让 Humanity's Last Exam 分数接近翻倍;视觉模型与 GPT-5.6 Luna 仍有约2分差距。