Liquid AI 发布 LFM3 系列：六款开放权重 20 亿参数级模型

Liquid AI 于 2026 年 10 月 27 日发布 LFM3。这是新一代开放权重 Liquid Foundation Models，将文本、视觉、音频、全模态和决策模型整合到同一共享主干架构上。首批推出的版本涵盖六款 20 亿参数级模型，详情见 Hugging Face 博客文章。

六款模型，共享同一主干架构

所有 LFM3 模型都基于同一个 LFM3-1.7B-Base 分支构建。LFM3-1.7B 接收文本并输出文本。LFM3-VL-2B 接收文本、图像和视频并输出文本；LFM3-Audio-2B 接收文本或音频，并以文本或语音作答。Liquid AI 称 LFM3-Omni-2B 是其首款全模态模型，它接收文本、图像、视频和音频，并生成文本和语音。两款决策模型 d1-2B 和 d1-omni-2B 分别基于视觉模型和全模态模型专门开发，输出经过校准的答案，而非生成文本。

根据 LFM3-1.7B 模型卡，这款文本模型有 17.3 亿个参数，上下文长度为 25.6 万个 token，词表包含 128,000 个 token，并支持 16 种语言；其采用 LFM Open License v1.0 发布。基础模型和后训练模型均为开放权重，可通过 Hugging Face、Liquid AI Playground 和 Liquid AI API 获取。

Liquid AI 的发布公告列出了首日发布合作伙伴：Ambarella、AMD、Arm、通过 OpenVINO 合作的 Intel、NVIDIA、OpenRouter、通过 Qualcomm AI Hub 和 GenieX 合作的 Qualcomm，以及 Vercel。公告还称，Mercedes-Benz 和 Shopify 参与了发布前的测试与评估。

三混合架构与训练

LFM3-1.7B-Base 共有 24 层：13 层门控短卷积、5 层滑动窗口注意力（窗口大小为 256 个 token），以及 6 层全局注意力。卷积核大小为 7，高于 LFM2 中的 3。还有三项改进构成了这一主干架构：按注意力头进行门控的注意力机制，通过 sigmoid 门缩放每个注意力头的输出，并可抑制会损害量化效果的激活离群值；部分 RoPE，即全局注意力层仅旋转每个注意力头中频率最高的一半，而滑动窗口层保留完整 RoPE；以及 sandwich norm，对每个模块的输入和输出进行归一化。

这套设计源自 Liquid AI 的硬件在环架构搜索。针对 LFM3，搜索范围扩展至 14 种设备与后端组合，包括手机（Samsung Galaxy S26 Ultra 和 OnePlus 15）、Raspberry Pi 5、笔记本电脑（Apple M4 Max 和 AMD Ryzen AI）、Arm 和 x86 云 CPU、GPU，以及 Qualcomm Hexagon NPU。

LFM3-1.7B-Base 的预训练使用了 22 万亿个 token，其中最后 3.5 万亿个 token 构成中期训练阶段，使用经过筛选的数据，其中智能体轨迹和工具调用所占比例更高；这一阶段还将上下文窗口扩展至 256K 个 token。后训练分为四个阶段：使用 1.75 万亿个 token 进行监督微调、混合强化学习、由六个专门的强化学习教师模型进行跨领域在线策略蒸馏，以及在真实智能体运行框架中进行智能体强化学习。

Liquid AI 表示，新架构使 LFM3-1.7B 的表现超越前代 LFM2.5-2.6B，参数量却少 35%；按参数量计算，它在短提示词上的表现与 LFM2-1.2B 相当，而在上下文长度为 8K 个 token 时，运行速度快约 25%。该公司还表示，文本模型在 4-bit 精度下约占用 1 GB 内存。

公司报告的性能表现与专项能力

Liquid AI 报告称，LFM3-1.7B 在 WebArena-Verified 上得分为 38.42，而 LFM2.5-2.6B 得分为 3.02，最大提升出现在智能体任务上。不过，模型卡指出，由于模型规模较小，不建议将其用于智能体编程或复杂的多步推理。

Liquid AI 表示，LFM3-VL-2B 是首款可接收视频输入的 LFM 视觉模型。该公司报告称，在 62 项视觉基准测试中的平均分从 57.6 提升至 71.4，高于 LFM2.5-VL-3B；其参数量为 19 亿个，而后者为 31 亿个。它的表现可与 Gemma 4 12B 相当，而后者的规模是其六倍多。公司内部新开发的视觉编码器有 1.64 亿个参数，计算量仅为以往 LFM VL 模型所用 SigLIP2 编码器的三分之一；根据该公司的测量结果，它的准确率与 Qwen3.5-2B 的视觉编码器相当，所需 FLOPs 仅为后者的 1/2.2。

LFM3-Audio-2B 支持 18 种语言。Liquid AI 报告称，其语音质量在 UTMOSv2 上得分为 3.83，而 LFM2.5-Audio-1.5B 为 3.22；它采用完全因果的音频编码器，首个 token 的生成时间最低可达 50 毫秒；其 LiquidCodec 分词器在 Apple M4 Max 的单个 CPU 线程上生成语音的速度约为实时速度的 87 倍。该公司表示，拥有 22 亿个参数的 LFM3-Omni-2B 在 Daily-Omni、WorldSense 和 AV-SpeakerBench 音视频理解基准测试中的表现，超过了包括 Qwen2.5-Omni-7B 在内、参数量最高达 107 亿的模型。

这些决策模型可在一次前向传播中回答一组问题，并为每个答案提供经过校准的概率；它们还可给出带类型的答案，用于指认物体、读取文档中的数值、估算数值范围，以及选出所有适用选项。Liquid AI 表示，d1-2B 以少三分之一的参数量取代 d1-3B，并在 ImajevBench 上取得 75.5 分，高于后者的 64.0 分。

每个 LFM3 模型都可以在单块 GPU 上进行微调。Liquid AI 发布了相关笔记本，涵盖文本、视觉、音频和全模态模型的监督微调、DPO、GRPO 及持续预训练。在一个公司案例中，LFM3-VL-2B 使用一块 A100 对约 3,000 张公开的风力涡轮机叶片照片进行了数小时的微调，使缺陷分类准确率提升至 67%，并将留出照片上的检测 F1 值从 0.003 提高到 0.11。

Liquid AI 还将 LFM3-VL-2B 改造为三种机器人模型，分别用于编排、导航和操作。该公司称，操作用视觉—语言—动作模型在 15 种具身形态上接受训练，在四个 LIBERO 测试套件中的平均成功率达到 96.2%，在 RoboCasa-GR1 桌面任务中的成功率达到 45.7%；该模型还能够在搭载 TensorRT FP16 的 Jetson AGX Orin 上，以不到 50 毫秒的时间生成动作块。

在吞吐量方面，Liquid AI 表示，LFM3-1.7B 在 1,024 个并发请求下，使用单块 NVIDIA B300 每天可生成 36 亿个词元。这些模型原生支持 llama.cpp、MLX 和 vLLM，可运行于 Apple、AMD、NVIDIA 和 Qualcomm 硬件，并提供 BF16、FP8、NVFP4、GGUF、MLX 和 ONNX 等检查点变体。