Liquid AI、オープンウェイトの2Bクラスモデル6種からなるLFM3ファミリーを発表

Liquid AIは2026年10月27日、テキスト、ビジョン、音声、オムニ、意思決定の各モデルを単一の共通バックボーンに統合した、新世代のオープンウェイトLiquid Foundation Models「LFM3」を発表した。Hugging Faceブログへの投稿で詳細が明らかにされた初回リリースでは、パラメーター数が2B規模のモデル6種が公開された。

共通バックボーンを基盤とする6つのモデル

LFM3の各モデルは、共通のLFM3-1.7B-Baseから派生している。LFM3-1.7Bはテキストを入力として受け取り、テキストを出力する。LFM3-VL-2Bはテキスト、画像、動画を受け取り、テキストを出力する。一方、LFM3-Audio-2Bはテキストまたは音声を受け取り、テキストまたは音声で応答する。Liquid AIが初のオムニモデルと説明するLFM3-Omni-2Bは、テキスト、画像、動画、音声を受け取り、テキストと音声を生成する。意思決定モデルのd1-2Bとd1-omni-2Bは、ビジョンモデルとオムニモデルをそれぞれ特化させたもので、生成テキストではなく、確率が適切に調整された回答を返す。

LFM3-1.7Bのモデルカードによると、テキストモデルのパラメーター数は1.73B、コンテキスト長は256Kトークン、語彙数は128,000で、16言語に対応しており、LFM Open License v1.0の下で提供される。ベースモデルと事後学習済みモデルはオープンウェイトで公開され、Hugging Face、Liquid AI Playground、Liquid AI APIから利用できる。

Liquid AIのリリース告知では、初日からのローンチパートナーとしてAmbarella、AMD、Arm、OpenVINO経由のIntel、NVIDIA、OpenRouter、Qualcomm AI HubおよびGenieX経由のQualcomm、Vercelが挙げられている。また、Mercedes-BenzとShopifyは、リリース前のテストと評価で提携したという。

三方式を組み合わせたアーキテクチャと学習

LFM3-1.7B-Baseは24層で構成される。内訳は、ゲート付き短畳み込み層が13層、ウィンドウ幅256トークンのスライディングウィンドウ注意層が5層、グローバル注意層が6層だ。畳み込みのカーネルサイズは7で、LFM2の3から拡大している。バックボーンを特徴づける変更点は、さらに3つある。1つ目はヘッド単位のゲート付き注意機構で、シグモイドゲートによって各注意ヘッドの出力を調整し、量子化に悪影響を及ぼす活性値の外れ値を抑制できる。2つ目は部分的RoPEで、グローバル注意層では各ヘッドの高周波数側の半分のみを回転させる一方、スライディングウィンドウ層ではRoPEを全体に適用する。3つ目はサンドイッチ正規化で、各ブロックの入力と出力を正規化する。

この設計は、Liquid AIがハードウェアを実際に組み込んで行ったアーキテクチャ探索から生まれた。LFM3では探索対象が拡大され、デバイスとバックエンドの組み合わせは14通りに及ぶ。これには、スマートフォン（Samsung Galaxy S26 Ultra、OnePlus 15）、Raspberry Pi 5、ノートパソコン（Apple M4 Max、AMD Ryzen AI）、Armおよびx86のクラウドCPU、GPU、Qualcomm Hexagon NPUが含まれる。

LFM3-1.7B-Baseは22Tトークンで事前学習された。そのうち最後の3.5Tトークンは中間学習段階に充てられ、厳選したデータを用いて、エージェント的な実行過程の記録やツール呼び出しの割合を高めた。この段階では、コンテキストウィンドウも256Kトークンに拡張された。事後学習は4段階で実施された。1.75Tトークンを使った教師ありファインチューニング、混合型強化学習、6つの専門的な強化学習教師モデルによる複数領域のオンポリシー蒸留、そして実際のエージェント実行環境内でのエージェント型強化学習だ。

Liquid AIによると、新しいアーキテクチャにより、LFM3-1.7Bは従来のLFM2.5-2.6Bを、パラメーター数が35%少ないにもかかわらず上回る。また、パラメーターあたりの性能では、短いプロンプトにおいてLFM2-1.2Bに匹敵し、コンテキスト長が8Kトークンの場合は約25%高速に動作するという。同社によれば、4ビット精度ではテキストモデルのメモリー使用量は約1 GBとなる。

同社が公表した性能とモデルの特化

Liquid AIの発表によると、LFM3-1.7BはWebArena-Verifiedで38.42を記録し、LFM2.5-2.6Bの3.02を上回った。特にエージェント型タスクで大きく向上したという。ただし、モデルカードには、規模が小さいため、エージェント型コーディングや複雑な多段階推論には推奨しないと記載されている。

Liquid AIによると、LFM3-VL-2Bは動画入力に対応した初のLFMビジョンモデルだ。同社の報告では、62のビジョンベンチマークの平均スコアは、LFM2.5-VL-3Bの57.6から71.4に向上した一方、パラメーター数は3.1Bに対して1.9Bに抑えられている。これは、6倍を超える規模のGemma 4 12Bに匹敵する性能だという。新たに開発された社内製の1億6,400万パラメーターのビジョンエンコーダーは、従来のLFM VLモデルに使われていたSigLIP2エンコーダーと比べて計算量が3分の1で済む。また同社の測定によると、Qwen3.5-2Bのビジョンエンコーダーと同等の精度を、FLOPsを2.2分の1に抑えて実現する。

LFM3-Audio-2Bは18言語に対応する。Liquid AIによると、音声品質はUTMOSv2で3.83を記録し、LFM2.5-Audio-1.5Bの3.22を上回った。また、完全因果型の音声エンコーダーは、最初のトークンが出力されるまでの時間が最短50 msで、LiquidCodecトークナイザーはApple M4 Max上のCPU 1スレッドでリアルタイムの約87倍の速度で音声を生成するという。同社はさらに、パラメーター数2.2BのLFM3-Omni-2Bが、Daily-Omni、WorldSense、AV-SpeakerBenchの音声・視覚理解ベンチマークで、Qwen2.5-Omni-7Bを含む最大10.7Bパラメーターのモデルを上回ると述べた。

意思決定モデルは、質問のリストに対して1回のフォワードパスで回答し、各回答に確率の較正値を付与する。また、対象物を指し示す、文書から値を読み取る、範囲を示して数値を推定する、該当する選択肢をすべて選ぶといった、型付きの回答にも対応する。Liquid AIによると、d1-2Bはd1-3Bを置き換えるモデルで、パラメーター数は3分の1少なく、ImajevBenchのスコアは64.0から75.5に向上した。

すべてのLFM3モデルは単一のGPUでファインチューニングできます。また、Liquid AIは、テキスト、ビジョン、音声、オムニの各モデルを対象とした教師ありファインチューニング、DPO、GRPO、継続事前学習のノートブックを公開しました。ある企業の事例では、LFM3-VL-2Bを、公開されている風力タービンのブレード写真約3,000枚を使い、単一のA100で数時間かけてファインチューニングした結果、欠陥分類の精度が67%に向上し、未学習の写真に対する検出F1スコアは0.003から0.11に上昇しました。

Liquid AIはまた、LFM3-VL-2Bを、ロボットの統括制御、ナビゲーション、操作を担う3つのモデルに適応させました。同社によると、15種類のロボット形態で学習した操作向けの視覚・言語・行動モデルは、4つのLIBEROスイート全体で平均成功率96.2%を達成し、RoboCasa-GR1の卓上タスクでは45.7%を記録しました。また、Jetson AGX Orin上でTensorRT FP16を使用し、50ミリ秒未満でアクションチャンクを生成しました。

スループットについて、Liquid AIは、LFM3-1.7Bが単一のNVIDIA B300で1,024件の同時リクエストを処理する場合、1日あたり36億トークンを生成できると述べています。モデルは、Apple、AMD、NVIDIA、Qualcommのハードウェア上でllama.cpp、MLX、vLLMをネイティブにサポートし、チェックポイントにはBF16、FP8、NVFP4、GGUF、MLX、ONNXの各バリアントが用意されています。