Liquid AI bringt die LFM3-Familie mit sechs Modellen der 2B-Klasse und offenen Gewichten auf den Markt

Liquid AI kündigte LFM3 am 27. Oktober 2026 an. Die neue Generation der Liquid Foundation Models mit offenen Gewichten vereint Text-, Vision-, Audio-, Omni- und Entscheidungsmodelle auf einem gemeinsamen Backbone. Die erste Veröffentlichung umfasst sechs Modelle mit rund 2 Milliarden Parametern und wird in einem Beitrag im Hugging-Face-Blog näher erläutert.

Sechs Modelle auf einem gemeinsamen Backbone

Alle LFM3-Modelle gehen auf dasselbe Basismodell LFM3-1.7B-Base zurück. LFM3-1.7B verarbeitet Texteingaben und gibt Text aus. LFM3-VL-2B nimmt Text, Bilder und Videos entgegen und gibt Text aus, während LFM3-Audio-2B Text oder Audio entgegennimmt und mit Text oder Sprache antwortet. LFM3-Omni-2B, das Liquid AI als sein erstes Omni-Modell bezeichnet, verarbeitet Text, Bilder, Videos und Audio und erzeugt Text und Sprache. Zwei Entscheidungsmodelle, d1-2B und d1-omni-2B, sind aus den Vision- und Omni-Modellen abgeleitet und liefern kalibrierte Antworten statt generierten Text.

Laut der Modellkarte von LFM3-1.7B verfügt das Textmodell über 1,73 Milliarden Parameter, ein Kontextfenster von 256.000 Token, ein Vokabular mit 128.000 Token und Unterstützung für 16 Sprachen. Es wird unter der LFM Open License v1.0 veröffentlicht. Die Basis- und die nachtrainierten Modelle haben offene Gewichte und sind auf Hugging Face, im Liquid AI Playground und über die Liquid AI API verfügbar.

Im Beitrag zur Veröffentlichung nennt Liquid AI Ambarella, AMD, Arm, Intel über OpenVINO, NVIDIA, OpenRouter, Qualcomm über Qualcomm AI Hub und GenieX sowie Vercel als Partner zum Marktstart am ersten Tag. Mercedes-Benz und Shopify hätten sich an Tests und Bewertungen vor der Veröffentlichung beteiligt.

Tri-Hybrid-Architektur und Training

LFM3-1.7B-Base hat 24 Schichten: 13 kurze Faltungen mit Gate-Mechanismus, fünf Attention-Schichten mit gleitendem Fenster von 256 Token und sechs globale Attention-Schichten. Die Faltungen verwenden eine Kernelgröße von 7, gegenüber 3 bei LFM2. Drei weitere Neuerungen prägen das Backbone: eine Head-weise gesteuerte Attention, bei der ein Sigmoid-Gate die Ausgabe jedes Attention-Heads skaliert und Aktivierungsausreißer unterdrücken kann, die sich negativ auf die Quantisierung auswirken; partielles RoPE, bei dem in den globalen Attention-Schichten nur die Hälfte jedes Heads mit den höchsten Frequenzen rotiert wird, während die Schichten mit gleitendem Fenster vollständiges RoPE beibehalten; sowie eine Sandwich-Norm, die die Eingabe und die Ausgabe jedes Blocks normalisiert.

Das Design ging aus Liquid AIs hardware-in-the-loop-Architektursuche hervor, die für LFM3 auf 14 Kombinationen aus Geräten und Backends ausgeweitet wurde. Dazu gehörten Smartphones (Samsung Galaxy S26 Ultra und OnePlus 15), ein Raspberry Pi 5, Laptops (Apple M4 Max und AMD Ryzen AI), Arm- und x86-Cloud-CPUs, GPUs sowie die Qualcomm Hexagon NPU.

LFM3-1.7B-Base wurde mit 22 Billionen Token vortrainiert. Die letzten 3,5 Billionen Token bildeten eine Zwischentrainingsphase mit kuratierten Daten, die einen größeren Anteil an agentischen Ablaufspuren und Tool-Aufrufen enthielten und zugleich das Kontextfenster auf 256.000 Token erweiterten. Das Nachtraining erfolgte in vier Phasen: überwachtes Feintuning mit 1,75 Billionen Token, gemischtes bestärkendes Lernen, domänenübergreifende On-Policy-Destillation durch sechs spezialisierte Lehrmodelle für bestärkendes Lernen sowie agentisches bestärkendes Lernen in realen Agenten-Umgebungen.

Liquid AI zufolge ermöglicht die neue Architektur LFM3-1.7B, seinen Vorgänger LFM2.5-2.6B mit 35 % weniger Parametern zu übertreffen. Pro Parameter erreicht das Modell bei kurzen Prompts das Leistungsniveau von LFM2-1.2B und läuft bei einem Kontext von 8.000 Token zugleich etwa 25 % schneller. Bei einer Präzision von 4 Bit benötigt das Textmodell laut dem Unternehmen etwa 1 GB Speicher.

Vom Unternehmen gemeldete Leistung und Spezialisierung

Liquid AI berichtet, dass LFM3-1.7B auf WebArena-Verified 38,42 Punkte erzielt, gegenüber 3,02 Punkten für LFM2.5-2.6B. Die größten Zugewinne zeigten sich bei agentischen Aufgaben. Wegen seiner geringen Größe wird das Modell laut Modellkarte jedoch nicht für agentisches Programmieren oder komplexes mehrstufiges Schlussfolgern empfohlen.

Liquid AI zufolge ist LFM3-VL-2B das erste LFM-Vision-Modell, das Videoeingaben verarbeiten kann. Das Unternehmen berichtet, dass sich damit der Durchschnitt über 62 Vision-Benchmarks im Vergleich zu LFM2.5-VL-3B von 57,6 auf 71,4 erhöht, obwohl das Modell 1,9 Milliarden statt 3,1 Milliarden Parameter verwendet. Damit liegt es auf dem Niveau von Gemma 4 12B, einem mehr als sechsmal größeren Modell. Ein neuer, intern entwickelter Vision-Encoder mit 164 Millionen Parametern benötigt dreimal weniger Rechenleistung als der SigLIP2-Encoder früherer LFM-VL-Modelle und erreicht laut Messungen des Unternehmens bei 2,2-mal weniger FLOPs die Genauigkeit des Vision-Encoders von Qwen3.5-2B.

LFM3-Audio-2B unterstützt 18 Sprachen. Liquid AI berichtet für das Modell eine Sprachqualität von 3,83 auf UTMOSv2, gegenüber 3,22 für LFM2.5-Audio-1.5B. Der Audio-Encoder ist vollständig kausal und erreicht eine Zeit bis zum ersten Token von nur 50 ms. Ein LiquidCodec-Tokenizer erzeugt Sprache auf einem einzelnen CPU-Thread eines Apple M4 Max mit etwa 87-facher Echtzeitgeschwindigkeit. Das Unternehmen erklärte, das 2,2-Milliarden-Parameter-Modell LFM3-Omni-2B übertreffe bei den Audio- und Videoverständnis-Benchmarks Daily-Omni, WorldSense und AV-SpeakerBench Modelle mit bis zu 10,7 Milliarden Parametern, darunter Qwen2.5-Omni-7B.

Die Entscheidungsmodelle beantworten eine Liste von Fragen in einem einzigen Vorwärtsdurchlauf und weisen jeder Antwort eine kalibrierte Wahrscheinlichkeit zu. Außerdem liefern sie typisierte Antworten, die auf Objekte verweisen, Werte aus Dokumenten auslesen, Zahlen als Schätzungen mit einer Spanne angeben und alle zutreffenden Optionen auswählen. Liquid AI zufolge ersetzt d1-2B das Modell d1-3B mit einem Drittel weniger Parametern und erzielt auf ImajevBench 75,5 Punkte gegenüber 64,0.

Jedes LFM3-Modell lässt sich auf einer einzelnen GPU feinabstimmen. Liquid AI veröffentlichte Notebooks zu überwachter Feinabstimmung, DPO, GRPO und fortgesetztem Pretraining für die Text-, Vision-, Audio- und Omni-Modelle. In einem Beispiel aus einem Unternehmen wurde LFM3-VL-2B einige Stunden lang auf einer einzelnen A100 mit etwa 3.000 öffentlich zugänglichen Fotos von Windturbinenblättern feinabgestimmt. Dadurch stieg die Genauigkeit der Fehlerklassifizierung auf 67 %, und der F1-Wert für die Fehlererkennung erhöhte sich bei zurückgehaltenen Fotos von 0,003 auf 0,11.

Liquid AI passte LFM3-VL-2B außerdem zu drei Robotikmodellen für Orchestrierung, Navigation und Manipulation an. Das Unternehmen berichtet, dass das Vision-Language-Action-Modell für Manipulation, das mit 15 Ausführungsformen trainiert wurde, eine durchschnittliche Erfolgsquote von 96,2 % über die vier LIBERO-Suites hinweg und 45,7 % bei RoboCasa-GR1-Tischaufgaben erzielte. Dabei generierte es Aktionsblöcke in weniger als 50 ms auf einem Jetson AGX Orin mit TensorRT FP16.

Zur Verarbeitungsgeschwindigkeit erklärte Liquid AI, dass LFM3-1.7B auf einer einzelnen NVIDIA B300 bei 1.024 gleichzeitigen Anfragen täglich 3,6 Milliarden Token erzeugen kann. Die Modelle bieten native Unterstützung für llama.cpp, MLX und vLLM auf Hardware von Apple, AMD, NVIDIA und Qualcomm. Zu den Checkpoint-Varianten gehören BF16, FP8, NVFP4, GGUF, MLX und ONNX.