Liquid AI випускає сімейство LFM3: шість моделей класу 2B з відкритими вагами

27 жовтня 2026 року Liquid AI оголосила про LFM3 — нове покоління фундаментальних моделей Liquid із відкритими вагами, яке об’єднує текстові, візуальні, аудіо-, омні-моделі та моделі для ухвалення рішень на єдиній спільній базовій архітектурі. Перший випуск охоплює шість моделей із приблизно 2 млрд параметрів; подробиці наведено в дописі в блозі Hugging Face.

Шість моделей на єдиній спільній базовій архітектурі

Усі моделі LFM3 походять від однієї базової моделі LFM3-1.7B-Base. LFM3-1.7B отримує на вході текст і повертає текст. LFM3-VL-2B приймає текст, зображення та відео й повертає текст, тоді як LFM3-Audio-2B приймає текст або аудіо та відповідає текстом або мовленням. LFM3-Omni-2B, яку Liquid AI описує як свою першу омні-модель, приймає текст, зображення, відео й аудіо та генерує текст і мовлення. Дві моделі для ухвалення рішень — d1-2B і d1-omni-2B — спеціалізовані версії візуальної та омні-моделі; замість згенерованого тексту вони повертають відкалібровані відповіді.

Згідно з карткою моделі LFM3-1.7B, текстова модель має 1,73 млрд параметрів, контекстне вікно на 256 тис. токенів, словник із 128 000 токенів і підтримує 16 мов. Модель випускається за ліцензією LFM Open License v1.0. Базова модель і моделі після донавчання мають відкриті ваги й доступні на Hugging Face, у Liquid AI Playground та через Liquid AI API.

У дописі про випуск Liquid AI називає партнерів, які долучилися в день запуску: Ambarella, AMD, Arm, Intel через OpenVINO, NVIDIA, OpenRouter, Qualcomm через Qualcomm AI Hub і GenieX, а також Vercel. Також у дописі зазначено, що Mercedes-Benz і Shopify співпрацювали з компанією під час тестування й оцінювання до випуску.

Тригібридна архітектура та навчання

LFM3-1.7B-Base має 24 шари: 13 коротких згорток із керуванням, п’ять шарів уваги з ковзним вікном на 256 токенів і шість шарів глобальної уваги. Розмір ядра згорток становить 7 — порівняно з 3 у LFM2. Архітектуру базової моделі також визначають три зміни: увага з керуванням на рівні голів, де сигмоїдний елемент керування масштабує вихід кожної голови механізму уваги й може пригнічувати активаційні викиди, що погіршують квантування; часткове RoPE, за якого в шарах глобальної уваги обертається лише половина кожної голови з найвищими частотами, тоді як у шарах із ковзним вікном використовується повне RoPE; і сендвіч-нормалізація, яка нормалізує вхід і вихід кожного блоку.

Архітектуру створили за допомогою пошуку з перевіркою на реальному обладнанні, який Liquid AI розширила для LFM3 до 14 комбінацій пристроїв і бекендів. Серед них — телефони (Samsung Galaxy S26 Ultra та OnePlus 15), Raspberry Pi 5, ноутбуки (Apple M4 Max і AMD Ryzen AI), хмарні процесори Arm і x86, графічні процесори та нейронний процесор Qualcomm Hexagon.

LFM3-1.7B-Base попередньо навчали на 22 трлн токенів; останні 3,5 трлн токенів становили етап проміжного навчання на відібраних даних із більшою часткою трас агентних дій і викликів інструментів. На цьому етапі контекстне вікно також збільшили до 256 тис. токенів. Подальше навчання проходило в чотири етапи: контрольоване донавчання на 1,75 трлн токенів, змішане навчання з підкріпленням, багатодоменна дистиляція за політикою на основі даних шести спеціалізованих моделей-учителів із навчанням з підкріпленням і агентне навчання з підкріпленням у реальних середовищах для агентів.

За словами Liquid AI, нова архітектура дає змогу LFM3-1.7B перевершувати попередню модель LFM2.5-2.6B, маючи на 35% менше параметрів. У розрахунку на один параметр модель не поступається LFM2-1.2B на коротких запитах, водночас працюючи приблизно на 25% швидше за контексту в 8 тис. токенів. За точності 4 біти текстова модель потребує близько 1 ГБ пам’яті, повідомила компанія.

Результати тестування та спеціалізація за даними компанії

За даними Liquid AI, результат LFM3-1.7B у WebArena-Verified становить 38,42 бала проти 3,02 бала в LFM2.5-2.6B; найбільший приріст зафіксовано у завданнях для агентів. Водночас у картці моделі зазначено, що її не рекомендують для агентного програмування чи складних багатоетапних міркувань через її невеликий розмір.

Liquid AI повідомила, що LFM3-VL-2B — перша візуальна модель LFM, яка приймає відео на вході. За даними компанії, середній результат на 62 тестах для оцінювання візуальних можливостей зріс із 57,6 до 71,4 порівняно з LFM2.5-VL-3B, хоча нова модель має 1,9 млрд параметрів проти 3,1 млрд. За результатами вона не поступається Gemma 4 12B — моделі, яка більш ніж ушестеро більша. Новий власний візуальний енкодер на 164 млн параметрів потребує втричі менше обчислювальних ресурсів, ніж енкодер SigLIP2 у попередніх моделях LFM VL, і, за вимірюваннями компанії, забезпечує таку саму точність, як візуальний енкодер Qwen3.5-2B, використовуючи в 2,2 раза менше FLOPs.

LFM3-Audio-2B підтримує 18 мов. За даними Liquid AI, якість мовлення моделі за показником UTMOSv2 становить 3,83 проти 3,22 у LFM2.5-Audio-1.5B. Модель також має повністю каузальний аудіоенкодер із часом до першого токена лише 50 мс і токенізатор LiquidCodec, який генерує мовлення приблизно у 87 разів швидше за реальний час на одному потоці центрального процесора Apple M4 Max. Компанія повідомила, що LFM3-Omni-2B із 2,2 млрд параметрів перевершує моделі розміром до 10,7 млрд параметрів, зокрема Qwen2.5-Omni-7B, у тестах на розуміння аудіовізуального контенту Daily-Omni, WorldSense та AV-SpeakerBench.

Моделі для ухвалення рішень відповідають на список запитань за один прямий прохід, надаючи для кожної відповіді відкалібровану ймовірність. Крім того, вони повертають типізовані відповіді: вказують на об’єкти, зчитують значення з документів, оцінюють числа в певному діапазоні та вибирають усі варіанти, що відповідають умовам. За словами Liquid AI, d1-2B замінює d1-3B, маючи на третину менше параметрів, і набирає 75,5 бала в ImajevBench проти 64,0.

Кожну модель LFM3 можна донавчати на одному графічному процесорі, а Liquid AI опублікувала ноутбуки з прикладами супервізованого донавчання, DPO, GRPO і продовження попереднього навчання для текстових, візуальних, аудіо- та омні-моделей. В одному з прикладів компанії модель LFM3-VL-2B донавчали кілька годин на одному A100 на приблизно 3 000 загальнодоступних фотографіях лопатей вітрових турбін. Це підвищило точність класифікації дефектів до 67%, а показник F1 для виявлення дефектів на відкладених фотографіях — з 0,003 до 0,11.

Liquid AI також адаптувала LFM3-VL-2B, створивши три робототехнічні моделі для оркестрування, навігації та маніпуляцій. За даними компанії, модель типу «бачення — мова — дія» для маніпуляцій, навчена на 15 робототехнічних конфігураціях, досягла середнього показника успішності 96,2% у чотирьох наборах LIBERO і 45,7% у настільних завданнях RoboCasa-GR1, генеруючи послідовності дій менш ніж за 50 мс на Jetson AGX Orin із TensorRT FP16.

Щодо пропускної здатності, Liquid AI повідомила, що LFM3-1.7B може обробляти 3,6 мільярда токенів на день на одному NVIDIA B300 за одночасного виконання 1 024 запитів. Моделі мають вбудовану підтримку llama.cpp, MLX і vLLM на обладнанні Apple, AMD, NVIDIA та Qualcomm; серед доступних варіантів контрольних точок — BF16, FP8, NVFP4, GGUF, MLX і ONNX.