Liquid AI запускает семейство LFM3: шесть моделей с открытыми весами класса 2 млрд параметров

27 октября 2026 года Liquid AI представила LFM3 — новое поколение моделей Liquid Foundation Models с открытыми весами, объединяющее модели для работы с текстом, изображениями, аудио, мультимодальными данными и принятия решений на единой базовой архитектуре. В первый релиз вошли шесть моделей с примерно 2 млрд параметров; подробнее о них рассказано в публикации в блоге Hugging Face.

Шесть моделей на единой базовой архитектуре

Все модели LFM3 созданы на основе одной и той же LFM3-1.7B-Base. LFM3-1.7B принимает на вход текст и возвращает текст. LFM3-VL-2B принимает текст, изображения и видео и возвращает текст, а LFM3-Audio-2B принимает текст или аудио и отвечает текстом или речью. LFM3-Omni-2B, которую Liquid AI называет своей первой универсальной мультимодальной моделью, принимает текст, изображения, видео и аудио и генерирует текст и речь. Две модели для принятия решений — d1-2B и d1-omni-2B — созданы на основе моделей для работы с изображениями и универсальной мультимодальной модели и выдают калиброванные ответы, а не сгенерированный текст.

Согласно карточке модели LFM3-1.7B, текстовая модель содержит 1,73 млрд параметров, имеет контекстное окно на 256 тыс. токенов и словарь из 128 000 токенов, поддерживает 16 языков и распространяется по лицензии LFM Open License v1.0. Базовая модель и модели после дополнительного обучения имеют открытые веса и доступны на Hugging Face, в Liquid AI Playground и через Liquid AI API.

В публикации о выпуске Liquid AI перечисляет партнеров, присоединившихся в день запуска: Ambarella, AMD, Arm, Intel через OpenVINO, NVIDIA, OpenRouter, Qualcomm через Qualcomm AI Hub и GenieX, а также Vercel. Компания также сообщает, что Mercedes-Benz и Shopify участвовали в тестировании и оценке моделей до их выпуска.

Триархитектура и обучение

LFM3-1.7B-Base состоит из 24 слоев: 13 коротких сверточных слоев с вентильным управлением, пяти слоев внимания с скользящим окном размером 256 токенов и шести слоев глобального внимания. Размер ядра свертки составляет 7 — по сравнению с 3 в LFM2. Архитектуру также определяют три нововведения: вентильное управление вниманием на уровне голов, при котором сигмоидальный вентиль масштабирует выход каждой головы внимания и может подавлять выбросы активаций, ухудшающие квантование; частичное применение RoPE, при котором в слоях глобального внимания повороту подвергается только половина голов с наибольшими частотами, а в слоях со скользящим окном сохраняется полное применение RoPE; и нормализация типа «сэндвич», которая нормализует вход и выход каждого блока.

Архитектуру разработали с помощью поиска конфигураций с учетом аппаратного обеспечения, проводимого Liquid AI. Для LFM3 число проверяемых сочетаний устройств и программных платформ увеличили до 14. В их числе — смартфоны (Samsung Galaxy S26 Ultra и OnePlus 15), Raspberry Pi 5, ноутбуки (Apple M4 Max и AMD Ryzen AI), облачные процессоры Arm и x86, графические процессоры и нейропроцессор Qualcomm Hexagon.

Предварительное обучение LFM3-1.7B-Base проводилось на 22 трлн токенов. Последние 3,5 трлн токенов использовались на промежуточном этапе обучения на отобранных данных с большей долей последовательностей действий агентов и вызовов инструментов; на этом этапе контекстное окно также расширили до 256 тыс. токенов. Дополнительное обучение прошло в четыре этапа: контролируемая тонкая настройка на 1,75 трлн токенов, обучение с подкреплением на смешанных данных, дистилляция по нескольким предметным областям в режиме on-policy от шести специализированных моделей-учителей, обученных с подкреплением, и обучение агентов с подкреплением в реальных программных средах для агентов.

По словам Liquid AI, новая архитектура позволяет LFM3-1.7B превосходить предшественницу LFM2.5-2.6B, используя на 35% меньше параметров. При расчете на один параметр модель не уступает LFM2-1.2B на коротких запросах и работает примерно на 25% быстрее при контекстном окне в 8 тыс. токенов. Компания также сообщила, что при 4-битной точности текстовой модели требуется около 1 ГБ памяти.

Производительность и специализация по данным компании

По данным Liquid AI, LFM3-1.7B набирает 38,42 балла в WebArena-Verified против 3,02 у LFM2.5-2.6B; наиболее значительный прирост отмечен в задачах для агентов. Однако в карточке модели указано, что из-за небольшого размера ее не рекомендуется использовать для написания кода агентами или сложных многоэтапных рассуждений.

Liquid AI сообщила, что LFM3-VL-2B стала первой моделью LFM для работы с изображениями, принимающей на вход видео. По данным компании, средний результат модели в 62 тестах на понимание изображений вырос с 57,6 до 71,4 по сравнению с LFM2.5-VL-3B, хотя в ней используется 1,9 млрд параметров против 3,1 млрд. По этому показателю она сравнялась с Gemma 4 12B, моделью, более чем в шесть раз превосходящей ее по размеру. Новый разработанный компанией кодировщик изображений на 164 млн параметров требует в 3 раза меньше вычислительных ресурсов, чем кодировщик SigLIP2 в предыдущих моделях LFM VL, и обеспечивает такую же точность, как кодировщик изображений Qwen3.5-2B, при в 2,2 раза меньшем числе операций с плавающей запятой (FLOPs), согласно измерениям компании.

LFM3-Audio-2B поддерживает 18 языков. Liquid AI сообщает, что качество речи модели по метрике UTMOSv2 составляет 3,83 против 3,22 у LFM2.5-Audio-1.5B. Модель оснащена полностью каузальным аудиокодировщиком, который обеспечивает время до первого токена не более 50 мс, и токенизатором LiquidCodec, генерирующим речь примерно в 87 раз быстрее реального времени на одном потоке центрального процессора Apple M4 Max. По словам компании, модель LFM3-Omni-2B с 2,2 млрд параметров превосходит модели размером до 10,7 млрд параметров, включая Qwen2.5-Omni-7B, в тестах на аудиовизуальное понимание Daily-Omni, WorldSense и AV-SpeakerBench.

Модели для принятия решений за один прямой проход отвечают на список вопросов и указывают для каждого ответа откалиброванную вероятность. Кроме того, они выдают типизированные ответы: указывают на объекты, считывают значения из документов, оценивают числа с диапазоном возможных значений и выбирают все подходящие варианты. Liquid AI сообщила, что d1-2B заменяет d1-3B, содержит на треть меньше параметров и набирает 75,5 балла в ImajevBench против 64,0.

Каждую модель LFM3 можно дообучить на одном графическом процессоре. Liquid AI опубликовала ноутбуки с материалами по обучению с учителем, DPO, GRPO и дальнейшему предварительному обучению текстовых, визуальных, аудио- и omni-моделей. В одном из примеров компании LFM3-VL-2B несколько часов дообучали на одном A100 на примерно 3 000 общедоступных фотографиях лопастей ветряных турбин. Это повысило точность классификации дефектов до 67%, а показатель F1 для их обнаружения на отложенных фотографиях вырос с 0,003 до 0,11.

Liquid AI также адаптировала LFM3-VL-2B и создала на его основе три модели для робототехники: для оркестрации, навигации и манипуляций. По данным компании, модель «зрение — язык — действие» для манипуляций, обученная на 15 воплощениях, достигла средней успешности 96,2% в четырёх наборах тестов LIBERO и 45,7% в задачах с настольными объектами RoboCasa-GR1. При этом она генерировала блоки действий менее чем за 50 мс на Jetson AGX Orin с TensorRT FP16.

Говоря о пропускной способности, Liquid AI сообщила, что LFM3-1.7B может обрабатывать 3,6 миллиарда токенов в день на одном NVIDIA B300 при 1 024 одновременных запросах. Модели поставляются со встроенной поддержкой llama.cpp, MLX и vLLM для оборудования Apple, AMD, NVIDIA и Qualcomm; доступны варианты контрольных точек BF16, FP8, NVFP4, GGUF, MLX и ONNX.