Liquid AI Mengirimkan LFM2.5-VL-3B untuk Vision-Language AI yang Lebih Cepat di Edge

Liquid AI merilis LFM2.5-VL-3B pada 12 Agustus 2026, yaitu model vision-language terbuka dengan 3,1 miliar parameter yang dirancang untuk berjalan di ponsel, laptop, dan GPU tunggal daripada di pusat data. Model ini, diumumkan di blog perusahaan dan diposting di Hugging Face dengan bobot yang tersedia segera, memperluas LFM2-VL-3B tahun lalu dengan pemahaman layar yang lebih kuat, grounding objek, penalaran multi-gambar, dan panggilan fungsi.

Perusahaan memposisikan rilis ini sebagai model visi paling mampu untuk perangkat self-hosted. Dalam posting rilis, Liquid AI menjelaskannya sebagai “model vision-language paling mampu”, yang “menyampaikan kinerja visi yang kompetitif melawan model yang dua kali lebih besar, sambil berjalan lebih cepat di berbagai penggunaan CPU dan GPU bahkan dibandingkan dengan model yang memiliki parameter lebih sedikit.”

Semua angka benchmark dan kecepatan dalam rilis ini dilaporkan oleh vendor: Liquid AI menjalankan evaluasi itu sendiri menggunakan vLLM 0.26.0, dengan setiap model dalam mode non-reasoning dan diprompts untuk menjawab langsung. Tidak ada evaluasi independen dari model baru ini yang ada saat ini, yang merupakan keadaan yang diharapkan pada hari rilis, meskipun liputan Unite.AI baru-baru ini tentang studi Amazon yang mengevaluasi beberapa model komparator yang sama mengilustrasikan mengapa perilaku transkripsi yang diukur secara independen dapat menyimpang dari skor benchmark yang bersih.

Bagaimana LFM2.5-VL-3B Membaca Layar, Dokumen, dan Beberapa Gambar

Model ini menggabungkan SigLIP2 400M NaFlex encoder visi dari Google dengan backbone pra-terlatih yang sama seperti model teks LFM2.5-2.6B Liquid AI, yang dirilis pada 4 Agustus 2026. Menurut kartu model, itu diterlatih pada sekitar 34 triliun token dengan empat kali lebih banyak data visi daripada pendahulunya, dan kamusnya diperluas menjadi 128.000 token dengan memperluas tokenizer yang ada daripada melakukan pelatihan ulang, perubahan yang ditujukan untuk skrip non-Latin. Pascapelancongan menggabungkan fine-tuning terawasi dengan pengetahuan distilasi dari model guru yang lebih besar, diikuti dengan pembelajaran penguatan multi-hadiah.

Empat area kemampuan mendefinisikan peningkatan atas LFM2-VL-3B. Pada pemahaman layar, model ini rata-rata 80,7 di seluruh split desktop, mobile, dan web dari ScreenSpot-v2, naik dari digit tunggal pada rilis sebelumnya dan jauh mendahului model Gemma-4-E4B 8 miliar parameter pada 50,9, meskipun di belakang model InternVL 3,5 4B pada 84,2. Pada grounding, di mana model ini mengembalikan kotak pembatas untuk objek yang digambarkan dalam bahasa alami, presisi RefCOCO melompat dari 57,1 menjadi 87,9, keuntungan lebih dari 30 poin yang Liquid AI atribusikan pada data grounding sintetis berskala.

Panggilan fungsi baru bagi lini visi perusahaan. Pada ToolSandbox, yang mengukur penggunaan alat, skor lebih dari dua kali lipat dari 26,4 menjadi 59,5, menempatkan model 3,1B sejajar dengan Gemma-4-E2B dan mendahului Qwen3.5-2B. Penalaran multi-gambar juga meningkat tajam, dengan BLINK naik dari 50,2 menjadi 61,5 dan MuirBench dari 34,9 menjadi 58,3.

Di seluruh suite visi 28-benchmark, LFM2.5-VL-3B rata-rata 69,4, perbaikan 12 poin atas 57,2 pendahulunya dan dalam 0,7 poin dari model Qwen3.5-4B 4,7 miliar parameter yang lebih besar. Rata-rata ini menyembunyikan tekstur yang sebenarnya: model ini kalah dari saingannya pada beberapa suite umum, dan sebenarnya kehilangan tanah pada CountBenchQA, yang turun dari 92,2 menjadi 87,3.

Apa yang Ditinggalkan Model Secara Sengaja

LFM2.5-VL-3B adalah model non-reasoning. Ia menjawab langsung daripada menghasilkan rantai pemikiran intermediate, pilihan desain yang Liquid AI kerangkakan sebagai optimasi latensi: kartu model merekomendasikannya untuk “tugas putaran tunggal, throughput tinggi, latensi rendah”, menamai deteksi objek waktu nyata untuk aplikasi otomotif, OCR batch dokumen yang discan, dan terjemahan perangkat menu dan tanda jalan sebagai beban kerja yang dimaksud.

Kartu yang sama menyatakan secara jelas apa yang tidak dimaksudkan model ini. Ia “tidak disarankan untuk tugas yang intensif alasan, seperti desain web visual, atau menjawab pertanyaan teknis yang sangat teknis tentang blueprint.” Panjang konteks adalah 32.768 token, dan kartu itu memperingatkan bahwa format OCR anotasi tata letak masih eksperimental, dan mungkin berubah, tidak dapat diandalkan, dan tidak mudah diparse.

Angka kecepatan yang mengaitkan rilis ini berasal dari desain itu. Liquid AI melaporkan kecepatan dekod 228 token per detik pada Apple M5 Max dan 116 token per detik pada AMD Ryzen AI Max+ 395, dalam sekitar 3 GB memori, dan 20 token per detik pada Galaxy S26 Ultra. Pada satu NVIDIA H100, perusahaan ini mengukur waktu ke token pertama sekitar 34 milidetik pada klip video lima frame, dibandingkan sekitar 200 milidetik untuk model Gemma, dan throughput output dekat 11.000 token per detik pada koneksi tinggi, yang dikatakan menambah hingga hampir satu miliar token output per hari pada satu kartu.

LFM2.5-VL-3B dalam Angka

• 3,1 miliar parameter; 34 triliun token pra-pelatihan; konteks 32.768 token
• 69,4 rata-rata di seluruh 28 benchmark visi, versus 57,2 untuk LFM2-VL-3B
• 80,7 rata-rata pada ScreenSpot-v2 pemahaman layar, naik dari 2,5 hingga 7,6 per split pada model sebelumnya
• 87,9 presisi RefCOCO grounding, naik dari 57,1
• 59,5 pada ToolSandbox panggilan fungsi, naik dari 26,4
• 228 token/s dekod pada Apple M5 Max; 20 token/s pada Galaxy S26 Ultra; sekitar 3 GB jejak memori
• Sekitar 11.000 token/s output pada koneksi tinggi pada satu H100

Apa yang Dikirimkan dengan LFM2.5-VL-3B

Bobotnya dapat diunduh sekarang dari Hugging Face dengan lisensi bobot terbuka, dengan ekspor kuantisasi dalam format GGUF, ONNX, dan MLX dan dukungan hari pertama di seluruh llama.cpp, MLX, vLLM, SGLang, dan runtime ONNX. Demo WebGPU menjalankan model ini sepenuhnya di browser, dan perusahaan ini menyebutkan 16 bahasa yang didukung termasuk Inggris, Arab, Cina, Jepang, dan Hindi.

Rilis ini melengkapi keluarga LFM2.5 yang Liquid AI kumpulkan melalui paruh kedua 2026: model teks LFM2.5-2.6B pada 4 Agustus 2026, varian encoder untuk inferensi CPU konteks panjang pada akhir Juli 2026, dan sekarang tingkat visi unggulan, yang mengikuti varian LFM2.5-VL-1,6B dan 450M yang lebih kecil. Buku catatan fine-tuning dan dokumentasi dikirimkan bersama bobot, sehingga model dapat disesuaikan dengan beban kerja grounding, OCR, atau panggilan fungsi tertentu sejak hari pertama.