Liquid AI เปิดตัวตระกูล LFM3 ซึ่งประกอบด้วยโมเดลแบบเปิดน้ำหนักระดับ 2B จำนวนหกรุ่น

Liquid AI ประกาศเปิดตัว LFM3 เมื่อวันที่ 27 ตุลาคม 2026 ซึ่งเป็นโมเดล Liquid Foundation Models แบบเปิดน้ำหนักเจเนอเรชันใหม่ ที่รวมโมเดลด้านข้อความ การมองเห็น เสียง อเนกประสงค์ และการตัดสินใจไว้บนโครงข่ายหลักเดียวกัน การเปิดตัวครั้งแรกซึ่งมีรายละเอียดในโพสต์บนบล็อก Hugging Face ครอบคลุมโมเดลหกรุ่นในช่วงพารามิเตอร์ 2B

โมเดลหกรุ่นบนโครงข่ายหลักเดียวกัน

โมเดล LFM3 ทุกรุ่นพัฒนาต่อยอดจาก LFM3-1.7B-Base รุ่นเดียวกัน LFM3-1.7B รับข้อความเข้าและส่งข้อความออก LFM3-VL-2B รับข้อความ รูปภาพ และวิดีโอ แล้วส่งข้อความออก ส่วน LFM3-Audio-2B รับข้อความหรือเสียง และตอบกลับเป็นข้อความหรือเสียงพูด LFM3-Omni-2B ซึ่ง Liquid AI ระบุว่าเป็นโมเดลอเนกประสงค์รุ่นแรกของบริษัท รับข้อความ รูปภาพ วิดีโอ และเสียง แล้วสร้างข้อความและเสียงพูด ส่วนโมเดลตัดสินใจสองรุ่น ได้แก่ d1-2B และ d1-omni-2B ได้รับการปรับแต่งเฉพาะทางจากโมเดลด้านการมองเห็นและโมเดลอเนกประสงค์ โดยให้คำตอบที่ผ่านการปรับเทียบ แทนการสร้างข้อความ

ตามข้อมูลในการ์ดโมเดล LFM3-1.7B โมเดลข้อความมีพารามิเตอร์ 1.73B รองรับบริบทขนาด 256K โทเคน มีคลังคำศัพท์ 128,000 โทเคน รองรับ 16 ภาษา และเผยแพร่ภายใต้ LFM Open License v1.0 โมเดลฐานและโมเดลที่ผ่านการฝึกเพิ่มเติมเปิดเผยน้ำหนักและพร้อมใช้งานบน Hugging Face, Liquid AI Playground และ Liquid AI API

โพสต์ประกาศเปิดตัวของ Liquid AI ระบุพันธมิตรที่เข้าร่วมตั้งแต่วันแรก ได้แก่ Ambarella, AMD, Arm, Intel ผ่าน OpenVINO, NVIDIA, OpenRouter, Qualcomm ผ่าน Qualcomm AI Hub และ GenieX รวมถึง Vercel และระบุว่า Mercedes-Benz กับ Shopify ร่วมทดสอบและประเมินโมเดลก่อนเปิดตัว

สถาปัตยกรรมไตรไฮบริดและการฝึก

LFM3-1.7B-Base มี 24 ชั้น ได้แก่ ชั้นคอนโวลูชันระยะสั้นแบบมีเกต 13 ชั้น ชั้นแอตเทนชันแบบหน้าต่างเลื่อน 5 ชั้น ซึ่งมีหน้าต่างขนาด 256 โทเคน และชั้นแอตเทนชันทั่วโลก 6 ชั้น คอนโวลูชันใช้เคอร์เนลขนาด 7 เพิ่มจากขนาด 3 ใน LFM2 อีกสามการเปลี่ยนแปลงที่กำหนดโครงข่ายหลัก ได้แก่ แอตเทนชันแบบมีเกตแยกตามหัว ซึ่งใช้เกตซิกมอยด์ปรับสเกลเอาต์พุตของหัวแอตเทนชันแต่ละหัว และสามารถกดค่ากระตุ้นที่สูงผิดปกติซึ่งส่งผลเสียต่อการควอนไทซ์ได้, RoPE แบบบางส่วน ซึ่งชั้นแอตเทนชันทั่วโลกจะหมุนเฉพาะครึ่งหนึ่งของแต่ละหัวที่มีความถี่สูงที่สุด ขณะที่ชั้นหน้าต่างเลื่อนยังคงใช้ RoPE เต็มรูปแบบ และแซนด์วิชนอร์ม ซึ่งปรับนอร์มัลไลซ์ทั้งอินพุตและเอาต์พุตของแต่ละบล็อก

การออกแบบนี้มาจากการค้นหาสถาปัตยกรรมของ Liquid AI โดยทดสอบร่วมกับฮาร์ดแวร์ และขยายสำหรับ LFM3 ให้ครอบคลุมการจับคู่อุปกรณ์กับแบ็กเอนด์ 14 แบบ ซึ่งรวมถึงโทรศัพท์ (Samsung Galaxy S26 Ultra และ OnePlus 15), Raspberry Pi 5, แล็ปท็อป (Apple M4 Max และ AMD Ryzen AI), ซีพียูคลาวด์ Arm และ x86, จีพียู และ NPU Qualcomm Hexagon

LFM3-1.7B-Base ผ่านการฝึกล่วงหน้าด้วยโทเคน 22T โดยโทเคน 3.5T สุดท้ายเป็นช่วงการฝึกระยะกลางด้วยข้อมูลที่คัดสรร ซึ่งมีสัดส่วนร่องรอยการทำงานแบบเอเจนต์และการเรียกใช้เครื่องมือเพิ่มขึ้น และยังขยายหน้าต่างบริบทเป็น 256K โทเคนด้วย การฝึกหลังการฝึกล่วงหน้าดำเนินการ 4 ขั้นตอน ได้แก่ การปรับแต่งแบบมีผู้สอนด้วยโทเคน 1.75T, การเรียนรู้แบบเสริมกำลังแบบผสม, การกลั่นความรู้แบบออนโพลิซีหลายโดเมนจากโมเดลครูด้านการเรียนรู้แบบเสริมกำลังเฉพาะทาง 6 รุ่น และการเรียนรู้แบบเสริมกำลังเชิงเอเจนต์ภายในชุดเครื่องมือสำหรับเอเจนต์ที่ใช้งานจริง

Liquid AI ระบุว่าสถาปัตยกรรมใหม่ช่วยให้ LFM3-1.7B ทำผลงานเหนือกว่า LFM2.5-2.6B รุ่นก่อนหน้า โดยใช้พารามิเตอร์น้อยลง 35% และเมื่อเทียบต่อพารามิเตอร์ โมเดลนี้ทำได้ทัดเทียม LFM2-1.2B สำหรับพรอมป์ต์สั้น พร้อมทำงานเร็วขึ้นประมาณ 25% เมื่อมีบริบท 8K โทเคน บริษัทระบุว่าโมเดลข้อความใช้หน่วยความจำประมาณ 1 GB เมื่อทำงานที่ความละเอียด 4 บิต

ประสิทธิภาพและความเชี่ยวชาญเฉพาะทางตามรายงานของบริษัท

Liquid AI รายงานว่า LFM3-1.7B ได้คะแนน 38.42 บน WebArena-Verified เทียบกับ 3.02 ของ LFM2.5-2.6B โดยพัฒนาขึ้นมากที่สุดในงานเชิงเอเจนต์ อย่างไรก็ตาม การ์ดโมเดลระบุว่าไม่แนะนำให้ใช้โมเดลนี้กับการเขียนโค้ดเชิงเอเจนต์หรือการให้เหตุผลหลายขั้นตอนที่ซับซ้อน เนื่องจากมีขนาดเล็ก

Liquid AI ระบุว่า LFM3-VL-2B เป็นโมเดลด้านการมองเห็นรุ่นแรกของ LFM ที่รับวิดีโอเป็นอินพุตได้ และรายงานว่าโมเดลนี้เพิ่มคะแนนเฉลี่ยในการทดสอบด้านการมองเห็น 62 รายการจาก 57.6 เป็น 71.4 เมื่อเทียบกับLFM2.5-VL-3B ทั้งยังใช้พารามิเตอร์ 1.9B เทียบกับ 3.1B ทำให้มีประสิทธิภาพทัดเทียม Gemma 4 12B ซึ่งมีขนาดใหญ่กว่าถึงกว่า 6 เท่า ตัวเข้ารหัสการมองเห็นที่พัฒนาขึ้นใหม่ภายในบริษัทมีพารามิเตอร์ 164M ใช้การประมวลผลน้อยกว่าตัวเข้ารหัส SigLIP2 ในโมเดล LFM VL รุ่นก่อนหน้า 3 เท่า และให้ความแม่นยำทัดเทียมตัวเข้ารหัสการมองเห็นของ Qwen3.5-2B โดยใช้ FLOPs น้อยลง 2.2 เท่า ตามผลการวัดของบริษัท

LFM3-Audio-2B รองรับ 18 ภาษา และ Liquid AI รายงานว่ามีคุณภาพเสียงพูด 3.83 บน UTMOSv2 เทียบกับ 3.22 ของ LFM2.5-Audio-1.5B โมเดลนี้ยังมีตัวเข้ารหัสเสียงแบบเป็นเหตุเป็นผลอย่างสมบูรณ์ ซึ่งใช้เวลาไปจนถึงโทเคนแรกเพียง 50 ms และมีตัวแปลงโทเคนไนเซอร์ LiquidCodec ที่สร้างเสียงพูดได้เร็วประมาณ 87 เท่าของเวลาจริง โดยใช้เธรดซีพียูเพียงเธรดเดียวบน Apple M4 Max บริษัทยังระบุว่า LFM3-Omni-2B ซึ่งมีพารามิเตอร์ 2.2B ทำผลงานเหนือกว่าโมเดลที่มีพารามิเตอร์สูงสุด 10.7B รวมถึง Qwen2.5-Omni-7B ในเกณฑ์ทดสอบความเข้าใจเสียงและภาพและเสียง ได้แก่ Daily-Omni, WorldSense และ AV-SpeakerBench

โมเดลตัดสินใจตอบคำถามเป็นชุดได้ในรอบการประมวลผลแบบเดินหน้าเพียงครั้งเดียว โดยให้ความน่าจะเป็นที่ผ่านการปรับเทียบสำหรับคำตอบแต่ละข้อ และยังรองรับคำตอบแบบระบุชนิด ซึ่งชี้ไปยังวัตถุ อ่านค่าจากเอกสาร ประมาณตัวเลขพร้อมระบุช่วง และเลือกทุกตัวเลือกที่ตรงตามเงื่อนไข Liquid AI ระบุว่า d1-2B มาแทน d1-3B โดยใช้พารามิเตอร์น้อยลงหนึ่งในสาม และได้คะแนน 75.5 เทียบกับ 64.0 บน ImajevBench

โมเดล LFM3 ทุกตัวสามารถปรับแต่งเพิ่มเติมบน GPU เพียงตัวเดียวได้ และ Liquid AI เผยแพร่โน้ตบุ๊กที่ครอบคลุมการปรับแต่งแบบมีผู้ควบคุมดูแล, DPO, GRPO และการฝึกล่วงหน้าต่อเนื่อง สำหรับโมเดลข้อความ วิชัน เสียง และมัลติโหมด ในตัวอย่างหนึ่งของบริษัท มีการปรับแต่ง LFM3-VL-2B ด้วยภาพใบพัดกังหันลมสาธารณะประมาณ 3,000 ภาพ เป็นเวลาสองสามชั่วโมงบน A100 หนึ่งตัว ส่งผลให้ความแม่นยำในการจำแนกข้อบกพร่องเพิ่มขึ้นเป็น 67% และค่า F1 สำหรับการตรวจจับเพิ่มจาก 0.003 เป็น 0.11 เมื่อทดสอบกับภาพที่กันไว้

Liquid AI ยังนำ LFM3-VL-2B มาปรับใช้เป็นโมเดลหุ่นยนต์สามแบบสำหรับการประสานงาน การนำทาง และการควบคุมหยิบจับ บริษัทระบุว่าโมเดลวิชัน-ภาษา-การกระทำสำหรับการควบคุมหยิบจับ ซึ่งฝึกกับหุ่นยนต์ 15 รูปแบบ ทำคะแนนความสำเร็จเฉลี่ยได้ 96.2% ในชุดทดสอบ LIBERO ทั้งสี่ชุด และ 45.7% ในงานบนโต๊ะของ RoboCasa-GR1 ขณะสร้างชุดคำสั่งการกระทำได้ภายในเวลาไม่ถึง 50 ms บน Jetson AGX Orin ที่ใช้ TensorRT FP16

ในด้านอัตราการประมวลผล Liquid AI ระบุว่า LFM3-1.7B สามารถสร้างโทเค็นได้ 3.6 พันล้านโทเค็นต่อวันบน NVIDIA B300 เพียงตัวเดียว เมื่อรองรับคำขอพร้อมกัน 1,024 รายการ โมเดลเหล่านี้มาพร้อมการรองรับโดยตรงสำหรับ llama.cpp, MLX และ vLLM บนฮาร์ดแวร์ของ Apple, AMD, NVIDIA และ Qualcomm โดยมีรูปแบบเช็กพอยต์ให้เลือก ได้แก่ BF16, FP8, NVFP4, GGUF, MLX และ ONNX