Liquid AI เปิดตัว LFM2.5-DSpark เพื่อการสรุปผลเร็วขึ้นสูงสุด 3.2 เท่า

Liquid AI ปล่อยเช็คพอยท์การร่างด้วย speculative-decoding สำหรับโมเดลสามตัวในตระกูล LFM2.5 เมื่อวันที่ 20 สิงหาคม 2026 โดยรายงานอัตราการผ่านข้อมูลเพิ่มสูงสุดถึง 3.18 เท่าบน GPU H100 ตัวเดียวและสูงสุดถึง 2.87 เท่าบน MacBook ที่ใช้ชิป Apple‑silicon โดยไม่มีการเปลี่ยนแปลงผลลัพธ์ของโมเดล LFM2.5-DSpark release ครอบคลุมดราฟเตอร์สำหรับ LFM2.5-1.2B-Instruct, LFM2.5-2.6B และ mixture-of-experts LFM2.5-8B-A1B ซึ่งแต่ละตัวเพิ่มพารามิเตอร์ร่างประมาณ 300 ล้านตัวบนโมเดลเป้าหมาย

เช็คพอยท์ถูกจัดจำหน่ายในรูปแบบ Safetensors และ GGUF พร้อมการสนับสนุนตั้งแต่วันแรกใน llama.cpp และ SGLang ทั้งสองการรวมเข้ากับโค้ดฐานอย่างเป็นทางการ เนื่องจาก speculative decoding จะปล่อยโทเคนที่โมเดลเป้าหมายได้ตรวจสอบแล้ว บริษัทระบุว่าข้อความที่สร้างขึ้นนั้นเหมือนกับที่โมเดลเป้าหมายจะผลิตได้โดยใช้ greedy decoding เพียงอย่างเดียว ดังนั้นความแม่นยำของการทดสอบจึงไม่เปลี่ยนแปลง

การวัดผลของ Liquid AI ที่ทำด้วย batch size 1 และ temperature 0 บนห้าชุดข้อมูล แสดงให้เห็นว่าอัตราเร่งเฉลี่ยสำหรับ LFM2.5-2.6B อยู่ที่ 2.67 เท่าบน H100 (จาก 323 เป็น 864 โทเคนต่อวินาที) และ 2.27 เท่าบน M4 Max MacBook Pro (จาก 61 เป็น 139 โทเคนต่อวินาที) ผลลัพธ์เดี่ยวที่ใหญ่ที่สุดมาจาก LFM2.5-8B-A1B บน MATH500 ซึ่งอัตราการผ่านข้อมูลบน H100 เพิ่มขึ้น 3.18 เท่า จาก 428 เป็น 1,362 โทเคนต่อวินาที บริษัทยังรายงานว่า DSpark ลดความหน่วงของการเรียกฟังก์ชันโดยเฉลี่ย 57% สำหรับ LFM2.5-2.6B ในสถานการณ์หลายเครื่องมือ ซึ่งเป็นผลลัพธ์สำคัญสำหรับงานแบบ agentic บนอุปกรณ์ที่ LFM2.5 มุ่งหมาย

วิธีที่ DSpark เร่งความเร็วการถอดรหัส

ขั้นตอนการถอดรหัสของการสรุปผล LLM ถูกจำกัดโดยหน่วยความจำ: ความล่าช้าส่วนใหญ่เกิดจากการสตรีมเวทจาก DRAM ไปยังหน่วยความจำบนชิป มากกว่าการคำนวณเอง ซึ่งเป็นสาเหตุที่ เศรษฐศาสตร์การสรุปผลได้กลายเป็นปัญหาวิศวกรรมหลักของสาขานี้ speculative decoding แก้ไขโดยให้โมเดลร่างขนาดเล็กเสนอบล็อกของโทเคนผู้สมัคร แล้วตรวจสอบบล็อกทั้งหมดในหนึ่งรอบของโมเดลเป้าหมาย เพื่อลดค่าใช้จ่ายของการโหลดเวทต่อโทเคนที่ตรวจสอบ

DSpark ซึ่งถูกนำเสนอใน กระดาษเดือนกรกฎาคม 2026 โดยนักวิจัยของ DeepSeek และถูกใช้งานในระบบให้บริการ DeepSeek‑V4 ของบริษัทนั้น ประกอบด้วยสามส่วน: โครงหลังแบบขนานที่สร้างสถานะซ่อนสำหรับโทเคนร่างทั้งหมดในหนึ่งรอบ, หัวแบบต่อเนื่องที่มีน้ำหนักเบาซึ่งจำลองความสัมพันธ์ระหว่างโทเคนใกล้เคียงเพื่อรักษาอัตราการยอมรับไม่ให้ลดลงในภายหลังของบล็อก, และตัวตรวจสอบที่กำหนดตามความมั่นใจซึ่งตัดทอนส่วนต่อท้ายที่ความมั่นใจต่ำเมื่อการตรวจสอบนั้นมีค่าใช้จ่ายมากกว่าที่ประหยัดได้ ในการใช้งานจริงของ DeepSeek กระดาษระบุว่าการเร่งความเร็วการสร้างต่อผู้ใช้อยู่ระหว่าง 60‑85% เมื่อเทียบกับฐาน MTP‑1 ที่มีอัตราการผ่านข้อมูลเท่ากัน

ดราฟเตอร์ของ Liquid AI ปฏิบัติตามสูตรนี้ด้วยการออกแบบที่ใช้เฉพาะ attention เท่านั้น: ห้าชั้น, ขนาดบล็อกเป็นโทเคนร่าง 9 ตัวต่อขั้น, และหัว Markov บนพจนานุกรมขนาด 128,000 โทเคน ตาม การ์ดโมเดล LFM2.5-2.6B-DSpark ดราฟเตอร์แต่ละตัวได้รับการฝึก 15 รอบบนข้อมูลที่ผสมผสานระหว่างการฝึกแบบกำกับ, แชท, โค้ด, และการเรียกฟังก์ชัน โดยเลือกเช็คพอยท์จากอัตราการยอมรับสูงสุดแทนการสูญเสียต่ำสุด การรับประกันความแม่นยำทำให้คุณภาพดีขึ้น: “Speculative decoding is exact: the target verifies every proposed token, so greedy output equals the target alone,” ตามที่ระบุใน การ์ดโมเดล GGUF พร้อมแสดงเวลาตอบสนองต่อการตอบที่เผยให้เห็นจำนวนโทเคนร่างที่เสนอและได้รับการยอมรับ

LFM2.5-DSpark ตามตัวเลข

• 3.18x — ความเร็วเพิ่มสูงสุดที่รายงานบน GPU (LFM2.5-8B-A1B, MATH500, H100: 428 → 1,362 โทเคน/วินาที)
• 2.87x — ความเร็วเพิ่มสูงสุดที่รายงานบนอุปกรณ์ (LFM2.5-1.2B-Instruct, HumanEval, M4 Max: 136 → 389 โทเคน/วินาที)
• 2.67x / 2.27x — ความเร็วเพิ่มโดยเฉลี่ยบน H100 / M4 Max สำหรับ LFM2.5-2.6B บนห้าชุดข้อมูล
• 57%: การลดเวลาหน่วงการเรียกฟังก์ชันโดยเฉลี่ยสำหรับ LFM2.5-2.6B ในสถานการณ์หลายเครื่องมือ
• 295.7M–327.7M (พารามิเตอร์ของโมเดลร่าง, เทียบกับเป้าหมายที่ 1.2B ถึง 8B)
• 4.81 จาก 10, จำนวนโทเคนร่างที่ได้รับการยอมรับโดยเฉลี่ยต่อขั้นสำหรับ LFM2.5-2.6B ที่ขนาดบล็อก 9

ที่ความเร็วเพิ่มที่รายงานลดลง

ตารางของ Liquid AI เองแสดงให้เห็นว่าการเพิ่มประสิทธิภาพนั้นไม่สม่ำเสมอ และบริษัทได้อธิบายสาเหตุ สำหรับ LFM2.5-8B-A1B การปรับปรุงบนอุปกรณ์โดยเฉลี่ยเพียง 1.18 เท่า แม้จะมีอัตราการยอมรับสูงสุดของสามโมเดล ความแตกต่างนี้บริษัทอธิบายว่าเกิดจากการนำ mixture-of-exets ไปใช้ใน backend Metal ของ llama.cpp ในปัจจุบันและจากการจราจรของน้ำหนักเพิ่มเติมที่การตรวจสอบบล็อกโทเคนทำให้เกิดขึ้นในผู้เชี่ยวชาญหลายคน สำหรับ LFM2.5-1.2B-Instruct อัตราการยอมรับแตกต่างกันตามชุดข้อมูลจนทำให้การเพิ่มความเร็วผันแปรถึง 52% ขึ้นอยู่กับการกระจายของข้อความ ตั้งแต่ 1.66 เท่าใน MT‑Bench ไปถึง 2.56 เท่าใน MATH500 บน H100

ตัวเลขทั้งหมดเป็นข้อมูลที่ผู้จำหน่ายรายงานจากระบบทดสอบของ Liquid AI: SGLang บน H100 80GB หนึ่งเครื่องในโหมด BF16 สำหรับตัวเลข GPU, llama.cpp พร้อมคอร์เคอร์ทดลอง Metal บน M4 Max ที่ใช้เวท GGUF FP16 สำหรับตัวเลขบนอุปกรณ์ โดยจำกัดที่ 256 โทเคนผลลัพธ์ เส้นทาง SGLang ต้องการการสร้างที่รองรับ DSpark สำหรับเป้าหมาย LFM2, ส่วนเส้นทาง llama.cpp ต้องการการสร้างที่สอดคล้องกัน ดังนั้นความเร็วเพิ่มจึงขึ้นอยู่กับการรวมเหล่านี้ มากกว่าการปล่อยในรุ่นเสถียรของเครื่องยนต์ใดเครื่องยนต์หนึ่ง

ความพยายามของ Liquid AI บนอุปกรณ์จนถึงตอนนี้

การปล่อย DSpark เป็นการอัปเดตครั้งที่สามของตระกูล LFM2.5 ภายในระยะเวลาหนึ่งสัปดาห์เท่านั้น เมื่อวันที่ 12 สิงหาคม 2026 บริษัทได้ ปล่อย LFM2.5-VL-3B โมเดลวิชัน‑ภาษาสำหรับอีดจ์ และเมื่อวันที่ 19 สิงหาคม 2026 บริษัทได้เผยแพร่ เช็คพอยท์ Q4_0 ที่ผ่านการบีบอัดโดยคำนึงถึงการควอนตัม สำหรับตระกูลนี้ แนวคิดหลักยังคงเหมือนเดิม: บริษัทกล่าวว่าการเร่งความเร็ว DSpark ของโมเดล 2.6B บน MacBook ทำให้การโต้ตอบเกินขีดจำกัดการผ่านข้อมูลของโมเดลคลาวด์ส่วนใหญ่ ซึ่งประมาณ 140 โทเคนต่อวินาที

ดราฟเตอร์ทั้งสามตัวพร้อมให้บริการแล้วบน Hugging Face: LFM2.5-1.2B-Instruct-DSpark, LFM2.5-2.6B-DSpark, และ LFM2.5-8B-A1B-DSpark พร้อมบิลด์ GGUF ควบคู่สำหรับการปรับใช้บน llama.cpp