Liquid AI ने LFM2.5-DSpark लॉन्च किया, जिससे अधिकतम 3.2 गुना तेज़ इनफ़रेंस मिलता है

Liquid AI ने 20 अगस्त, 2026 को अपने LFM2.5 परिवार के तीन मॉडलों के लिए स्पेकुलेटिव डिकोडिंग के ड्राफ्ट चेकपॉइंट जारी किए। कंपनी के अनुसार, मॉडल के आउटपुट बदले बिना एक H100 GPU पर थ्रूपुट अधिकतम 3.18 गुना और Apple सिलिकॉन वाले MacBook पर अधिकतम 2.87 गुना बढ़ा। इस LFM2.5-DSpark रिलीज़ में LFM2.5-1.2B-Instruct, LFM2.5-2.6B और मिक्सचर-ऑफ़-एक्सपर्ट्स मॉडल LFM2.5-8B-A1B के ड्राफ्ट मॉडल शामिल हैं। हर ड्राफ्ट मॉडल, लक्ष्य मॉडल के ऊपर लगभग 30 करोड़ अतिरिक्त पैरामीटर जोड़ता है।

चेकपॉइंट Safetensors और GGUF प्रारूपों में उपलब्ध हैं। llama.cpp और SGLang में पहले दिन से इनका समर्थन है, और दोनों एकीकरणों का कोड आधिकारिक कोडबेस में योगदान किया गया है। स्पेकुलेटिव डिकोडिंग केवल उन्हीं टोकनों को आउटपुट में देता है जिन्हें लक्ष्य मॉडल सत्यापित कर चुका हो। इसलिए कंपनी का कहना है कि ग्रीडी डिकोडिंग में उत्पन्न पाठ वही होता है जो लक्ष्य मॉडल अकेले तैयार करता, और बेंचमार्क सटीकता नहीं बदलती।

Liquid AI ने पाँच डेटासेट पर बैच आकार 1 और टेम्परेचर 0 के साथ परीक्षण किए। LFM2.5-2.6B की औसत गति H100 पर 2.67 गुना, यानी 323 से 864 टोकन प्रति सेकंड, और M4 Max MacBook Pro पर 2.27 गुना, यानी 61 से 139 टोकन प्रति सेकंड, बढ़ी। सबसे बड़ा एकल सुधार MATH500 पर LFM2.5-8B-A1B में मिला, जहाँ H100 पर थ्रूपुट 428 से बढ़कर 1,362 टोकन प्रति सेकंड, अर्थात 3.18 गुना, हो गया। कंपनी ने यह भी बताया कि कई टूल वाले परिदृश्यों में DSpark ने LFM2.5-2.6B की फ़ंक्शन कॉलिंग लेटेंसी औसतन 57% घटाई। डिवाइस पर चलने वाले जिन एजेंट-आधारित कार्यों को LFM2.5 परिवार लक्षित करता है, उनके लिए यह मुख्य परिणाम है।

DSpark डिकोडिंग को कैसे तेज़ करता है

LLM इनफ़रेंस का डिकोड चरण मेमोरी की गति से सीमित होता है: अधिकांश विलंब गणना में नहीं, बल्कि DRAM से चिप की मेमोरी में वेट लाने में होता है। यही वजह है कि इनफ़रेंस की लागत इस क्षेत्र की मुख्य इंजीनियरिंग समस्या बन गई है। स्पेकुलेटिव डिकोडिंग में एक छोटा ड्राफ्ट मॉडल संभावित टोकनों का एक ब्लॉक सुझाता है। लक्ष्य मॉडल एक ही फ़ॉरवर्ड पास में पूरे ब्लॉक को जाँचता है, जिससे वेट लोड करने की लागत सभी जाँचे गए टोकनों में बँट जाती है।

DeepSeek के शोधकर्ताओं ने DSpark को जुलाई 2026 के एक शोधपत्र में प्रस्तुत किया और कंपनी की DeepSeek-V4 सर्विंग प्रणाली में लागू किया। इसमें तीन हिस्से हैं: एक समानांतर बैकबोन जो एक ही पास में सभी ड्राफ्ट टोकनों की हिडन स्टेट तैयार करता है; एक हल्का क्रमिक हेड जो पड़ोसी टोकनों की निर्भरता को मॉडल करता है, ताकि ब्लॉक के अंतिम हिस्से में स्वीकृति दर न गिरे; और कॉन्फ़िडेंस के आधार पर काम करने वाला सत्यापन घटक, जो कम कॉन्फ़िडेंस वाले अंतिम टोकनों को तब हटा देता है जब उनकी जाँच की लागत संभावित बचत से अधिक हो। शोधपत्र के अनुसार, DeepSeek के उत्पादन परिवेश में समान थ्रूपुट पर प्रति उपयोगकर्ता जनरेशन गति पिछले MTP-1 आधार स्तर से 60 से 85% अधिक रही।

Liquid AI के ड्राफ्ट मॉडल इसी तरीके का सरलीकृत, केवल अटेंशन पर आधारित रूप अपनाते हैं। इनमें पाँच लेयर, हर चरण में नौ ड्राफ्ट टोकनों का ब्लॉक और 1,28,000 टोकनों की शब्दावली पर काम करने वाला मार्कोव हेड है, जैसा कि LFM2.5-2.6B-DSpark के मॉडल कार्डमें बताया गया है। प्रत्येक ड्राफ्ट मॉडल को सुपरवाइज़्ड फ़ाइन-ट्यूनिंग, चैट, कोड और फ़ंक्शन कॉलिंग डेटा के मिश्रण पर 15 एपॉक तक प्रशिक्षित किया गया। चेकपॉइंट का चयन सबसे कम लॉस के बजाय सबसे अधिक स्वीकृति दर के आधार पर हुआ। गुणवत्ता बनाए रखने का आधार आउटपुट की समानता की गारंटी है। GGUF मॉडल कार्ड के अनुसार, “स्पेकुलेटिव डिकोडिंग सटीक है: लक्ष्य मॉडल हर प्रस्तावित टोकन को सत्यापित करता है, इसलिए ग्रीडी आउटपुट लक्ष्य मॉडल के अकेले आउटपुट के बराबर होता है।” प्रत्येक उत्तर के समय-संबंधी आँकड़े यह भी दिखाते हैं कि कितने ड्राफ्ट टोकन प्रस्तावित और स्वीकार किए गए।

आँकड़ों में LFM2.5-DSpark

• 3.18 गुना — GPU पर रिपोर्ट की गई सबसे अधिक गति वृद्धि (LFM2.5-8B-A1B, MATH500, H100: 428 → 1,362 टोकन/सेकंड)
• 2.87 गुना — डिवाइस पर रिपोर्ट की गई सबसे अधिक गति वृद्धि (LFM2.5-1.2B-Instruct, HumanEval, M4 Max: 136 → 389 टोकन/सेकंड)
• 2.67 गुना / 2.27 गुना — पाँच डेटासेट पर LFM2.5-2.6B की H100 / M4 Max पर औसत गति वृद्धि
• 57%— कई टूल वाले परिदृश्यों में LFM2.5-2.6B की फ़ंक्शन कॉलिंग लेटेंसी में औसत कमी
• 29.57 करोड़–32.77 करोड़ — ड्राफ्ट मॉडल के पैरामीटर; लक्ष्य मॉडलों में 1.2 से 8 अरब पैरामीटर हैं
• 10 में से 4.81— ब्लॉक आकार 9 पर LFM2.5-2.6B के लिए प्रति चरण स्वीकार किए गए ड्राफ्ट टोकनों का औसत

किन परिस्थितियों में गति का लाभ कम होता है

Liquid AI की अपनी तालिकाएँ दिखाती हैं कि लाभ सभी मामलों में समान नहीं है, और कंपनी इसके कारण भी बताती है। तीनों मॉडलों में सबसे अधिक स्वीकृति दर होने के बावजूद LFM2.5-8B-A1B की डिवाइस पर औसत गति केवल 1.18 गुना बढ़ी। कंपनी इसका कारण llama.cpp के Metal बैकएंड में मिक्सचर-ऑफ़-एक्सपर्ट्स का मौजूदा कार्यान्वयन और टोकनों के पूरे ब्लॉक की जाँच के दौरान विभिन्न एक्सपर्ट्स के वेट तक पहुँचने से बढ़ने वाला डेटा ट्रैफ़िक बताती है। LFM2.5-1.2B-Instruct में स्वीकृति दर डेटासेट के अनुसार इतनी बदलती है कि पाठ के वितरण के आधार पर गति वृद्धि में 52% तक अंतर आ सकता है: H100 पर MT-Bench में 1.66 गुना से MATH500 में 2.56 गुना तक।

सभी आँकड़े Liquid AI ने अपनी परीक्षण व्यवस्था से प्रकाशित किए हैं। GPU के लिए एक H100 80GB पर BF16 में SGLang इस्तेमाल हुआ; डिवाइस वाले परीक्षणों के लिए M4 Max पर FP16 GGUF वेट और प्रयोगात्मक Metal कर्नेल के साथ llama.cpp इस्तेमाल हुआ। आउटपुट की सीमा 256 टोकन थी। SGLang वाले तरीके के लिए LFM2 लक्ष्य मॉडलों में DSpark समर्थन वाला बिल्ड चाहिए, और llama.cpp के लिए भी संबंधित बिल्ड आवश्यक है। इसलिए गति का यह लाभ इन एकीकरणों पर निर्भर है; यह अभी दोनों इंजन के स्थिर संस्करणों में सामान्य रूप से उपलब्ध सुविधा नहीं है।

डिवाइस पर चलने वाले AI की दिशा में Liquid AI की प्रगति

DSpark, एक सप्ताह से कुछ अधिक समय में LFM2.5 परिवार का तीसरा अपडेट है। 12 अगस्त, 2026 को कंपनी ने एज डिवाइस के लिए विज़न-लैंग्वेज मॉडल LFM2.5-VL-3B जारी कियाऔर 19 अगस्त, 2026 को इस परिवार के लिए क्वांटाइज़ेशन-अवेयर डिस्टिल्ड Q4_0 चेकपॉइंट प्रकाशित किए। इन प्रयासों का लक्ष्य एक ही है। कंपनी का कहना है कि MacBook पर 2.6 अरब पैरामीटर वाले मॉडल को DSpark से मिलने वाली गति, इंटरैक्टिव उपयोग में अधिकांश मालिकाना क्लाउड मॉडलों के थ्रूपुट से आगे ले जाती है; कंपनी उस थ्रूपुट को लगभग 140 टोकन प्रति सेकंड बताती है।

तीनों ड्राफ्ट मॉडल अब Hugging Face पर उपलब्ध हैं: LFM2.5-1.2B-Instruct-DSpark, LFM2.5-2.6B-DSpark और LFM2.5-8B-A1B-DSpark। llama.cpp पर इस्तेमाल के लिए इनके GGUF बिल्ड भी उपलब्ध हैं।