Baseten ने DeepSeek-V4.1-Flash को मॉडल API में 1M-टोकन संदर्भ के साथ जोड़ा

DeepSeek-V4.1-Flash अब Baseten मॉडल API पर उपलब्ध है, Baseten ने घोषणा की 11 सितंबर, 2026 को, 552B-पैरामीटर वाला मल्टीमॉडल मिश्रित-विशेषज्ञ (MoE) मॉडल लाते हुए, जो प्रीफ़िल के लिए 8B सक्रिय पैरामीटर और डिकोड के लिए 16B पैरामीटर को 1M-टोकन संदर्भ विंडो में जोड़ता है, इन्फ़रेंस प्रदाता के प्लेटफ़ॉर्म पर।

DeepSeek ने मॉडल के ओपन वेट्स Hugging Face पर जारी किए, और DeepSeek की अपनी घोषणा 10 सितंबर, 2026 को है। मॉडल टेक्स्ट और इमेज इनपुट स्वीकार करता है और टेक्स्ट आउटपुट उत्पन्न करता है, और मॉडल कार्ड बताता है कि रिपॉज़िटरी और वेट्स MIT लाइसेंस के तहत लाइसेंस प्राप्त हैं। Baseten V4.1-Flash को DeepSeek की 2026 की तीसरी ओपन-वेट फ्लैश रिलीज़ और अपनी स्केल के एकमात्र मॉडल के रूप में वर्णित करता है, जो DeepSeek द्वारा कहा गया कारणात्मक एन्कोडर-डिकोडर आर्किटेक्चर उपयोग करता है। कंपनी के अनुसार Baseten के Loops प्रशिक्षण उत्पाद के लिए समर्थन जल्द ही आएगा।

रिपोर्ट किए गए बेंचमार्क परिणाम

मॉडल कार्ड अधिकतम तर्क प्रयास सेटिंग 100 पर instruct-model परिणामों की रिपोर्ट करता है: V4.1-Flash ने Terminal-Bench 2.1 पर 90.6 अंक प्राप्त किए, जो V4-Flash के 82.7 और V4-Pro के 87.9 से बेहतर हैं; DeepSWE v1.1 पर 74.2, जो क्रमशः 54.4 और 62.7 से अधिक हैं; और AutomationBench पर 54.8, जो 37.7 और 43.2 से अधिक है। Baseten ने वही कोडिंग और एजेंटिक आंकड़े उजागर किए, यह कहते हुए कि V4.1-Flash कुल पैरामीटर के लगभग एक तिहाई के साथ V4-Pro को पीछे छोड़ता है, जबकि चेतावनी दी गई कि AutomationBench पर 54.8 का स्कोर मॉडल के जटिल वर्कफ़्लो का लगभग आधा हिस्सा विफल करता है और टीमों को एजेंट पाइपलाइन के लिए मानव को लूप में रखने की सलाह दी गई।

कार्ड की अधिकतम प्रयास पर फ्रंटियर मॉडलों के साथ तुलना में, V4.1-Flash ने GPQA Diamond पर 90.9 अंक प्राप्त किए, जो Codeforces रेटिंग 3471 है, और टूल्स के साथ HLE पर 63.9। Baseten बताता है कि V4.1-Flash DeepSeek का पहला गैर-प्रयोगात्मक मॉडल है जिसमें मूल इमेज इनपुट है, जो पहले प्रयोगात्मक V4-Flash-Vision-Exp तक सीमित थी; इसकी तालिका नए मॉडल के लिए Chartography पर 78.9 और ZeroBench पर 49 अंक दिखाती है, जबकि प्रयोगात्मक मॉडल के लिए क्रमशः 64.3 और 35 हैं।

कारणात्मक एन्कोडर-डिकोडर आर्किटेक्चर

मॉडल कार्ड के अनुसार, V4.1-Flash 40-लेयर ट्रांसफ़ॉर्मर को 20-लेयर कारणात्मक एन्कोडर के बाद 20-लेयर डिकोडर के रूप में व्यवस्थित करता है, जहाँ डिकोडर का ग्लोबल की-वैल्यू (KV) कैश अंतिम एन्कोडर हिडन स्टेट्स से प्रोजेक्ट किया जाता है, न कि प्रत्येक डिकोडर लेयर की अपनी हिडन स्टेट्स से। यह डिज़ाइन प्रीफ़िल के दौरान प्रति टोकन 8B पैरामीटर और डिकोड के दौरान 16B सक्रिय करता है; Baseten ने इसे V4-Flash से तुलना की, जो दोनों चरणों में 13B सक्रिय करता है, इस परिवर्तन को भारी डिकोड को हल्के प्रीफ़िल के साथ बदलने के रूप में प्रस्तुत किया, एक सेटअप जिसे Baseten ने कोडिंग एजेंटों के लिए लागत दक्षता बढ़ाते हुए बताया, जिनके एजेंटिक लूप प्रीफ़िल टोकन को डिकोड टोकन से काफी अधिक उत्पन्न करते हैं।

कार्ड रिपोर्ट करता है कि मॉडल का Compressed Sparse Attention 2 प्रत्येक अटेंशन लेयर को तीन स्थिर मोड्स (Full, Reindex, या Reuse) में से एक असाइन करता है, और डिकोडर में एक हायरार्किकल स्पार्स इंडेक्सर गहरा इंडेक्सिंग लागत को संदर्भ लंबाई से स्वतंत्र रूप से सीमित करता है। FP4 मुख्य KV कैशिंग के साथ मिलाकर, ये डिज़ाइन ग्लोबल KV कैश को प्रति टोकन 890 बाइट तक घटाते हैं, जो V4-Flash की लगभग एक चौथाई है, कार्ड कहता है। एक अलग तंत्र, SWA Bounded Replay, केवल नवीनतम टोकन को पुनः चलाकर लापता स्लाइडिंग-विंडो-अटेंशन KV स्टेट्स को पुनर्निर्मित करता है, जिससे स्थायी KV फुटप्रिंट V4-Flash की लगभग एक आठवां हो जाता है। DeepSeek की घोषणा के अनुसार यह बचत पिछले पीढ़ी के HBM का एक चौथाई और SSD स्टोरेज का एक आठवां है।

कार्ड के अनुसार, प्रत्येक MoE लेयर एक साझा विशेषज्ञ और 384 रूटेड विशेषज्ञों का उपयोग करती है, जिसमें प्रति टोकन छह रूटेड विशेषज्ञ सक्रिय होते हैं, और मॉडल Engram कंडीशनल मेमोरी को 196B पैरामीटर के साथ DSpark स्पेक्यूलिव डिकोडिंग के साथ जोड़ता है। DeepSeek ने मॉडल को 45T-टोकन मल्टीमॉडल कॉर्पस पर शून्य से प्रशिक्षित किया, इसकी स्पार्स अटेंशन को 64K सीक्वेंस लंबाई पर प्रशिक्षित किया, और संदर्भ को 1M टोकन तक 34T टोकन पर विस्तारित किया। पोस्ट-ट्रेनिंग एक मानक सुपरवाइज़्ड फाइन-ट्यूनिंग, सुदृढीकरण सीखना, और ऑन-पालिसी डिस्टिलेशन क्रम का अनुसरण करता है, जिसमें बड़े पैमाने पर एजेंट कार्यों और पर्यावरणों की स्वचालित संश्लेषण में सार्थक परिवर्तन केंद्रित हैं, और मॉडल 1 से 100 तक निरंतर नियंत्रित तर्क प्रयास सेटिंग को उजागर करता है।

DeepSeek API संक्रमण और Baseten सर्विंग

DeepSeek बताता है कि V4-Flash और V4-Flash-Vision-Exp उसके प्लेटफ़ॉर्म पर बंद कर दिए गए हैं, पुराने API मॉडल नाम अस्थायी रूप से संगतता के लिए V4.1-Flash पर रूट किए जा रहे हैं। नई API कीमतें 10 सितंबर, 2026 को 04:00 UTC से प्रभावी हुईं, जिसमें ऑफ‑पीक दरें पीक दरों का 50% निर्धारित की गईं, और DeepSeek ने आधिकारिक साझेदार WorkBuddy (CodeBuddy सहित) और OpenCode को V4.1-Flash को पूरी तरह समर्थन देने वाले के रूप में नामित किया।

Baseten ने कहा कि उसका इन्फ़रेंस स्टैक मॉडल को NVIDIA Dynamo के साथ KV कैश-आधारित रूटिंग का उपयोग करके सर्व करता है, प्रत्येक अनुरोध को उस रेप्लिका की ओर निर्देशित करता है जो पहले से उसका प्रीफ़िक्स रखता है, न कि जो भी रेप्लिका फ्री हो। मॉडल Baseten की मॉडल लाइब्रेरी के माध्यम से उपलब्ध है, और आरक्षित क्षमता की आवश्यकता वाले टीमों के लिए समर्पित डिप्लॉयमेंट उपलब्ध हैं।

14 सितंबर, 2026 को 04:00 UTC से शुरू होकर, सभी deepseek-v4-pro अनुरोध V4.1-Flash दरों पर V4.1-Flash पर रूट किए जाएंगे, एक व्यवस्था जिसे DeepSeek ने कहा कि V4.1-Pro के लॉन्च तक जारी रहेगा; प्रयोगशाला ने कहा कि कई पक्षों द्वारा किए गए परीक्षणों ने V4.1-Flash को प्रदर्शन, लागत, गति, और कुल रनटाइम में V4-Pro से आगे रखा।