10 सर्वश्रेष्ठ मुक्त-स्रोत LLM (नवंबर 2026)

सबसे अच्छा ओपन-सोर्स LLM वह है जिसे आप अपने वास्तविक काम के लिए तैनात, मूल्यांकित और अनुरक्षित कर सकते हैं। वर्कस्टेशन पर चल सकने वाला मॉडल उस अधिक स्कोर पाने वाले मॉडल से ज़्यादा उपयोगी हो सकता है, जिसके लिए क्लस्टर की ज़रूरत हो। इसके विपरीत, कठिन कार्यों के लिए कोडिंग एजेंट चलाने वाला संगठन बेहतर प्रदर्शन पाने के लिए बुनियादी ढाँचे पर काफ़ी खर्च करना उचित समझ सकता है।

हमने इस गाइड के हर मॉडल का उसकी क्षमताओं, तैनाती की व्यावहारिकता, लाइसेंस, दस्तावेज़ीकरण और बताए गए उपयोग के लिए उपयुक्तता के आधार पर स्वतंत्र रूप से मूल्यांकन किया। यह संपादकीय रैंकिंग है, कोई नया व्यावहारिक बेंचमार्क नहीं: प्रदर्शन के प्रकाशित दावे संबंधित मॉडल डेवलपरों से लिए गए हैं और अलग-अलग परीक्षण ढाँचों या सेटिंग्स के परिणामों से सीधे तुलना योग्य नहीं हैं। व्यावहारिक रूप से इस्तेमाल कर पाना इस मूल्यांकन में काफ़ी अहम है, इसी वजह से Qwen3.8-27B, Gemma 4 और gpt-oss सूची में सबसे ऊपर हैं।

दायरा: यह गाइड ओपन-सोर्स और ओपन-वेट, दोनों तरह के LLM को शामिल करती है। डाउनलोड किए जा सकने वाले वेट में प्रशिक्षण डेटा या बिना किसी प्रतिबंध के उपयोग के अधिकार होना ज़रूरी नहीं है। हर प्रविष्टि में उसका चेकपॉइंट या मॉडल परिवार और लाइसेंस दिया गया है; पुराने संस्करण या उसी डेवलपर के किसी दूसरे मॉडल के लाइसेंस संबंधी अनुमानों को इस पर लागू न करें। समीक्षा की तारीख: 14 अक्टूबर, 2026।

सर्वश्रेष्ठ ओपन-सोर्स और ओपन-वेट LLM की तुलना

1. Qwen3.8-27B

Qwen3.8-27B उन डेवलपरों के लिए हमारी पहली सिफ़ारिश है जो तुरंत बड़े GPU क्लस्टर पर जाए बिना सक्षम और अनुकूलनीय मॉडल चाहते हैं। यह सघन भाषा मॉडल को छवियों और वीडियो को समझने की मूल क्षमता के साथ जोड़ता है। इसलिए यह कोडिंग, दस्तावेज़ विश्लेषण, शोध सहायकों और स्क्रीनशॉट समझने वाले अनुप्रयोगों के लिए उपयोगी है। सूची में इसकी जगह क्षमताओं और तैनाती की व्यावहारिकता के इस संतुलन को दर्शाती है—यह दावा नहीं कि यह हर बेंचमार्क में अव्वल है।

यह मॉडल सोचने की प्रक्रिया को कॉन्फ़िगर करने की सुविधा और मूल रूप से 262,144 टोकन की संदर्भ-लंबाई देता है; इसे बढ़ाकर दस लाख टोकन तक किया जा सकता है। इस अंतर को समझना ज़रूरी है: संदर्भ-लंबाई बढ़ाने के लिए कॉन्फ़िगरेशन और अतिरिक्त संसाधनों की आवश्यकता होती है, इसलिए इसे वर्कस्टेशन पर मिलने वाला सामान्य अनुभव नहीं मानना चाहिए। आंतरिक दस्तावेज़ सहायक के लिए सीमित संदर्भ-लंबाई और पुनर्प्राप्ति से शुरुआत करें, फिर संदर्भ तभी बढ़ाएँ जब लंबे इनपुट से जवाबों में मापने योग्य सुधार हो।

इस चेकपॉइंट का लाइसेंस Apache 2.0 है। क्वांटाइज़ किए गए संस्करणों से स्थानीय स्तर पर प्रयोग करना आसान हो जाता है, लेकिन भाषा मॉडल, विज़न घटक, कैश और रनटाइम—सभी मेमोरी का उपयोग करते हैं। ऐसा कार्यान्वयन चुनें जो इस आर्किटेक्चर और मल्टीमॉडल इनपुट को स्पष्ट रूप से सपोर्ट करता हो; केवल टेक्स्ट के साथ मॉडल का सफलतापूर्वक लोड होना यह साबित नहीं करता कि इमेज, टूल कॉल या बढ़ी हुई संदर्भ-लंबाई सही ढंग से काम करते हैं।

Qwen3.8-27B का मॉडल कार्ड देखें

2. Gemma 4

Gemma 4 परिवार यहाँ अलग-अलग हार्डवेयर बजट के अनुरूप मल्टीमॉडल अनुप्रयोग चुनने के लिए सबसे उपयोगी है। Google कई आकारों में मॉडल उपलब्ध कराता है, जिनमें कम प्रभावी पैरामीटर वाले छोटे मॉडल, 12B मॉडल, 26B का मिक्स्चर-ऑफ़-एक्सपर्ट्स विकल्प और घना 31B मॉडल शामिल हैं। इससे डेवलपर सीमित संसाधनों वाले उपकरणों से लेकर वर्कस्टेशन तक के लिए विकल्प चुन सकते हैं—यह मानकर नहीं चलना पड़ता कि हर उपयोगकर्ता सबसे बड़ा चेकपॉइंट चला सकता है।

इस परिवार के अलग-अलग मॉडलों की क्षमताएँ अलग हैं। 31B मॉडल टेक्स्ट और इमेज स्वीकार करता है, जबकि E2B, E4B और 12B में ऑडियो इनपुट का भी समर्थन है। छोटे वेरिएंट में 128K का कॉन्टेक्स्ट है, जबकि बड़े कॉन्फ़िगरेशन 256K का कॉन्टेक्स्ट देते हैं। दस्तावेज़ या वॉइस अनुप्रयोग के लिए पहले इनपुट की ज़रूरतों के आधार पर खास चेकपॉइंट चुनें; अगर सबसे बड़े मॉडल में ज़रूरी मोडैलिटी नहीं है, तो वह अपने-आप सबसे उपयुक्त विकल्प नहीं हो जाता।

Gemma 4 Apache 2.0 लाइसेंस के तहत उपलब्ध है, लेकिन हार्डवेयर की योजना सावधानी से बनानी होगी। E2B और E4B के प्रभावी पैरामीटर की गणना में कुछ बड़े एम्बेडिंग घटक शामिल नहीं होते, इसलिए इन नामों से मेमोरी की ज़रूरत का भरोसेमंद अनुमान नहीं लगाया जा सकता। विभिन्न परिनियोजन विकल्पों के लिए हमने इस परिवार को ऊँची रैंक दी है; एक ही वर्कस्टेशन से अधिकतम क्षमता पाने के इच्छुक पाठकों को अपने दस्तावेज़ों और प्रॉम्प्ट पर Gemma के उपयुक्त वेरिएंट की तुलना सीधे Qwen से करनी चाहिए।

Gemma 4 का मॉडल कार्ड देखें

3. gpt-oss

OpenAI का gpt-oss निजी टेक्स्ट-आधारित तर्क और टूल-सक्षम सहायक बनाने के लिए अब भी एक व्यावहारिक शुरुआती विकल्प है। इस परिवार में 20b और 120b वेरिएंट हैं; छोटा मॉडल अधिक सुलभ हार्डवेयर को ध्यान में रखकर बनाया गया है। इसे ऊँची रैंक इसलिए मिली है क्योंकि इसका परिनियोजन लक्ष्य स्पष्ट है: उपयोगकर्ता ट्रिलियन-पैरामीटर मॉडल की बुनियादी ढाँचा संबंधी ज़रूरतों से शुरुआत किए बिना स्थानीय तर्क प्रणाली बना सकते हैं।

आधिकारिक रिलीज़ में इसके एक्सपर्ट वेट के लिए MXFP4 क्वांटाइज़ेशन का इस्तेमाल किया गया है। OpenAI के दस्तावेज़ों के अनुसार, 20b मॉडल 16GB मेमोरी के भीतर और 120b मॉडल 80GB GPU पर चल सकता है; इन आँकड़ों को हर कॉन्टेक्स्ट लंबाई, रनटाइम या एक साथ सक्रिय उपयोगकर्ताओं की संख्या के लिए गारंटी नहीं मानना चाहिए। तर्क करने के प्रयास का स्तर बदला जा सकता है, और अनुप्रयोग में ज़रूरी निष्पादन परत उपलब्ध होने पर मॉडल संरचित आउटपुट और टूल कॉल का समर्थन करता है।

दोनों मॉडल Apache 2.0 लाइसेंस के तहत उपलब्ध हैं और इनके लिए Harmony फ़ॉर्मैटिंग का सही होना ज़रूरी है। ये केवल टेक्स्ट पर काम करते हैं, इसलिए दृश्य दस्तावेज़ वर्कफ़्लो के लिए किसी अन्य घटक की ज़रूरत होगी। कोडिंग सहायक के लिए, लिखने की अनुमति देने से पहले टूल स्कीमा और त्रुटि से उबरने की क्षमता की जाँच करें। gpt-oss चुनने का सबसे बड़ा कारण यह है कि इसका टेक्स्ट इन्फ़रेंस नियंत्रित किया जा सकता है और इसके लिए अपेक्षाकृत सुलभ संसाधन चाहिए; मूल रूप से विज़न क्षमता को प्राथमिकता देने वाले उपयोगकर्ताओं को किसी अन्य विकल्प से शुरुआत करनी चाहिए।

gpt-oss का मॉडल कार्ड देखें

4. DeepSeek V4

DeepSeek V4 उन संगठनों के लिए एक मज़बूत विकल्प है जिनके पास बड़े पैमाने पर इन्फ़रेंस चलाने के संसाधन हैं और जिन्हें तर्क तथा कोडिंग की व्यापक क्षमता चाहिए। यहाँ अहम अपडेट आधिकारिक Pro-0813 रिलीज़ है, जिसने इससे पहले के Pro प्रीव्यू का स्थान लिया है। मूल्यांकन में उसी सटीक चेकपॉइंट की पहचान होनी चाहिए; V4 नाम वाले हर एंडपॉइंट को एक जैसा नहीं मानना चाहिए—खासकर नतीजों की तुलना करते या एजेंट के व्यवहार में बदलाव की समस्या का पता लगाते समय।

इस परिवार में Pro के कुल 1.6 ट्रिलियन पैरामीटर हैं, जिनमें से प्रति टोकन 49 अरब सक्रिय होते हैं; वहीं Flash में कुल 284 अरब पैरामीटर हैं, जिनमें से 13 अरब सक्रिय होते हैं। इसका आर्किटेक्चर 10 लाख टोकन के कॉन्टेक्स्ट का समर्थन करता है, जबकि आधिकारिक Pro रिलीज़ में स्पेक्युलेटिव डिकोडिंग मॉड्यूल भी जोड़ा गया है। इन डिज़ाइन विकल्पों का लक्ष्य बड़े पैमाने पर बेहतर दक्षता हासिल करना है; सक्रिय पैरामीटर गणना का संकेत देते हैं, लेकिन इससे बाकी एक्सपर्ट वेट को स्टोर करने की ज़रूरत खत्म नहीं होती।

यह रिलीज़ MIT लाइसेंस के तहत उपलब्ध है। हमने इसे वर्कस्टेशन-केंद्रित अग्रणी मॉडलों से नीचे रखा है, क्योंकि परिनियोजन की जटिलता इसके संभावित उपयोगकर्ताओं का दायरा बहुत सीमित कर देती है—न कि इसलिए कि छोटे मॉडल हर स्थिति में इससे बेहतर प्रदर्शन करते हैं। केंद्रीय इन्फ़रेंस सेवा बनाने वाली टीम को पूरे किए गए कार्य की लागत, एक साथ अनुरोध संभालने की क्षमता और टूल की विश्वसनीयता के आधार पर Pro और Flash की तुलना करनी चाहिए। तेज़ी से चलने वाला स्थानीय सहायक चाहने वाले अकेले डेवलपर को इस गाइड में कहीं और दिए गए छोटे चेकपॉइंट से शुरुआत करनी चाहिए।

DeepSeek V4 का मॉडल कार्ड देखें

5. GLM-5.3

GLM-5.3, कठिन सॉफ़्टवेयर इंजीनियरिंग और लंबे समय तक चलने वाले एजेंट कार्यों के लिए Z.ai का अद्यतन ओपन-वेट विकल्प है। इसमें GLM-5.2 वाला ही आधार मॉडल इस्तेमाल किया गया है; सुधार प्रशिक्षण के बाद की प्रक्रिया से आए हैं। डेवलपर ने कोडिंग और एजेंट बेंचमार्क में उल्लेखनीय बढ़त दर्ज की है। इसलिए पिछली पीढ़ी की स्थिति और विवरण को ज्यों का त्यों बनाए रखने के बजाय, आकलन के लिए यही प्रासंगिक संस्करण है।

इसका आकर्षण टूल, फ़ाइलों और मध्यवर्ती नतीजों के साथ लगातार काम करने की क्षमता में है। हालांकि, किसी मॉडल का प्रकाशित एजेंट स्कोर परीक्षण ढाँचे, तर्क-विचार के लिए उपलब्ध बजट, संदर्भ प्रबंधन और दिए गए समय पर भी निर्भर करता है। किसी कोड रिपॉज़िटरी के सहायक का मूल्यांकन करते समय यह देखना चाहिए कि वह अनुरोधित बदलाव पूरा करता है या नहीं, उससे कोई नई गड़बड़ी पैदा होती है या नहीं, और वह टूल का सही इस्तेमाल करता है या नहीं। केवल बेंचमार्क का मुख्य स्कोर यह साबित नहीं कर सकता कि किसी दूसरे विकास परिवेश में ये नतीजे हासिल होंगे।

लाइसेंस का अंतर महत्वपूर्ण है: GLM-5.3 में कस्टम लाइसेंस है, न कि MIT लाइसेंस, जो पहले इस लेख में GLM-5.2 के साथ जुड़ा था। कुछ बहुत बड़े मॉडल-एज़-अ-सर्विस व्यवसायों के लिए इस लाइसेंस में समीक्षा की एक अतिरिक्त शर्त शामिल है। इसके बड़े चेकपॉइंट के लिए सर्वर-स्तर की योजना भी आवश्यक है। GLM-5.3 को उद्यमों की कोडिंग के लिए विचाराधीन मॉडलों की सूची में शामिल किया जाना चाहिए, लेकिन जो पाठक बिना जटिलता के इसे लैपटॉप पर चलाना चाहते हैं, उनके लिए यह उपयुक्त डिफ़ॉल्ट विकल्प नहीं है।

GLM-5.3 का मॉडल कार्ड देखें

6. Kimi K3

Kimi K3 उन संगठनों के लिए विशेषज्ञ विकल्प है जिन्हें दृश्य-समझ, लंबे समय तक चलने वाले तर्क-विचार और टूल के इस्तेमाल को एक साथ जोड़ना है। Moonshot के इस मॉडल में कुल 2.8 ट्रिलियन पैरामीटर हैं, जिनमें से प्रति टोकन लगभग 104 बिलियन सक्रिय होते हैं। इसमें अंतर्निहित दृश्य-क्षमता और 1 मिलियन टोकन की संदर्भ विंडो भी है। यह तब उपयोगी है जब किसी सहायक को एक ही सिस्टम के भीतर कोड, स्क्रीनशॉट, दस्तावेज़ और लंबे संवाद इतिहास के साथ काम करना हो।

इसे सिस्टम में जोड़ने के तरीके से जुड़े विवरण खास तौर पर महत्वपूर्ण हैं। Kimi K3 में सोच-विचार की प्रक्रिया सक्रिय रहती है और यह अपेक्षा करता है कि तर्क-विचार तथा टूल-कॉल की जानकारी सहित सहायक के पूरे संदेशों को संवाद के हर चरण में सुरक्षित रखा जाए। इसलिए, जो ऐप्लिकेशन केवल अंतिम उत्तर सहेजता है, वह अपेक्षित संवाद प्रारूप को गलत ढंग से संभाल सकता है। किसी दूसरे मॉडल से इसकी तुलना करने से पहले पुष्टि कर लें कि सेवा देने वाली परत और एजेंट फ़्रेमवर्क आवश्यक संवाद इतिहास को सही ढंग से सुरक्षित रखते हैं।

इसका कस्टम लाइसेंस और बहुत बड़ा चेकपॉइंट इसे केवल मॉडल चुनने का नहीं, बल्कि बुनियादी ढाँचे से जुड़ा निर्णय भी बनाते हैं। अंतर्निहित क्वांटाइज़ेशन से सेवा देने की दक्षता बेहतर होती है, लेकिन इससे यह सामान्य वर्कस्टेशन पर चलने वाला मॉडल नहीं बन जाता। हम Kimi K3 की सिफ़ारिश उन टीमों के लिए करते हैं जो जटिल बहुमाध्यमी कार्यप्रवाहों से होने वाले लाभ के आधार पर इसका परिचालन खर्च उचित ठहरा सकती हैं; सामान्य पाठ का सारांश बनाने या दस्तावेज़ों के छोटे संग्रह पर काम करने के लिए आम तौर पर इस स्तर के बड़े मॉडल की ज़रूरत नहीं होती।

Kimi K3 का मॉडल कार्ड देखें

7. Mistral Small 4

Mistral Small 4 एक ही मॉडल में सामान्य निर्देशों का पालन, तर्क-विचार, कोडिंग और छवियों को समझने की क्षमता देता है। यह ऐसे व्यावसायिक ऐप्लिकेशन के लिए आकर्षक विकल्प है जिसे एक समान इंटरफ़ेस के ज़रिये कई क्षमताओं की ज़रूरत हो, बजाय इसके कि हर अनुरोध के लिए अलग विशेषज्ञ मॉडल संभाले जाएँ। इसकी उपयोगिता परिचालन के लिहाज़ से इसी बहुमुखी प्रतिभा में है, खासकर उन टीमों के लिए जो बड़ी अनुमान-सेवा का प्रबंधन करने में सहज हैं।

नाम में Small होने के बावजूद, इसमें कुल 119 बिलियन पैरामीटर हैं, जिनमें से प्रति टोकन 6.5 बिलियन सक्रिय होते हैं। यह 256K की संदर्भ विंडो और तर्क-विचार के प्रयास को समायोजित करने की सुविधा देता है। इससे सेवा सामान्य सवालों के लिए छोटे उत्तर और कठिन कार्यों के लिए अधिक विचार-विमर्श चुन सकती है। विशेषज्ञों के मिश्रण वाली संरचना सक्रिय गणना घटाती है, लेकिन वेट का पूरा समूह अब भी भंडारण और मेमोरी की ज़रूरत का बड़ा हिस्सा तय करता है।

यह चेकपॉइंट Apache 2.0 लाइसेंस के तहत उपलब्ध है। आधिकारिक क्वांटाइज़्ड विकल्प और सट्टात्मक डिकोडिंग के तरीके अनुकूलन के रास्ते देते हैं, हालांकि इनसे मिलने वाले लाभ हार्डवेयर और रनटाइम के समर्थन पर निर्भर करते हैं। स्क्रीनशॉट पढ़ने और संरचित कार्रवाइयाँ तैयार करने वाले सहायता-सहायक के लिए छवियों को समझने की गुणवत्ता, स्कीमा का पालन और जवाब देने में लगने वाले समय—तीनों को साथ परखें। इसे तब चुनें जब कई क्षमताओं को एक साथ लाने से परिचालन सरल हो; यह न मानें कि इसके नाम का Small होना 8B लैपटॉप मॉडल जितने कम संसाधनों की ज़रूरत का संकेत है।

Mistral Small 4 का मॉडल कार्ड देखें

8. Devstral Small 2

Devstral Small 2 उन डेवलपरों के लिए एक केंद्रित विकल्प है, जो मुख्य रूप से ऐसा मॉडल चाहते हैं जो रिपॉज़िटरी की पड़ताल कर सके, फ़ाइलों में बदलाव कर सके और सॉफ़्टवेयर इंजीनियरिंग एजेंट के रूप में काम कर सके। इसके 24 अरब पैरामीटर इसे ऊपर दिए गए बड़े कोडिंग सिस्टम की तुलना में आसानी से तैनात करने योग्य बनाते हैं। नए सामान्य-उद्देश्य वाले मॉडल भी उसी मूल्यांकन में शामिल किए जाने योग्य हों, तब भी यह एक विशेषज्ञ मॉडल के रूप में उपयोगी बना रहता है।

Mistral के दस्तावेज़ों के अनुसार, इसमें 256K संदर्भ विंडो, छवियों को समझने की क्षमता और उसके Vibe कोडिंग परिवेश के साथ एकीकरण उपलब्ध है। इस मॉडल का मूल्य इस बात से तय होता है कि यह बदलाव और परीक्षण की पूरी कार्यप्रणाली को कितनी अच्छी तरह संभालता है, न कि इससे कि यह अलग-थलग कोड का कोई प्रभावशाली अंश तैयार कर सकता है या नहीं। प्रतिस्पर्धी मॉडलों के समान टूल और अनुमतियों का उपयोग करते हुए, अपनी रिपॉज़िटरी की संरचना, प्रोग्रामिंग भाषाओं, निर्भरता संबंधी सीमाओं और टेस्ट सूट पर इसका मूल्यांकन करें।

यह रिलीज़ Apache 2.0 लाइसेंस के तहत उपलब्ध है। Mistral ने इसे उपभोक्ता GPU और 32GB Mac पर तैनात करने की संभावनाएँ बताई हैं, लेकिन वास्तविकता में क्या चल सकता है, यह परिशुद्धता, संदर्भ और रनटाइम के अतिरिक्त संसाधन-उपयोग पर निर्भर करता है। एक ही प्रॉम्प्ट में बहुत बड़ी रिपॉज़िटरी पर काम करने की कोशिश करने से पहले, छोटे सत्रों और अनुकूल क्वांटाइज़ेशन से शुरुआत करें। हम इसे समर्पित कोडिंग वर्कस्टेशन के लिए उपयुक्त मानते हैं; व्यापक शोध, वॉइस या सामान्य मल्टीमॉडल सहायता चाहने वाली टीमों को इसके अधिक सीमित फोकस की तुलना इस सूची में इससे ऊपर के सामान्य-उद्देश्य वाले मॉडलों से करनी चाहिए।

Devstral Small 2 का मॉडल कार्ड देखें

9. Nemotron 3 Nano

NVIDIA का Nemotron 3 Nano उन डेवलपरों के लिए एक दिलचस्प विकल्प है, जो पाठ-आधारित एजेंटों की कार्यकुशलता बेहतर करना चाहते हैं। इसमें Mamba घटक, अटेंशन और मिक्सचर-ऑफ़-एक्सपर्ट्स परतें शामिल हैं; इसके कुल 30 अरब पैरामीटर हैं और हर टोकन पर लगभग 3.5 अरब सक्रिय होते हैं। इसका मूल्यांकन करने की वजह इसकी संरचना का परिचालन संबंधी आवश्यकताओं के अनुकूल होना है—यह मान लेना नहीं कि Nano नाम होने के कारण यह किसी भी डिवाइस पर चल सकता है।

यह मॉडल अपने चैट टेम्पलेट के ज़रिए रीजनिंग और बिना रीजनिंग वाले व्यवहार, दोनों का समर्थन करता है। इससे किसी एप्लिकेशन को कठिन अनुरोधों के लिए अधिक समय तक विचार-विमर्श की सुविधा देने और सरल अनुरोधों के लिए तेज़ जवाब पाने का विकल्प मिलता है। इसकी हाइब्रिड संरचना के कारण रनटाइम का समर्थन भी चयन का एक अहम मानदंड है: यह मानने के बजाय कि ट्रांसफ़ॉर्मर के हर मानक अनुकूलन का उपयोग किया जा सकता है, सटीक इंजन, क्वांटाइज़ेशन फ़ॉर्मैट और हार्डवेयर के संयोजन की पुष्टि करें।

यह रिलीज़ NVIDIA Nemotron Open Model License के तहत उपलब्ध है। यह उन टीमों के लिए एक विचारणीय विशेषज्ञ विकल्प है, जो बार-बार किए जा सकने वाले इन्फ़रेंस बेंचमार्क बनाने और अपनी तैनाती को अनुकूलित करने के लिए तैयार हैं। आउटपुट की गुणवत्ता के साथ-साथ सही जवाब तक पहुँचने में लगा समय, मेमोरी का उपयोग और एक साथ आने वाले अनुरोधों पर प्रदर्शन भी जाँचें। जो पाठक मुख्य रूप से तुरंत इस्तेमाल के लिए तैयार दृश्य सहायक चाहते हैं, उनके लिए इस रैंकिंग में पहले दिए गए मल्टीमॉडल विकल्प उस उद्देश्य के अधिक अनुकूल होंगे।

Nemotron 3 Nano का मॉडल कार्ड देखें

10. Olmo 3.1

Ai2 का Olmo 3.1 इस सूची में जगह पाने का हकदार है, क्योंकि खुलेपन का अर्थ सिर्फ़ डाउनलोड बटन तक सीमित नहीं है। 32B Instruct मॉडल ऐसे इकोसिस्टम का हिस्सा है जिसमें प्रशिक्षण डेटासेट, कोड, मध्यवर्ती चेकपॉइंट और कार्यविधि उपलब्ध हैं। प्रशिक्षण संबंधी फ़ैसलों का मॉडल के व्यवहार पर क्या असर पड़ता है, यह जाँचने वाले शोधकर्ताओं के लिए ये संसाधन ऐसे मॉडल के ऊँचे स्कोर से अधिक मूल्यवान हो सकते हैं, जिसकी विकास प्रक्रिया तक पहुँच लगभग नहीं है।

इस परिवार में Instruct और Think, दोनों संस्करण हैं, और इसके दस्तावेज़ प्री-ट्रेनिंग तथा पोस्ट-ट्रेनिंग के चरणों को आपस में जोड़ते हैं। इससे अनुकूलन के विकल्पों की पड़ताल करना और मॉडल विकास के अलग-अलग चरणों की तुलना करना आसान हो जाता है। सहायक बनाने के लिए निर्देश-अनुकूलित चेकपॉइंट से शुरुआत करें; बेस चेकपॉइंट का उद्देश्य अलग होता है और उसे इस तरह नहीं परखना चाहिए मानो उसे पहले से ही संवाद के लिए अनुकूलित किया गया हो।

Olmo 3.1 Apache 2.0 लाइसेंस के तहत उपलब्ध है और मुख्य रूप से अंग्रेज़ी पाठ पर केंद्रित मॉडल है। हमने इसे पारदर्शिता के क्षेत्र में विशेषज्ञ के रूप में स्थान दिया है; इसका मतलब यह दावा करना नहीं है कि यह अत्याधुनिक क्षमताओं में सबसे आगे है। किसी शोध समूह, शिक्षाविद या मॉडल अनुकूलन का अध्ययन करने वाली टीम के पास इसे चुनने की ठोस वजह है। उत्पादन के लिए ऐसा मॉडल चाहने वाले खरीदार, जिसमें मूल रूप से दृश्य-क्षमता, अधिकतम बहुभाषी विस्तार या उपयोग के लिए तैयार सबसे सक्षम कोडिंग एजेंट हो, उन्हें पहले ऊपर दिए गए विकल्पों का मूल्यांकन करना चाहिए।

Olmo 3.1 का मॉडल कार्ड देखें

आपको कितनी मेमोरी चाहिए?

शुरुआत वास्तविक चेकपॉइंट के आकार और रनटाइम की दस्तावेज़ीकृत आवश्यकताओं से करें। केवल वेट के आधार पर मोटा अनुमान लगाने के लिए पैरामीटरों की संख्या को प्रति वेट बिटों की संख्या से गुणा करें और फिर आठ से भाग दें। चार बिट वाला 30B मॉडल, क्वांटाइज़ेशन मेटाडेटा, बिना क्वांटाइज़ किए गए घटकों, कॉन्टेक्स्ट कैश, अस्थायी बफ़र और ऑपरेटिंग सिस्टम को शामिल करने से पहले, लगभग 15 GB का होता है। यह गणितीय रूप से न्यूनतम अनुमान है, इस बात की गारंटी नहीं कि मॉडल 16 GB की मशीन पर चल जाएगा।

मिश्रित-विशेषज्ञ मॉडल के लिए, वेट के संग्रहण का अनुमान लगाने हेतु कुल पैरामीटरों की संख्या का उपयोग करें। सक्रिय पैरामीटर प्रति टोकन होने वाली गणना को समझने में मदद करते हैं; इसका यह अर्थ नहीं कि बाकी विशेषज्ञ गायब हो जाते हैं। CPU पर ऑफ़लोड करने से GPU की मेमोरी की ज़रूरत कम हो सकती है, लेकिन गति काफ़ी घट सकती है। Mac पर एकीकृत मेमोरी सिस्टम के साथ साझा होती है, इसलिए इसे पूरी तरह मॉडल के लिए उपलब्ध नहीं मानना चाहिए।

• सीमित क्षमता वाले निजी कंप्यूटर: छोटे Gemma संस्करण से शुरुआत करें या किसी समर्थित कॉन्फ़िगरेशन में gpt-oss-20b का मूल्यांकन करें। कुछ मेमोरी खाली रखें और शुरुआत में कॉन्टेक्स्ट का आकार सीमित रखें।
• अधिक मेमोरी वाले वर्कस्टेशन: क्वांटाइज़ किए गए Qwen3.8-27B, उपयुक्त Gemma संस्करणों और Devstral Small 2 की तुलना करें। इमेज समर्थन की पुष्टि टेक्स्ट इन्फ़रेंस से अलग से करें।
• सर्वर और क्लस्टर: DeepSeek V4, GLM-5.3, Kimi K3 या बड़े कॉन्फ़िगरेशन पर विचार करें, बशर्ते कार्य का मूल्य उन्हें सेवा देने की लागत और संचालन की जटिलता को उचित ठहराता हो।

किसी मॉडल की अधिकतम कॉन्टेक्स्ट विंडो रोज़मर्रा के उपयोग के लिए सुझाई गई सेटिंग नहीं होती। बड़े इनपुट से मेमोरी और प्रोसेसिंग की ज़रूरतें बढ़ती हैं, जबकि एक साथ काम करने वाले उपयोगकर्ताओं की संख्या संसाधनों की ज़रूरत को कई गुना कर देती है। इंस्टॉलेशन के विकल्पों और मॉडल, रनटाइम तथा इंटरफ़ेस के बीच के अंतर के लिए, स्थानीय रूप से LLM चलाने के टूल पर हमारी मार्गदर्शिका देखें।

ओपन सोर्स, खुले वेट और निजी परिनियोजन

वेट तक पहुँच से आपको यह नियंत्रण मिलता है कि इन्फ़रेंस कहाँ चलेगा, लेकिन इससे अपने-आप प्रशिक्षण की पूरी विधि उपलब्ध नहीं हो जाती और न ही हर तरह का उपयोग स्वीकार्य हो जाता है। Apache 2.0 और MIT के अंतर्गत आने वाली प्रविष्टियों के लिए भी सटीक चेकपॉइंट का लाइसेंस जाँचें। GLM-5.3, Kimi K3 और Nemotron के अपने मॉडल लाइसेंस हैं। Olmo उन स्थितियों में विशेष रूप से प्रासंगिक है, जहाँ विकास प्रक्रिया तक पहुँच का महत्व अंतिम वेट तक पहुँच जितना ही हो।

स्वयं होस्ट करने से प्रॉम्प्ट आपके बुनियादी ढाँचे के भीतर रखे जा सकते हैं, बशर्ते पूरा अनुप्रयोग इसी तरह कॉन्फ़िगर किया गया हो। क्लाउड एम्बेडिंग, दूरस्थ खोज, लॉगिंग सेवाएँ और एजेंट टूल अब भी डेटा को कहीं और भेज सकते हैं। पूरे वर्कफ़्लो का मूल्यांकन करें और विलंबता के साथ-साथ गलत जवाबों तथा विफल कार्रवाइयों को भी मापें। फ़ाइलों में बदलाव करने वाले या कारोबारी प्रणालियों से संपर्क करने वाले टूल के लिए, सीमित दायरे वाली अनुमतियाँ तय करें और जहाँ कार्रवाई के लिए उचित हो, वहाँ अनुमोदन का चरण रखें।

आपको कौन-सा ओपन LLM चुनना चाहिए?

व्यावहारिक शुरुआती तुलना के लिए, सामान्य बहुमाध्यम अनुप्रयोगों हेतु Qwen3.8-27B, स्थानीय मॉडल के अलग-अलग आकारों के विकल्प के लिए Gemma 4 और आसानी से उपलब्ध टेक्स्ट रीजनिंग के लिए gpt-oss से शुरुआत करें। ये किसी केंद्रीय इन्फ़रेंस क्लस्टर को अपनाने की प्रतिबद्धता से पहले आज़माने के उपयोगी विकल्प हैं।

सर्वर-स्तर के कठिन कार्यों के लिए, व्यापक रीजनिंग और कोडिंग हेतु DeepSeek V4, लंबे समय तक काम करने वाले सॉफ़्टवेयर एजेंटों हेतु GLM-5.3 और बहुमाध्यम वर्कफ़्लो हेतु Kimi K3 की तुलना करें। जब एक ही मॉडल को कॉन्फ़िगर की जा सकने वाली रीजनिंग के साथ कई कारोबारी कार्य करने हों, तो Mistral Small 4 का मूल्यांकन करना उचित है।

विशेषज्ञ मॉडल अलग-अलग ज़रूरतें पूरी करते हैं: केंद्रित कोडिंग वर्कस्टेशन के लिए Devstral Small 2, दक्षता पर केंद्रित टेक्स्ट एजेंटों के लिए Nemotron 3 Nano और पारदर्शी अनुसंधान तथा अनुकूलन के लिए Olmo 3.1। अपने हार्डवेयर और लाइसेंस संबंधी ज़रूरतों के अनुकूल दो या तीन मॉडल चुनें, फिर परिनियोजन का चयन करने से पहले समान प्रतिनिधि कार्यों पर उनका मूल्यांकन करें।