मिस्ट्रल 2 और मिस्ट्रल नेमो: पेरिस से आने वाले नवीनतम एलएलएम के लिए एक व्यापक गाइड

गूगल के डीपमाइंड और मेटा के पूर्व छात्रों द्वारा स्थापित, पेरिस स्थित स्टार्टअप मिस्ट्रल एआई ने 2023 से एआई समुदाय में लगातार लहरें पैदा की हैं।

मिस्ट्रल एआई ने पहली बार दुनिया का ध्यान अपने डेब्यू मॉडल, मिस्ट्रल 7बी, जारी करके आकर्षित किया, जो 2023 में जारी किया गया था। यह 7-बिलियन पैरामीटर मॉडल जल्दी ही अपने प्रभावशाली प्रदर्शन के लिए ध्यान आकर्षित किया, विभिन्न बेंचमार्क में ल्लामा 2 13बी जैसे बड़े मॉडलों को पार करते हुए और यहां तक कि कई मेट्रिक्स में ल्लामा 1 34बी को पार करते हुए। मिस्ट्रल 7बी को जो अलग करता था वह न केवल इसका प्रदर्शन था, बल्कि इसकी पहुंच भी थी – मॉडल को आसानी से गिटहब से डाउनलोड किया जा सकता था या यहां तक कि 13.4-गिगाबाइट टॉरेंट के माध्यम से भी, इसे दुनिया भर के शोधकर्ताओं और विकासकर्ताओं के लिए तैयार किया जा सकता था।

कंपनी का रिलीज के लिए असामान्य दृष्टिकोण, अक्सर पारंपरिक पत्र, ब्लॉग, या प्रेस रिलीज को छोड़ देना, एआई समुदाय का ध्यान आकर्षित करने में उल्लेखनीय रूप से प्रभावी साबित हुआ है। यह रणनीति, उनके खुले स्रोत सिद्धांतों के प्रति प्रतिबद्धता के साथ मिलकर, मिस्ट्रल एआई को एआई परिदृश्य में एक प्रमुख खिलाड़ी के रूप में स्थापित किया है।

मिस्ट्रल एआई की उद्योग में तेजी से वृद्धि उनके हालिया फंडिंग सफलता से और साबित होती है। कंपनी ने एंड्रेसेन होरोविट्ज द्वाराนำित एक फंडिंग राउंड के बाद $2 बिलियन का मूल्यांकन हासिल किया – यह यूरोपीय इतिहास में सबसे बड़ा $118 मिलियन के बीज दौर के मद्देनजर आया, जो मिस्ट्रल एआई के दृष्टिकोण और क्षमताओं में निवेशकों के विश्वास को प्रदर्शित करता है।

उनकी तकनीकी प्रगति से परे, मिस्ट्रल एआई ने एआई नीति को आकार देने में, विशेष रूप से यूरोपीय संघ के एआई अधिनियम के आसपास चर्चाओं में, खुले स्रोत एआई में नियमन में कमी की वकालत की है।

अब, 2024 में, मिस्ट्रल एआई ने एक बार फिर से बार उठाया है दो ग्राउंडब्रेकिंग मॉडल के साथ: मिस्ट्रल लार्ज 2 (जिसे मिस्ट्रल-लार्ज-इन्स्ट्रक्ट-2407 के नाम से भी जाना जाता है) और मिस्ट्रल नेमो। इस व्यापक गाइड में, हम इन प्रभावशाली एआई मॉडल की विशेषताओं, प्रदर्शन और संभावित अनुप्रयोगों में गहराई से जाएंगे।

मिस्ट्रल लार्ज 2 की कुछ प्रमुख विशेषताएं हैं:

• 123 बिलियन पैरामीटर
• 128k संदर्भ विंडो
• दर्जनों भाषाओं के लिए समर्थन
• 80+ कोडिंग भाषाओं में प्रवीणता
• उन्नत फंक्शन कॉलिंग क्षमताएं

मॉडल को लागत प्रभावशीलता, गति और प्रदर्शन की सीमाओं को धक्का देने के लिए डिज़ाइन किया गया है, जिससे यह शोधकर्ताओं और उद्यमों के लिए एक आकर्षक विकल्प बन जाता है जो कटिंग-एज एआई का लाभ उठाना चाहते हैं।

मिस्ट्रल नेमो: नया छोटा मॉडल

जबकि मिस्ट्रल लार्ज 2 मिस्ट्रल एआई के बड़े पैमाने पर मॉडल का प्रतिनिधित्व करता है, मिस्ट्रल नेमो, जो जुलाई 2024 में जारी किया गया था, एक अलग दृष्टिकोण अपनाता है। एनवीडिया के साथ सहयोग से, मिस्ट्रल नेमो एक अधिक कॉम्पैक्ट 12 बिलियन पैरामीटर मॉडल है जो अभी भी प्रभावशाली क्षमताएं प्रदान करता है:

• 12 बिलियन पैरामीटर
• 128k संदर्भ विंडो
• अपने आकार वर्ग में राज्य-कला प्रदर्शन
• अपाचे 2.0 लाइसेंस खुले उपयोग के लिए
• क्वांटाइजेशन-जागरूक प्रशिक्षण कुशल अनुमान के लिए

मिस्ट्रल नेमो को मिस्ट्रल 7बी का ड्रॉप-इन प्रतिस्थापन के रूप में स्थित किया गया है, जो बेहतर प्रदर्शन प्रदान करता है जबकि उपयोग में आसानी और संगतता बनाए रखता है।

मुख्य विशेषताएं और क्षमताएं

मिस्ट्रल लार्ज 2 और मिस्ट्रल नेमो दोनों में कई मुख्य विशेषताएं हैं जो उन्हें एआई परिदृश्य में अलग बनाती हैं:

1. बड़े संदर्भ विंडो: 128k टोकन संदर्भ लंबाई के साथ, दोनों मॉडल लंबे टेक्स्ट के टुकड़ों को संसाधित और समझने में सक्षम हैं, जिससे अधिक सुसंगत और संदर्भ से संबंधित आउटपुट संभव हो जाते हैं।
2. बहुभाषी समर्थन: मॉडल विभिन्न भाषाओं में उत्कृष्टता प्राप्त करते हैं, जिनमें अंग्रेजी, फ्रेंच, जर्मन, स्पेनिश, इतालवी, चीनी, जापानी, कोरियाई, अरबी और हिंदी शामिल हैं।
3. उन्नत कोडिंग क्षमताएं: दोनों मॉडल कई प्रोग्रामिंग भाषाओं में कोड जेनरेशन में असाधारण प्रवीणता प्रदर्शित करते हैं।
4. निर्देश अनुसरण: मॉडलों में सटीक निर्देशों का पालन करने और बहु-मोड़ वार्ता को संभालने की क्षमता में महत्वपूर्ण सुधार किए गए हैं।
5. फंक्शन कॉलिंग: मूल फंक्शन कॉलिंग समर्थन इन मॉडलों को बाहरी टूल और सेवाओं के साथ गतिशील रूप से बातचीत करने की अनुमति देता है।
6. तर्क और समस्या समाधान: गणितीय तर्क और जटिल समस्या समाधान कार्यों में बढ़ी हुई क्षमताएं।

आइए इन विशेषताओं का अन्वेषण करें और देखें कि वे व्यवहार में कैसे प्रदर्शन करते हैं।

प्रदर्शन बेंचमार्क

मिस्ट्रल लार्ज 2 और मिस्ट्रल नेमो की वास्तविक क्षमताओं को समझने के लिए, विभिन्न बेंचमार्क पर उनके प्रदर्शन को देखना आवश्यक है। आइए कुछ प्रमुख मेट्रिक्स पर नजर डालें:

मिस्ट्रल लार्ज 2 बेंचमार्क

यह तालिका विभिन्न एलएलएम की विभिन्न प्रोग्रामिंग भाषाओं में प्रवीणता को प्रस्तुत करती है। मिस्ट्रल लार्ज 2 (24.07), ल्लामा 3.1 (405बी), और जीपीटी-4ओ जैसे मॉडलों का मूल्यांकन पायथन, सी++, बैश, जावा, टाइपस्क्रिप्ट, पीएचपी, और सी# जैसी भाषाओं में कोड को समझने और उत्पन्न करने की उनकी क्षमता पर किया जाता है।

ल्लामा 3.1 405बी विभिन्न भाषाओं में मजबूत प्रदर्शन दिखाता है, विशेष रूप से पायथन और जावा में उच्च स्कोर के साथ। यह प्रवीणता कोड जेनरेशन, डिबगिंग और सॉफ्टवेयर विकास से संबंधित अनुप्रयोगों के लिए महत्वपूर्ण है, जिससे वे विकासकर्ताओं के लिए मूल्यवान उपकरण बन जाते हैं।

https://mistral.ai/news/mistral-large-2407/

https://mistral.ai/news/mistral-large-2407/

मिस्ट्रल नेमो बेंचमार्क

दी गई जानकारी में मिस्ट्रल नेमो के लिए विशिष्ट बेंचमार्क स्कोर प्रदान नहीं किए गए हैं, लेकिन यह अपने आकार वर्ग में राज्य-कला प्रदर्शन प्रदान करने के लिए वर्णित किया गया है। मॉडल हाल के खुले स्रोत पूर्व-प्रशिक्षित मॉडल जैसे जेम्मा 2 9बी और ल्लामा 3 8बी को विभिन्न कार्यों में पार करता है।

मिस्ट्रल नेमो बेस मॉडल का प्रदर्शन जेम्मा 2 9बी और ल्लामा 3 8बी की तुलना में।

बहुभाषी और कोडिंग क्षमता

मिस्ट्रल लार्ज 2 और मिस्ट्रल नेमो दोनों की एक उल्लेखनीय विशेषता उनकी असाधारण बहुभाषी क्षमता है। यह विशेष रूप से हमारे तेजी से वैश्वीकृत दुनिया में महत्वपूर्ण है, जहां एआई मॉडल को कई भाषाओं में सामग्री को समझने और उत्पन्न करने में सक्षम होने की आवश्यकता है।

मिस्ट्रल लार्ज 2, उदाहरण के लिए, फ्रेंच, जर्मन, स्पेनिश, इतालवी, पोर्तुगीज, अरबी, हिंदी, रूसी, चीनी, जापानी और कोरियाई सहित दर्जनों भाषाओं का समर्थन करता है। यह बहुभाषी प्रवीणता केवल अनुवाद से परे है, जिसमें इन भाषाओं में समझ और उत्पन्न करने की क्षमता शामिल है।

इसे प्रदर्शित करने के लिए, आइए मिस्ट्रल लार्ज 2 द्वारा विभिन्न भाषाओं में पाठ उत्पन्न करने का एक उदाहरण देखें:

इन उदाहरणों में मॉडल की बहुभाषी पाठ उत्पन्न करने और कोडिंग क्षमताएं प्रदर्शित होती हैं।

दोनों मॉडल विभिन्न प्लेटफार्मों जैसे हगिंग फेस, मिस्ट्रल एआई के प्लेटफॉर्म, और प्रमुख क्लाउड सेवा प्रदाताओं जैसे गूगल क्लाउड प्लेटफॉर्म, एज्योर एआई स्टूडियो, अमेज़न बेडरॉक, और आईबीएम वाटसनएक्स.एआई पर उपलब्ध हैं।

एजेंटिक पराडिग्म और फंक्शन कॉलिंग

मिस्ट्रल लार्ज 2 और मिस्ट्रल नेमो दोनों एक एजेंटिक-केंद्रित डिजाइन को अपनाते हैं, जो एआई मॉडल के साथ हमारे संवाद के तरीके में एक परिवर्तन का प्रतिनिधित्व करता है। यह दृष्टिकोण मॉडलों को उनके वातावरण के साथ बातचीत करने, निर्णय लेने और विशिष्ट लक्ष्यों को प्राप्त करने के लिए कार्रवाई करने में सक्षम बनाने पर केंद्रित है।

इस परिवर्तन को सक्षम करने वाली एक प्रमुख विशेषता मूल फंक्शन कॉलिंग समर्थन है। यह मॉडलों को बाहरी टूल और सेवाओं के साथ गतिशील रूप से बातचीत करने की अनुमति देता है, प्रभावी रूप से उनकी क्षमताओं का विस्तार करता है।

आइए मिस्ट्रल लार्ज 2 के साथ फंक्शन कॉलिंग का एक उदाहरण देखें:

from mistral_common.protocol.instruct.tool_calls import Function, Tool
from mistral_inference.transformer import Transformer
from mistral_inference.generate import generate
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.protocol.instruct.messages import UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest

<p># टोकनाइज़र और मॉडल को आरंभ करें
mistral_models_path = "path/to/mistral/models" # सुनिश्चित करें कि यह पथ सही है
tokenizer = MistralTokenizer.from_file(f"{mistral_models_path}/tokenizer.model.v3")
model = Transformer.from_folder(mistral_models_path)</p>

<p># मौसम जानकारी प्राप्त करने के लिए एक फंक्शन को परिभाषित करें
weather_function = Function(
name="get_current_weather",
description="मौसम की वर्तमान जानकारी प्राप्त करें",
parameters={
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "शहर और राज्य, उदाहरण के लिए सैन फ्रांसिस्को, सीए",
},
"format": {
"type": "string",
"enum": ["सेल्सियस", "फारेनहाइट"],
"description": "तापमान इकाई का उपयोग करें। उपयोगकर्ता के स्थान से इसका अनुमान लगाएं।",
},
},
"required": ["location", "format"],
},
)</p>

<p># फंक्शन के साथ एक चैट पूर्ण अनुरोध बनाएं
completion_request = ChatCompletionRequest(
tools=[Tool(function=weather_function)],
messages=[
UserMessage(content="आज पेरिस में मौसम कैसा है?"),
],
)</p>

<p># अनुरोध को एनकोड करें
tokens = tokenizer.encode_chat_completion(completion_request).tokens</p>

<p># प्रतिक्रिया उत्पन्न करें
out_tokens, _ = generate([tokens], model, max_tokens=256, temperature=0.7, eos_id=tokenizer.instruct_tokenizer.tokenizer.eos_id)
result = tokenizer.decode(out_tokens[0])</p>

print(result)

इस उदाहरण में, हम मौसम जानकारी प्राप्त करने के लिए एक फंक्शन को परिभाषित करते हैं और इसे हमारे चैट पूर्ण अनुरोध में शामिल करते हैं। मॉडल तब इस फंक्शन का उपयोग वास्तविक समय की मौसम जानकारी प्राप्त करने के लिए कर सकता है, जिससे यह दिखाया जा सकता है कि यह बाहरी प्रणालियों के साथ कैसे बातचीत कर सकता है।

टेक्केन: एक अधिक कुशल टोकनाइज़र

मिस्ट्रल नेमो एक नए टोकनाइज़र की शुरुआत करता है जिसे टेक्केन कहा जाता है, जो टिकटोकन पर आधारित है और 100 से अधिक भाषाओं पर प्रशिक्षित है। यह नया टोकनाइज़र पिछले टोकनाइज़र जैसे सेंटेंसपीस की तुलना में पाठ संपीड़न की दक्षता में महत्वपूर्ण सुधार प्रदान करता है।

टेक्केन की कुछ प्रमुख विशेषताएं हैं:

• स्रोत कोड, चीनी, इतालवी, फ्रेंच, जर्मन, स्पेनिश और रूसी के लिए 30% अधिक कुशल संपीड़न
• कोरियाई के लिए 2x अधिक कुशल संपीड़न
• अरबी के लिए 3x अधिक कुशल संपीड़न
• लगभग 85% भाषाओं के लिए ल्लामा 3 टोकनाइज़र को पार करता है

यह सुधारित टोकनाइजेशन दक्षता मॉडल के प्रदर्शन में अनुवाद करती है, विशेष रूप से बहुभाषी पाठ और स्रोत कोड के साथ काम करते समय। यह मॉडल को एक ही संदर्भ विंडो के भीतर अधिक जानकारी संसाधित करने की अनुमति देता है, जिससे अधिक सुसंगत और संदर्भ से संबंधित आउटपुट होते हैं।

लाइसेंसिंग और उपलब्धता

मिस्ट्रल लार्ज 2 और मिस्ट्रल नेमो के पास उनके इच्छित उपयोग के मामलों को प्रतिबिंबित करने वाले लाइसेंसिंग मॉडल हैं:

मिस्ट्रल लार्ज 2

• मिस्ट्रल रिसर्च लाइसेंस के तहत जारी किया गया
• अनुसंधान और गैर-व्यावसायिक उद्देश्यों के लिए उपयोग और संशोधन की अनुमति देता है
• व्यावसायिक उपयोग के लिए मिस्ट्रल व्यावसायिक लाइसेंस की आवश्यकता होती है

मिस्ट्रल नेमो

• अपाचे 2.0 लाइसेंस के तहत जारी किया गया
• व्यावसायिक अनुप्रयोगों सहित खुले उपयोग की अनुमति देता है

दोनों मॉडल विभिन्न प्लेटफार्मों के माध्यम से उपलब्ध हैं:

• हगिंग फेस: दोनों बेस और निर्देश मॉडलों के वजन यहां होस्ट किए जाते हैं
• मिस्ट्रल एआई: मिस्ट्रल-लार्ज-2407 (मिस्ट्रल लार्ज 2) और ओपन-मिस्ट्रल-नेमो-2407 (मिस्ट्रल नेमो) के रूप में उपलब्ध
• क्लाउड सेवा प्रदाता: गूगल क्लाउड प्लेटफॉर्म के वर्टेक्स एआई, एज्योर एआई स्टूडियो, अमेज़न बेडरॉक, और आईबीएम वाटसनएक्स.एआई पर उपलब्ध

https://mistral.ai/news/mistral-large-2407/

विकासकर्ताओं के लिए जो इन मॉडलों का उपयोग करना चाहते हैं, यहां हगिंग फेस ट्रांसफॉर्मर के साथ मिस्ट्रल लार्ज 2 को लोड और उपयोग करने का एक त्वरित उदाहरण है:

from transformers import AutoModelForCausalLM, AutoTokenizer

<p>model_name = "mistralai/Mistral-Large-Instruct-2407"
device = "cuda" # यदि उपलब्ध हो तो जीपीयू का उपयोग करें</p>

<p># मॉडल और टोकनाइज़र लोड करें
model = AutoModelForCausalLM.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)</p>

<p># मॉडल को उपयुक्त डिवाइस पर ले जाएं
model.to(device)</p>

<p># इनपुट तैयार करें
messages = [
{"role": "system", "content": "आप एक सहायक एआई सहायक हैं।"},
{"role": "user", "content": "न्यूरल नेटवर्क की अवधारणा को सरल शब्दों में समझाएं।"},
]</p>

<p># इनपुट को एनकोड करें
input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt").to(device)</p>

<p># प्रतिक्रिया उत्पन्न करें
output_ids = model.generate(input_ids, max_new_tokens=500, do_sample=True)</p>

<p># आउटपुट डिकोड और प्रिंट करें
response = tokenizer.decode(output_ids[0], skip_special_tokens=True)
print(response)</p>