مِسترال 2 ومِسترال NeMo: دليل شامل لأحدث نماذج LLM من باريس

تأسست من قبل خريجي جوجل ديب مايند وميتا، استطاعت شركة مِسترال آي، التي تتخذ من باريس مقراً لها، إحداث موجات في مجتمع الذكاء الاصطناعي منذ عام 2023.

أول ما لفت شركة مِسترال آي انتباه العالم كان مع ظهور نموذجها الأول، مِسترال 7ب، الذي تم إطلاقه في عام 2023. وحقق هذا النموذج ذو المعاملات 7 مليارات معاملات أداءً مثيراً للإعجاب، متجاوزاً نماذج أكبر مثل لاما 2 13ب في العديد من البنود، وحتى منافسة لاما 1 34ب في العديد من المعايير. ما ميز مِسترال 7ب لم يكن فقط أداؤه، ولكن أيضاً سهولة الوصول إليه – يمكن تحميل النموذج بسهولة من جيت هاب أو حتى عبر تورنت بحجم 13.4 جيجابايت، مما جعله متاحاً للباحثين والمطورين في جميع أنحاء العالم.

_approach غير التقليدية لشركة مِسترال آي في الإصدارات، غالباً ما تتجاوز الأوراق التقليدية أو المدونات أو إعلانات الصحافة، أثبتت نجاحها في جذب انتباه مجتمع الذكاء الاصطناعي. هذا التكتيك، إلى جانب التزامهم بمبادئ البرمجيات مفتوحة المصدر، وضع شركة مِسترال آي في موقع قوي في مشهد الذكاء الاصطناعي.

صعود شركة مِسترال آي السريع في الصناعة يتضح أيضاً من نجاحها الأخير في التمويل. حققت الشركة تقييماً مذهلاً بقيمة 2 مليار دولار بعد جولة تمويل بقيادة أندريسين هورويتز. جاء هذا التمويل بعد جولة بذور تاريخية بقيمة 118 مليون دولار – أكبر جولة بذور في تاريخ أوروبا – مما يظهر الإيمان الهائل الذي يتمتع به المستثمرين في رؤية و قدرات شركة مِسترال آي.

علاوة على التطورات التكنولوجية، شاركت شركة مِسترال آي أيضاً بنشاط في تشكيل سياسات الذكاء الاصطناعي، خاصة في مناقشات قانون الذكاء الاصطناعي في الاتحاد الأوروبي، حيث دافعت عن خفض التنظيم في الذكاء الاصطناعي مفتوح المصدر.

الآن، في عام 2024، رفع شركة مِسترال آي مرة أخرى مستوى التطور مع نموذجين رائدين: مِسترال لارج 2 (المعروف أيضاً باسم مِسترال-لارج-إنستركت-2407) ومِسترال نيمو. في هذا الدليل الشامل، سنغوص sâu في الميزات والأداء والتطبيقات المحتملة لهذين النموذجين الرائدين.

المواصفات الرئيسية لمِسترال لارج 2 تشمل:

• 123 مليار معاملات
• 128 كيلو نافذة سياق
• دعم العشرات من اللغات
• البراعة في 80+ لغة برمجة
• قدرات متقدمة لاستدعاء الدوال

تم تصميم النموذج لتحقيق حدود الكفاءة التكلفة والسرعة والأداء، مما يجعله خياراً جذاباً للباحثين والشركات التي تسعى لاستخدام تقنيات الذكاء الاصطناعي المتقدمة.

مِسترال نيمو: النموذج الأصغر الجديد

في حين يمثل مِسترال لارج 2 أفضل ما تقدمه شركة مِسترال آي من نماذج كبيرة الحجم، يأتي مِسترال نيمو، الذي تم إطلاقه في يوليو 2024، بمقاربة مختلفة. تم تطوير مِسترال نيمو بالتعاون مع إنفيديا، وهو نموذج مضغوط ذو 12 مليار معاملات، ويقدم قدرات مثيرة للإعجاب:

• 12 مليار معاملات
• 128 كيلو نافذة سياق
• أداء على مستوى الدولة في فئته
• ترخيص أباتشي 2.0 للاستخدام المفتوح
• تدريب ذكاء الحجم لاستدعاء الكفاءة

يتم وضع مِسترال نيمو كبديل لنموذج مِسترال 7ب الحالي، مع تحسين الأداء مع الحفاظ على سهولة الاستخدام ومتطلبات التوافق.

الميزات والقدرات الرئيسية

يتشارك كل من مِسترال لارج 2 ومِسترال نيمو في عدة ميزات رئيسية تميزهما في مشهد الذكاء الاصطناعي:

1. نوافذ سياق كبيرة: مع أطوال سياق 128 كيلو، يمكن للنموذجين معالجة وفهم قطع نصية أطول، مما يتيح إنتاج مخرجات أكثر تماسكاً وملاءمة للسياق.
2. دعم متعدد اللغات: يمتاز النماذجان بأداء متميز في مجموعة واسعة من اللغات، بما في ذلك الإنجليزية والفرنسية والألمانية والإسبانية والإيطالية والصينية واليابانية والكورية والعربية والهندية.
3. قدرات برمجة متقدمة: يُظهر كلا النموذجين براعة استثنائية في توليد الشفرة عبر لغات برمجة متعددة.
4. اتباع الإرشادات: تم تحقيق تحسينات كبيرة في قدرة النماذج على اتباع الإرشادات الدقيقة ومعالجة محادثات متعددة الدورات.
5. استدعاء الدوال: يدعم النماذج استدعاء الدوال بشكل أصلي، مما يسمح لهما بالتفاعل ديناميكياً مع أدوات وخدمات خارجية.
6. الاستدلال والتحليل: تم تحسين القدرات في الاستدلال الرياضي ومهام حل المشكلات المعقدة.

دعنا نستكشف بعض هذه الميزات ونفحص كيفية أدائها في الممارسة.

معايير الأداء

لفهم القدرات الحقيقية لمِسترال لارج 2 ومِسترال نيمو، من المهم النظر إلى أدائهما عبر مختلف المعايير:

معايير مِسترال لارج 2

هذا الجدول يعرض الخبرة في لغات برمجة مختلفة لنموذج لغة كبير. يتم تقييم نماذج مثل مِسترال لارج 2 (24.07) ولاما 3.1 (405ب) وGPT-4o علىقدرتهم على فهم وتوليد الشفرة بلغات مثل بايثون وC++ وBash وJava وTypeScript وPHP وC#.

يُظهر لاما 3.1 أداء قوياً عبر لغات متعددة، مع درجات عالية بشكل خاص في بايثون وJava. هذه البراعة في لغات البرمجة حاسمة للتطبيقات التي تشمل توليد الشفرة وتصحيح الأخطاء وتطوير البرمجيات، مما يجعل هذه النماذج أدوات قيمة للمطورين.

معايير مِسترال نيمو

في حين لا يتم توفير درجات معايير محددة لمِسترال نيمو في المعلومات المقدمة، يتم وصفها بأنها توفر أداء على مستوى الدولة في فئتها.

القدرات متعددة اللغات والبرمجة

تتميز كل من مِسترال لارج 2 ومِسترال نيمو بميزة بارزة هي القدرة على العمل بفعالية في لغات متعددة. هذا أمر بالغ الأهمية في عالمنا المتكامل على نحو متزايد، حيث تحتاج نماذج الذكاء الاصطناعي إلى فهم وإنتاج المحتوى بلغات متعددة.

دعنا نلقي نظرة على مثال لتشغيل مِسترال لارج 2 في توليد نص بلغات متعددة:

تُظهر هذه الأمثلة القدرة على توليد نص متعددة اللغات والبرمجة.

النمط الجديدي والاستدعاء الوظيفي

تتبنى كل من مِسترال لارج 2 ومِسترال نيمو نمطاً مركزيًا يركز على بناء نماذج قادرة على التفاعل مع بيئتها واتخاذ قرارات والقيام بأفعال لتحقيق أهداف محددة.

ميزة رئيسية تمكن هذا النمط هي الدعم الأصلي لاستدعاء الدوال، مما يسمح للنماذج بالتفاعل ديناميكيًا مع أدوات وخدمات خارجية، وبالتالي توسيع قدراتهم بشكل كبير.

دعنا نلقي نظرة على مثال لاستدعاء الدوال مع مِسترال لارج 2:

from mistral_common.protocol.instruct.tool_calls import Function, Tool
from mistral_inference.transformer import Transformer
from mistral_inference.generate import generate
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.protocol.instruct.messages import UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest

<p># Initialize tokenizer and model
mistral_models_path = &quot;path/to/mistral/models&quot; # Ensure this path is correct
tokenizer = MistralTokenizer.from_file(f&quot;{mistral_models_path}/tokenizer.model.v3&quot;)
model = Transformer.from_folder(mistral_models_path)</p>

<p># Define a function for getting weather information
weather_function = Function(
name=&quot;get_current_weather&quot;,
description=&quot;Get the current weather&quot;,
parameters={
&quot;type&quot;: &quot;object&quot;,
&quot;properties&quot;: {
&quot;location&quot;: {
&quot;type&quot;: &quot;string&quot;,
&quot;description&quot;: &quot;The city and state, e.g. San Francisco, CA&quot;,
},
&quot;format&quot;: {
&quot;type&quot;: &quot;string&quot;,
&quot;enum&quot;: [&quot;celsius&quot;, &quot;fahrenheit&quot;],
&quot;description&quot;: &quot;The temperature unit to use. Infer this from the user&#039;s location.&quot;,
},
},
&quot;required&quot;: [&quot;location&quot;, &quot;format&quot;],
},
)</p>

<p># Create a chat completion request with the function
completion_request = ChatCompletionRequest(
tools=[Tool(function=weather_function)],
messages=[
UserMessage(content=&quot;What&#039;s the weather like today in Paris?&quot;),
],
)</p>

<p># Encode the request
tokens = tokenizer.encode_chat_completion(completion_request).tokens</p>

<p># Generate a response
out_tokens, _ = generate([tokens], model, max_tokens=256, temperature=0.7, eos_id=tokenizer.instruct_tokenizer.tokenizer.eos_id)
result = tokenizer.decode(out_tokens[0])</p>

print(result)

في هذا المثال، نقوم بتعريف دالة للاستعلام عن حالة الطقس ونشملها في طلب استكمال المحادثة. يمكن للنموذج استخدام هذه الدالة لاسترجاع بيانات الطقس في الوقت الفعلي، مما يظهر كيف يمكنه التفاعل مع الأنظمة الخارجية لتوفير معلومات أكثر دقة و актуال.

تيكن: معالج نص أكثر كفاءة

يقدم مِسترال نيمو معالج نص جديد يسمى تيكن، الذي يعتمد على تيك توكين وتم تدريبه على أكثر من 100 لغة. يوفر هذا المعالج الجديد تحسينات كبيرة في كفاءة الضغط النصي مقارنة بمعالجات النص السابقة مثل سينتنس بيس.

تتضمن ميزات تيكن:

• 30% أكثر كفاءة في الضغط للشفرة المصدرية واللغات مثل الصينية والإيطالية والفرنسية والألمانية والإسبانية والروسية
• 2x أكثر كفاءة في الضغط للغة الكورية
• 3x أكثر كفاءة في الضغط للغة العربية
• يتفوق على معالج لاما 3 في ضغط النص لما يقرب من 85% من جميع اللغات

تترجم هذه الكفاءة المحسنة في معالجة النص إلى أداء أفضل للنموذج، خاصة عند التعامل مع النص المتعدد اللغات والشفرة المصدرية. كما يسمح للنموذج بمعالجة المزيد من المعلومات داخل نفس نافذة السياق، مما يؤدي إلى مخرجات أكثر تماسكاً وملاءمة للسياق.

ترخيص وتوفر

يتوفر مِسترال لارج 2 ومِسترال نيمو بنماذج ترخيص مختلفة، تعكس استخداماتهم المقصودة:

مِسترال لارج 2

• تم إطلاقه تحت ترخيص مِسترال للأبحاث
• يسمح بالاستخدام والتعديل للأغراض البحثية وغیر التجارية
• تتطلب الاستخدام التجاري ترخيص مِسترال التجاري

مِسترال نيمو

• تم إطلاقه تحت ترخيص أباتشي 2.0
• يسمح بالاستخدام المفتوح، بما في ذلك التطبيقات التجارية

يتوفر كلا النموذجين عبر منصات مختلفة:

• هوجينج فايس: يتم استضافة أوزان كلا النموذجين الأساسيين والتعليمي هنا
• مِسترال آي: متاح كـ مِسترال-لارج-2407 (مِسترال لارج 2) و أوبن-مِسترال-نيمو-2407 (مِسترال نيمو)
• مُزودو الخدمات السحابية: متاح على منصة جوجل كلاود فيرتكس آي، وآزور آي ستوديو، وأمازون بيدروك، وآي بي إم واتسون إكس.آي

القيود والاعتبارات الأخلاقية

في حين يمثلان تقدمًا كبيرًا في تكنولوجيا الذكاء الاصطناعي، من المهم أن ندرك القيود والاعتبارات الأخلاقية المحيطة باستخدام مِسترال لارج 2 ومِسترال نيمو:

1. الاحتمال للتحييز: مثل جميع نماذج الذكاء الاصطناعي التي يتم تدريبها على مجموعات بيانات كبيرة، قد ترث هذه النماذج وتضخم التحييزات الموجودة في بيانات التدريب. يجب على المستخدمين أن يكونوا على دراية بهذا الأمر وتنفيذ الحماية المناسبة.
2. نقص الفهم الحقيقي: على الرغم من قدراتهم المثيرة للإعجاب، لا تمتلك هذه النماذج الفهم أو الوعي الحقيقي. إنها تولد استجابات بناءً على الأنماط في بيانات التدريب، مما قد يؤدي أحيانًا إلى معلومات تبدو معقولة ولكنها خاطئة.
3. مخاوف الخصوصية: عند استخدام هذه النماذج، خاصة في التطبيقات التي تتعامل مع معلومات حساسة، من المهم考虑 الآثار المتعلقة بالبيانات والخصوصية والأمان.

الختام

توفير نماذج متقدمة مثل مِسترال لارج 2 ومِسترال نيمو ي представляет فرصة قوية لاستخدام تقنيات الذكاء الاصطناعي المتقدمة في مجموعة متنوعة من التطبيقات، من الاستدعاء الوظيفي الديناميكي إلى معالجة النص المتعدد اللغات بكفاءة. هنا بعض النصائح العملية والمفاهيم الرئيسية التي يجب مراعاتها:

1. فهم حالة الاستخدام الخاصة بك: حدد بوضوح المهام والغايات التي تريد أن يحققها نموذجك. سيساعدك هذا الفهم في اختيار النموذج ونهج التحسين، سواء كانت قدرات مِسترال في الاستدعاء الوظيفي أو معالجة النص المتعدد اللغات.
2. تحسين الكفاءة: استفد من معالج تيكن لتحسين كفاءة الضغط النصي، خاصة إذا كانت تطبيقاتك تتضمن معالجة كميات كبيرة من النص أو لغات متعددة. هذا سيعزز أداء النموذج ويقلل من التكاليف الحسابية.
3. استخدام الاستدعاء الوظيفي: امتثل للنمط المركزي من خلال دمج استدعاءات الدوال في تفاعلات النموذج. هذا يسمح للذكاء الاصطناعي بالتفاعل ديناميكيًا مع أدوات وخدمات خارجية، مما يوفر مخرجات أكثر دقة وفعّالية. على سبيل المثال، يمكن دمج واجهات برمجة تطبيقات الطقس أو مصادر بيانات خارجية أخرى لتحسين صحة وملاءمة استجابات النموذج.
4. اختيار المنصة الصحيحة: تأكد من نشر نماذجك على منصات تدعم قدراتها، مثل منصة جوجل كلاود فيرتكس آي وآزور آي ستوديو وأمازون بيدروك وآي بي إم واتسون إكس.آي. توفر هذه المنصات البنية التحتية والأدوات اللازمة لتحقيق أداء وتماسك نماذج الذكاء الاصطناعي.

من خلال اتباع هذه النصائح واستخدام الأمثلة البرمجية المقدمة، يمكنك استغلال قوة مِسترال لارج 2 ومِسترال نيمو بشكل فعال لتحقيق احتياجاتك المحددة.