لمّا 2: غوص عميق في المنافس المفتوح للمصدر لتشات جبت

النماذج اللغوية الكبيرة (LLMs) القادرة على مهام التفكير المعقدة أظهرت وعدا في المجالات المتخصصة مثل البرمجة والكتابة الإبداعية. ومع ذلك ، فإن عالم النماذج اللغوية الكبيرة ليس مجرد جنة للاستخدام الفوري ؛ هناك تحديات في سهولة الاستخدام والأمان والمتطلبات الحاسوبية. في هذا المقال ، سنقوم بالغوص عميقًا في قدرات لمّا 2 ، مع تقديم دليل مفصل لتشغيل هذا النموذج اللغوي العالي الأداء عبر هوجينج فايس و T4 GPUs على جوجل كولاب.

تم تطوير لمّا 2 من قبل ميتا بالشراكة مع مايكروسوفت ، ويهدف هذا النموذج اللغوي المفتوح المصدر إلى إعادة تعريف مجالات الذكاء الاصطناعي والتفاهم اللغوي. لمّا 2 ليس مجرد نموذج إحصائي مدرب على تيرابايت من البيانات ؛ إنه تجسيد لفلسفة. فلسفة تؤكد على 접근 مفتوح المصدر كالعصب الأساسي لتطوير الذكاء الاصطناعي ، خاصة في مجال الذكاء الاصطناعي التوليدي.

لمّا 2 و بديله المثالي للحوار ، لمّا 2-تشات ، يأتيان مع ما يصل إلى 70 مليار معامل. يخضعان لعملية تحسين دقيقة مصممة لجعلها متوافقة بشكل وثيق مع تفضيلات البشر ، مما يجعلها أكثر أمانًا وفعالية من العديد من النماذج الأخرى المتاحة للجمهور. هذا المستوى من الدقة في التحسين غالبًا ما يتم الحفاظ عليه لنماذج LLMs المغلقة “المنتج” ، مثل تشات جبت و BARD ، والتي لا يتم توفيرها عادةً للفحص العام أو التخصيص.

غوص تقني عميق في لمّا 2

لتدريب نموذج لمّا 2 ؛ مثل سلافه ، يستخدم بنية متوالية ذاتية مُحَوِّل ، مدرب مسبقًا على مجموعة واسعة من البيانات ذاتية الإشراف. ومع ذلك ، إنه يضيف طبقة إضافية من التعقيد من خلال استخدام التعلم بالتعزيز مع ملاحظات بشرية (RLHF) لتحسين التوافق مع السلوك البشري والتفضيلات.

هذه العملية مكلفة حسابيًا ولكنها حاسمة لتحسين أمان النموذج وفعاليتها.

الرسم التالي يظهر بنية تدريب لمّا 2:

بنية تدريب لمّا 2

التدريب المسبق و كفاءة البيانات

التحسين الأساسي في لمّا 2 يكمن في نظام التدريب المسبق. يأخذ النموذج الإشارات من سلفه ، لمّا 1 ، ولكنه يقدم عدة تحسينات حاسمة لتعزيز أدائه. على وجه الخصوص ، زيادة بنسبة 40٪ في العدد الإجمالي للرموز المدربة وتوسيع في طول السياق بنسبة مزدوجة يبرزان. بالإضافة إلى ذلك ، يستخدم النموذج انتباه المجموعة الاستفسارية (GQA) لتعزيز قابلية الاستدلال.

التحسين الدقيق الموجه و التعلم بالتعزيز مع ملاحظات بشرية (RLHF)

تم تحسين لمّا 2-تشات بدقة باستخدام كلاً من التحسين الدقيق الموجه و التعلم بالتعزيز مع ملاحظات بشرية (RLHF). في هذا السياق ، يخدم التحسين الدقيق الموجه كجزء لا يتجزأ من إطار العمل RLHF ، مما ي tinhة استجابات النموذج لتتوافق بشكل وثيق مع تفضيلات و توقعات البشر.

أوبن آي قدمت توضيحًا مفيدًا يشرح منهجيات التحسين الدقيق الموجه و RLHF المستخدمة في InstructGPT. تمامًا مثل LLaMa 2 ، يستخدم InstructGPT أيضًا تقنيات التدريب المتقدمة هذه لتحسين أداء نموذجه.

الخطوة 1 في الصورة التالية تركز على التحسين الدقيق الموجه (SFT) ، بينما تكتمل الخطوات اللاحقة عملية التعلم بالتعزيز من ملاحظات بشرية (RLHF).

Instruction-GPT

التحسين الدقيق الموجه (SFT) هو عملية متخصصة تهدف إلى تحسين نموذج اللغة الكبير المدرب مسبقًا (LLM) لمهمة معينة. على عكس الأساليب غير الموجهة ، التي لا تتطلب التحقق من البيانات ، يستخدم SFT مجموعة بيانات تم التحقق منها مسبقًا وتم وضع علامات عليها.

بشكل عام ، إن إنشاء هذه المجموعات البيانية مكلف ويتطلب وقتًا. كان نهج لمّا 2 هو الجودة على الكمية. مع 27,540 تعليلاً فقط ، حقق فريق ميتا مستويات أداء تنافس مع المُعرِّفين البشر. هذا يتوافق مع دراسات حديثة تظهر أن حتى مجموعات البيانات المحدودة ولكن النظيفة يمكن أن تدفع نتائج عالية الجودة.

في عملية SFT ، يتم تعريض النموذج المدرب مسبقًا على مجموعة بيانات تم وضع علامات عليها ، حيث يأتي خوارزميات التعلم الموجهة إلى اللعب. يتم إعادة ضبط الأوزان الداخلية للنموذج بناءً على التدرجات المحسوبة من دالة خسارة محددة للمهمة.

هذه التحسينات تسمح للنموذج بالاستيلاء على الأنماط وال细يات المعقدة المضمنة في مجموعة البيانات المُعلَّمة. وبالتالي ، يصبح النموذج ليس مجرد أداة عامة ، بل يتحول إلى مورد متخصص ، ماهر في أداء المهمة المستهدفة بدقة عالية.

التعلم بالتعزيز هو الخطوة التالية ، ويهدف إلى جعل سلوك النموذج يتوافق بشكل أوثق مع تفضيلات البشر.

مرحلة التحسين استفادت من التعلم بالتعزيز من ملاحظات بشرية (RLHF) ، مستخدمة تقنيات مثل عينة الأهمية و تحسين السياسة القريبة لتقديم ضوضاء خوارزمية ، وبالتالي تجنب الحد الأقصى المحلي. هذا التحسين التكراري لا يُحسِّن فقط من النموذج ، بل يُحاذي أيضًا إخراجها مع التوقعات البشرية.

استخدم لمّا 2-تشات بروتوكول مقارنة ثنائي لجمع بيانات تفضيل بشرية ، مما يدل على اتجاه ملحوظ نحو نهج أكثر نوعية. هذا الآلية أبلغت نماذج المكافأة ، التي تم استخدامها بعد ذلك لتحسين نموذج الحوار.

انتباه الشبح: حوارات متعددة الدورات

قدمت ميتا ميزة جديدة ، انتباه الشبح (GAtt) ، مصممة لتحسين أداء لمّا 2 في حوارات متعددة الدورات. هذا يحل بشكل فعال مشكلة فقدان السياق في المحادثات المستمرة. يعمل GAtt مثل المرساة ، يربط التوجيهات الأولية بجميع رسائل المستخدم اللاحقة. مقترنًا bằng تقنيات التعلم بالتعزيز ، يساعد في إنتاج استجابات متسقة وملائمة وموجهة للمستخدم على مدار حوارات أطول.

من مستودع ميتا جيت باستخدام download.sh

1. زيارة موقع ميتا: انتقل إلى موقع لمّا 2 الرسمي لميتا واضغط على “تحميل النموذج”.
2. ملء التفاصيل: اقرأ الشروط والأحكام ووافق عليها للمتابعة.
3. تأكيد البريد الإلكتروني: بمجرد تقديم الاستمارة ، ستتلقى بريدًا إلكترونيًا من ميتا يحتوي على رابط لتحميل النموذج من مستودع جيت الخاص بهم.
4. تنفيذ download.sh: استنسخ مستودع جيت وتنفذ سكريبت download.sh. سيطالبك هذا السكريبت بالتحقق باستخدام رابط من ميتا يانتهي صلاحيته في 24 ساعة. سوف تختار أيضًا حجم النموذج – 7B أو 13B أو 70B.

من هوجينج فايس

1. استلام بريد الإلكتروني بالموافقة: بعد الحصول على الوصول من ميتا ، انتقل إلى هوجينج فايس.
2. طلب الوصول: اختر النموذج الذي تريده و قدم طلبًا للحصول على الوصول.
3. التأكيد: توقع بريدًا إلكترونيًا “تم منح الوصول” في غضون 1-2 يوم.
4. توليد رموز الوصول: انتقل إلى “الإعدادات” في حساب هوجينج فايس الخاص بك لإنشاء رموز الوصول.

إصدار ترانسفورميرز 4.31 متوافق تمامًا مع LLaMa 2 و يفتح العديد من الأدوات والوظائف داخل نظام هوجينج فايس. من سكريبتات التدريب والاستدلال إلى كمية 4-بت مع bitsandbytes و تحسين دقيق كفء (PEFT) ، الأداة شاملة. لبدء الاستخدام ، تأكد من أنك على أحدث إصدار من ترانسفورميرز و سجل الدخول إلى حساب هوجينج فايس الخاص بك.

إليك دليل مبسط لتشغيل استدلال نموذج LLaMa 2 في بيئة جوجل كولاب ، مع الاستفادة من وقت تشغيل GPU:

نموذج جوجل كولاب – T4 GPU

تثبيت الحزمة

<p>!pip install transformers
!huggingface-cli login

استيراد المكتبات البرمجية اللازمة.

from transformers import AutoTokenizer
import transformers
import torch

تخويل النموذج و المُحَوِّل

في هذه الخطوة ، حدد النموذج لمّا 2 الذي ستستخدمه. في هذا الدليل ، نستخدم meta-llama/Llama-2-7b-chat-hf.

model = "meta-llama/Llama-2-7b-chat-hf"
tokenizer = AutoTokenizer.from_pretrained(model)

إعداد خط أنابيب

استفد من خط أنابيب هوجينج فايس لإنشاء نص مع إعدادات محددة:

pipeline = transformers.pipeline(
"text-generation",
model=model,
torch_dtype=torch.float16,
device_map="auto")

إنشاء تسلسلات نصية

أخيرًا ، قم بتشغيل خط الأنابيب و أنشئ تسلسل نصي بناءً على مدخلاتك:

sequences = pipeline(
'من هم المساهمون الرئيسيون في مجال الذكاء الاصطناعي?\n',
do_sample=True,
top_k=10,
num_return_sequences=1,
eos_token_id=tokenizer.eos_token_id,
max_length=200)
for seq in sequences:
print(f"النتيجة: {seq['generated_text']}")

واجهة أندريسين هورويتز (A16Z) لـ LLaMa 2

أطلقت أندريسين هورويتز (A16Z) مؤخرًا واجهة تشات بوت قائمة على ستريمليت مخصصة لـ لمّا 2. يتم استضافة هذه الواجهة على جيت هاب و تحافظ على سجل المحادثة وتوفر مرونة لاختيار نقطات نهاية متعددة لـ LLaMa 2 المضيفة على ريبليكيت. هذا التصميم الموجه للمستخدم يهدف إلى تبسيط التفاعلات مع لمّا 2 ، مما يجعله أداة مثالية لكل من المطورين و المستخدمين النهائيين.对于 أولئك المهتمين بتجربة هذا ، هناك عرض مباشر متاح في LLaMa2.ai.

LLaMa2.ai

لمّا 2: ما الذي يجعله مختلفًا عن نماذج GPT وسلفه لمّا 1؟

تنوع في الحجم

على عكس العديد من نماذج اللغة التي تقدم خيارات محدودة في الحجم ، يوفر لمّا 2 مجموعة من الخيارات لنموذج مع معاملات مختلفة. يتراوح حجم النموذج من 7 مليار إلى 70 مليار معامل ، مما يوفر مجموعة من التكوينات لتلبية احتياجات حاسوبية متنوعة.

طول سياق محسن

النموذج له طول سياق متزايد يصل إلى 4K رمز ، أكثر من لمّا 1. هذا يسمح له بالحفاظ على المزيد من المعلومات ، وبالتالي يُحسِّن قدرته على فهم وتوليد محتوى أكثر تعقيدًا وامتدادًا.

انتباه الاستفسار المجموع

تستخدم البنية مفهوم انتباه الاستفسار المجموع ، مصمم لتعجيل عملية حساب الانتباه من خلال تخزين أزواج الرموز السابقة. هذا يحسن فعالية استدلال النموذج و يزيد من سهولة الوصول.

معايير الأداء

تحليل أداء مقارن لنماذج لمّا 2-تشات مع تشات جبت و منافسها الآخر

لمّا 2 قد setzened معيارًا جديدًا في معايير الأداء. ليس فقط أنه يتفوق على سلفه ، لمّا 1 ، بل يقدم أيضًا منافسة كبيرة لأداء نماذج أخرى مثل فالكون و GPT-3.5.

نموذج لمّا 2-تشات الأكبر ، 70B ، يتفوق أيضًا على تشات جبت في 36٪ من الحالات و يتوافق مع أداءه في 31.5٪ من الحالات الأخرى. المصدر: الورقة

مفتوح المصدر: قوة المجتمع

تعتزم ميتا و مايكروسوفت جعل لمّا 2 أكثر من مجرد منتج؛ يريدان جعله أداة مدعومة من المجتمع. لمّا 2 متاح مجانًا للبحوث والأغراض غير التجارية. يهدفون إلى ديمقراطية قدرات الذكاء الاصطناعي ، مما يجعلها متاحة للشركات الناشئة و الباحثين و الشركات. نموذج مفتوح المصدر يسمح بتصحيح أخطاء النموذج من قبل الجمهور. يمكن للمطورين و أخلاقيي الذكاء الاصطناعي اختبار النموذج و تحديد الثغرات و تقديم حلول بسرعة.

على الرغم من أن شروط الترخيص لـ LLaMa 2 عامة ، فإن هناك استثناءات موجودة. الشركات الكبيرة التي تضم أكثر من 700 مليون مستخدم شهريًا ، مثل جوجل ، تتطلب موافقة صريحة من ميتا لاستخدامه. بالإضافة إلى ذلك ، يحظر الترخيص استخدام LLaMa 2 لتحسين نماذج اللغة الأخرى.

التحديات الحالية مع لمّا 2

1. تعميم البيانات: كلاً من لمّا 2 و GPT-4 أحيانًا يفشلان في الأداء العالي المتسق عبر مهام متباينة. جودة البيانات وتنوعها مهمان مثل الحجم في هذه السيناريوهات.
2. شفافية النموذج: بالنظر إلى العثرات السابقة مع الذكاء الاصطناعي الذي ينتج مخرجات خادعة ، فإن استكشاف المنطق الخلفي لاتخاذ هذه النماذج المعقدة هو أمر بالغ الأهمية.

كود لمّا – أحدث إطلاق لميتا

أعلنت ميتا مؤخرًا عن كود لمّا ، وهو نموذج لغوي كبير متخصص في البرمجة مع أحجام معامل تتراوح من 7B إلى 34B. مشابه ل مترجم كود تشات جبت ، يمكن لكود لمّا تسهيل تدفق العمل للمطورين و جعل البرمجة أكثر سهولة. يمكنه التعامل مع لغات برمجة متعددة ويأتي في تنويعات متخصصة ، مثل كود لمّا-بايثون لمهام بايثون محددة. كما يقدم النموذج مستويات أداء مختلفة لتلبية متطلبات الكمون المتنوعة. مع ترخيص مفتوح ، يدعو كود لمّا إلى مدخلات المجتمع من أجل التحسين المستمر.

https://about.fb.com/news/2023/08/code-llama-ai-for-coding/

الختام

هذا المقال قد قادك خلال عملية تشغيل نموذج لمّا 2 لإنشاء نص على جوجل كولاب بدعم من هوجينج فايس. أداء لمّا 2 مدفوع بمجموعة من التقنيات المتقدمة من بنية المُحَوِّل التكراري إلى التعلم بالتعزيز مع ملاحظات بشرية (RLHF). مع ما يصل إلى 70 مليار معامل وميزات مثل انتباه الشبح ، يتفوق هذا النموذج على معايير الصناعة الحالية في بعض المجالات ، و بطبيعته المفتوحة ، يفتح الطريق لera جديدة في فهم اللغة الطبيعية و الذكاء الاصطناعي التوليدي.