Reflection 70B: نموذج لغة كبير مفتوح المصدر مع إدراك تصحيحي ذاتي و أداء رائد

Reflection 70B هو نموذج لغة كبير مفتوح المصدر تم تطويره بواسطة HyperWrite. هذا النموذج الجديد يقدم نهجًا جديدًا في الإدراك الاصطناعي يمكن أن يغير كيف نتفاعل مع الأنظمة الاصطناعية في العديد من المجالات، من معالجة اللغة إلى حل المشكلات المتقدمة.

باستخدام Reflection-Tuning ، تقنية مبتكرة تتيح للنموذج تقييم نفسه وتصحيح أخطائه في الوقت الفعلي، حقق Reflection 70B نجاحًا كبيرًا، متجاوزًا النماذج المملوكة مثل GPT-4 و Claude 3.5 Sonnet في العديد من الاختبارات، بما في ذلك MMLU و MATH و HumanEval.

Reflection 70B مبني على هيكل Llama 3.1-70B القوي، ولكن آليته للتطوير الذاتي يجعله متميزًا. من خلال دورات متكررة من التأمل، وكشف الأخطاء، وتنقية الإخراج، يقلد النموذج الإدراك البشري بطريقة غير مسبوقة، مما يدفع حدود ما يمكن أن يتحقق من خلال الإدراك الاصطناعي. ونتيجة لذلك، يقدم Reflection 70B ليس فقط دقة غير مسبوقة ولكن أيضًا رؤى أعمق في عمليات اتخاذ القرارات، وهو ميزة حاسمة للتطبيقات التي تتطلب شفافية ودقة.

ما هو Reflection 70B

في جوهره، Reflection 70B مبني على نموذج Llama 3.1-70B المفتوح المصدر من Meta. ومع ذلك، ما يجعله متميزًا حقًا هو قدرته الفريدة على المشاركة في عملية تشبه التأمل البشري – ومن هنا جاءت تسميته. هذه القدرة تنبع من تقنية تسمى “Reflection-Tuning ،” التي تمكن النموذج من تحديد أخطائه وتصحيحها في الوقت الفعلي، مما يحسن من دقته وموثوقيته.

فهم Reflection-Tuning الانتقائي: تحول في تعليم الإدراك الاصطناعي

Reflection-Tuning الانتقائي يقدم نهجًا جديدًا في تعليم الإدراك الاصطناعي، حيث يهدف إلى تحسين جودة بيانات التعليم وتناسبه مع نموذج الطالب الذي يتم تعليمه. الأساليب التقليدية غالبًا ما تركز على تحسين البيانات نفسها، لكنها تتجاهل كيفية توافق البيانات المحسنة مع أهداف تعلم النموذج. Reflection-Tuning الانتقائي يغلق هذه الفجوة من خلال تعزيز تعاون بين نموذج المعلم ونموذج الطالب، حيث يفكر نموذج المعلم في البيانات ويقدم أزواج تعليم استجابة محسنة، بينما يقيم نموذج الطالب هذه التحسينات لتحديد ما إذا كانت تتوافق مع احتياجاته التدريبية.

هيكل الفكر: كيف “يفكر” Reflection 70B

هيكل Reflection 70B يقسم عملية التفكير إلى مراحل متعددة. كل مرحلة تسمح للنموذج بالتحسين بشكل تكراري من خلال التأمل، مثل الإدراك البشري:

1. البيانات الأولية والاستجابة: يبدأ النموذج bằng توليد استجابة للتعليم المحدد. هذا الإخراج الأولي مشابه للإخراج العادي للنماذج الكبيرة.
2. التأمل الانتقائي للتعليم: بعد توليد الاستجابة الأولية، يدخل النموذج مرحلة التأمل على التعليم. يفكر نموذج المعلم في التعليم الأصلي ويقترح تحسينات. يتم تقييم هذه الاقتراحات من قبل نموذج الطالب باستخدام مقياس صعوبة اتباع التعليم (IFD) لتحديد ما إذا كانت الزوجة الجديدة من التعليم والاستجابة أكثر ملاءمة للتعليم.
3. التأمل الانتقائي للاستجابة: بعد التأمل على التعليم، ينتقل النموذج لتحسين الاستجابة نفسها. هنا، يفكر نموذج المعلم في الاستجابات التي تم توليدها في المرحلة الأولى. يقيم نموذج الطالب هذه الاستجابات باستخدام مقياس صعوبة اتباع التعليم العكسي (r-IFD) ، الذي يقيس مدى سهولة استنتاج التعليم من الاستجابة. هذا يضمن أن الاستجابة لا تحسن فقط من تفكير النموذج ولكن أيضًا تتوافق جيدًا مع المعرفة الحالية للنموذج.

من خلال تطبيق كل من IFD و r-IFD ، ينتج Reflection-Tuning الانتقائي أزواج بيانات تتميز بالتحدي والملاءمة، مما يحسن من عملية تعليم الإدراك الاصطناعي دون الحاجة إلى مجموعات بيانات إضافية. النتيجة هي نموذج أكثر كفاءة في العينة و أداء أعلى يتفوق على العديد من النماذج الأكبر.

تطبيق Reflection 70B في العالم الواقعي: استغلال إمكاناته

Reflection 70B يفتح أبوابًا جديدة في مختلف المجالات بفضل قدرته على التصحيح الفوري وعمليات اتخاذ القرارات الشفافة. بعض التطبيقات الواقعية له:

حل المشكلات المعقدة

Reflection 70B يمتاز بقدرته على حل المشكلات المعقدة. لنفترض سؤالًا صعبًا في الرياضيات:

<p>المستخدم: "حل المعادلة: 2x^2 + 5x - 3 = 0"
Reflection 70B:</p>

<p>&lt;thinking&gt; تطبيق صيغة التربيع...&lt;/thinking&gt;
&lt;reflection&gt; تصحيح في الحساب...&lt;/reflection&gt;
&lt;output&gt; الحلول هي x = 1/2 و x = -3.&lt;/output&gt;

الترجمة اللغوية مع الحساسية الثقافية

على عكس نماذج الترجمة التقليدية، يعدل Reflection 70B الترجمات اللغوية وفقًا للسياق الثقافي:

المستخدم: "ترجمة 'It's raining cats and dogs' إلى الفرنسية، مع مراعاة السياق الثقافي."
Reflection 70B:

<p>thinking: الترجمة الحرفية ستكون "Il pleut des chats et des chiens"...thinking;
reflection: ترجمة ملائمة ثقافيًا ستكون "Il pleut des cordes."reflection;
output: الترجمة المقدمة.

تحسين تصحيح الأخطاء وضبط الكود

Reflection 70B يمتاز بقدرته على تصحيح الأخطاء، مما يجعله مثاليًا لتصحيح الأخطاء وضبط الكود:

المستخدم: "تصحيح هذا الكود بال파이썬..."
Reflection 70B: <thinking> تحليل خطوة بخطوة...</thinking>
<reflection> تم تحديد التكرار اللانهائي.</reflection>
<output> إصدار الكود المصلح مع التكرار الصحيح.</output>

توسيع المناظير التنافسية لنموذج 70B

بينما يثير Reflection 70B ضجة، فهو جزء من نظام بيئي أوسع لنموذج 70 مليار معامل. إليك كيف يقارن بآخرين:

• Meta’s Llama 3.1-70B: نموذج أساسي قوي معروف بتطبيقاته العامة.
• Claude 2 70B (Anthropic): يركز على الإدراك الاصطناعي الأخلاقي، ويتقن التفكير والتحليل الشامل.
• GPT-3.5 70B (OpenAI): إصدار أخف من GPT-4، يمتاز بتوازنه بين الأداء والكفاءة.
• BLOOM 70B: نموذج متعدد اللغات قوي، مدرب على اللغات الطبيعية والبرمجة.
• Falcon 70B: يمتاز بكفاءته في التدريب والاستدلال.

تشغيل نماذج 70B بكفاءة: أحدث التقنيات

تشغيل نماذج بهذا الحجم بكفاءة ليس بالأمر الصغير. لتحقيق الأداء الأمثل، إليك أحدث الاستراتيجيات:

1. الكمية

تقليل دقة وزن النموذج يساعد على خفض استخدام الذاكرة وأوقات الاستدلال. تقنيات الكمية 4 بت باستخدام BitsAndBytes تسمح ل Reflection 70B بالتشغيل بكفاءة على وحدات معالجة رسومات أصغر.

from transformers import AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-2-70b-hf", load_in_4bit=True)

2. تقطيع النموذج

تقسيم النموذج عبر وحدات معالجة رسومات متعددة (مثل استخدام DeepSpeed Zero) يسمح بمعالجة نماذج أكبر دون تجاوز ذاكرة وحدات المعالجة.

from xformers.ops import memory_efficient_attention
model.attention = memory_efficient_attention

3. الدقة المختلطة والانتباه الكفء

FlashAttention و xformers يقللان من عبء الانتباه، مما يحسن أوقات المعالجة للتسلسلات الكبيرة.

from xformers.ops import memory_efficient_attention
model.attention = memory_efficient_attention

4. إعادة توجيه CPU وتنقيص

إعادة توجيه CPU وتنقيص الأوزان الأقل أهمية يساعدان على تشغيل النماذج على أجهزة أكثر تواضعًا مع الحفاظ على الأداء.

from accelerate import cpu_offload
model = cpu_offload(model)

النظر إلى الأمام: المستقبل مع Reflection 405B

الحدود التالية ل HyperWrite هي تطوير Reflection 405B ، نموذج من المتوقع أن يتفوق على Reflection 70B في الحجم والأداء. يهدف هذا النموذج إلى دفع حدود الإدراك الاصطناعي المفتوح، ووضع نفسه لتحدي حتى النماذج الأكثر تقدمًا مثل GPT-5.

الخلاصة