هندسة المحفزات
التلقين بالقياس والتراجع خطوة: نظرة معمقة على أحدث أبحاث جوجل ديب مايند
أضف Unite.AI إلى مصادرك المفضلة على Google
المقدمة
تركز هندسة التلقين على ابتكار مطالبات فعالة لتوجيه نماذج اللغة الكبيرة (LLM) مثل GPT-4 في توليد استجابات مرغوبة. يمكن أن تكون المطالبات المصممة جيدًا هي الفرق بين إجابة غامضة أو غير دقيقة وإجابة دقيقة ومدروسة.
في النظام البيئي الأوسع للذكاء الاصطناعي، تعتبر هندسة التلقين واحدة من عدة طرق تستخدم لاستخراج معلومات أكثر دقة وملاءمة للسياق من نماذج اللغة. وتشمل الطرق الأخرى تقنيات مثل التعلم بقليل من الأمثلة، حيث يتم تزويد النموذج بقليل من الأمثلة لمساعدته على فهم المهمة، وضبط دقيق، حيث يتم تدريب النموذج بشكل أكبر على مجموعة بيانات صغيرة لتحسين استجاباته.
جوجل ديب مايند (GOOGL ) نشرت مؤخرًا ورقتين بحثيتين تناولتا هندسة التلقين و إمكاناتها لتعزيز الاستجابات في العديد من المواقف.
تعد هذه الأوراق جزءًا من الاستكشاف المستمر في مجتمع الذكاء الاصطناعي لتنقيح وتحسين كيفية تواصلنا مع نماذج اللغة، وتوفر رؤى جديدة حول هيكلة المطالبات من أجل معالجة الاستفسارات وتفاعل قاعدة البيانات.
تتناول هذه المقالة تفاصيل هذه الأبحاث، موضحة المفاهيم والمنهجيات والآثار المترتبة على التقنيات المقترحة، مما يجعلها متاحة حتى للقراء ذوي المعرفة المحدودة في الذكاء الاصطناعي و معالجة اللغة الطبيعية.
الورقة 1: نماذج اللغة الكبيرة بوصفها أنظمة للاستدلال بالقياس
تطرح الورقة الأولى، بعنوان “نماذج اللغة الكبيرة بوصفها أنظمة للاستدلال بالقياس”، نهجًا جديدًا في التلقين يسمى التلقين القائم على القياس. يستلهم المؤلفون، ميتشيرو ياسوناغا وكسينون تشين وغيرهم، الفكرة من الاستدلال بالقياس – عملية معرفية حيث يستخدم البشر الخبرات السابقة لمواجهة مشاكل جديدة.
المفاهيم الرئيسية والمنهجية
يشجع التلقين القائم على القياس نماذج اللغة الكبيرة على توليد أمثلة أو معرفة ذاتية في السياق قبل حل المشكلة المعروضة. هذا النهج يلغي الحاجة إلى أمثلة موسومة، ويوفر عمومية وسهولة، ويكيّف الأمثلة المُولَّدة مع كل مشكلة على حدة، مما يضمن مرونة أكبر.
اليسار: تعتمد الطرق التقليدية في التلقين على مدخلات عامة (0-شوت كوت) أو تتطلب أمثلة تم تحديدها (قليل من الأمثلة كوت). اليمين: النهج الجديد يحفز نماذج اللغة على توليد أمثلة ذاتية قبل حل المشكلة، مما يلغي الحاجة إلى الوسم مع تخصيص الأمثلة لكل مشكلة فريدة
الأمثلة المتولدة ذاتيًا
تطرح الورقة الأولى تقنية الأمثلة المتولدة ذاتيًا. الفكرة هي الاستفادة من المعرفة الواسعة التي اكتسبتها نماذج اللغة الكبيرة خلال تدريبها لمساعدتها على حل مشاكل جديدة. تتضمن العملية إضافة تعليمات إلى المشكلة المستهدفة لتحفيز النموذج على استدعاء أو توليد مشاكل و حلول ذات صلة.
على سبيل المثال، عند مواجهة مشكلة، يُطلب من النموذج استدعاء ثلاث مشكلات مختلفة وذات صلة، ووصفها، وشرح حلولها. يتم تنفيذ هذه العملية في جولة واحدة، مما يسمح للنموذج بتوليد أمثلة ذات صلة و حل المشكلة الأولية بسلاسة. يستخدم رمز ‘# ‘ في المطالبات لتنظيم الاستجابة وجعلها أكثر تنظيمًا وسهولة للنموذج اتباعها.
تشمل القرارات الفنية المحددة في الورقة التركيز على توليد أمثلة ذات صلة ومتنوعة، واعتماد نهج الجولة الواحدة لزيادة السهولة، واكتشاف أن توليد ثلاثة إلى خمسة أمثلة يؤدي إلى أفضل النتائج.
المعرفة المتولدة ذاتيًا + الأمثلة
تطرح التقنية الثانية، المعرفة المتولدة ذاتيًا + الأمثلة، لمواجهة التحديات في مهام أكثر تعقيدًا، مثل توليد الشفرة. في هذه الحالات، قد تعتمد نماذج اللغة الكبيرة بشكل مفرط على الأمثلة منخفضة المستوى وتواجه صعوبات في التعميم عند حل المشاكل المستهدفة. لتحسين ذلك، يقترح المؤلفون تعزيز التلقين بإضافة تعليمات إضافية تحفز النموذج على تحديد المفاهيم الأساسية في المشكلة وتقديم دروس أو خلاصة عالية المستوى.
من الاعتبارات الحاسمة هو ترتيب توليد المعرفة والأمثلة. وجد المؤلفون أن توليد المعرفة قبل الأمثلة يؤدي إلى نتائج أفضل، حيث يساعد النموذج على التركيز على نهج حل المشاكل الأساسي بدلاً من مجرد التشابه السطحي.
المزايا والتطبيقات
يقدم نهج التلقين القائم على القياس عدة مزايا. يوفر أمثلة تفصيلية للتفكير دون الحاجة إلى وسم يدوي، مما يعالج التحديات المرتبطة بطرق سلسلة التفكير دون أمثلة وبأمثلة قليلة. بالإضافة إلى ذلك، يتم تخصيص الأمثلة المتولدة لكل مشكلة على حدة، مما يوفر توجيهًا أكثر صلة من الطرق التقليدية لسلسلة التفكير بأمثلة قليلة، التي تستخدم أمثلة ثابتة.
تظهر الورقة فعالية هذا النهج عبر مهام التفكير المختلفة، بما في ذلك حل المشاكل الرياضية وتوليد الشفرة ومهام التفكير الأخرى في BIG-Bench.
تُظهر الجداول التالية معايير الأداء لطرق التلقين المختلفة عبر معماريات النموذج المختلفة. من الملاحظ أن طريقة “الأمثلة المتولدة ذاتيًا” تتفوق باستمرار على الطرق الأخرى من حيث الدقة. في دقة GSM8K، تحقق هذه الطريقة أعلى أداء على نموذج PaLM2 بنسبة 81.7%. وبالمثل، لتحقيق دقة MATH، تتصدر القائمة على نموذج GPT3.5-turbo بنسبة 37.3%.
الأداء على المهام الرياضية، GSM8K و MATH
في الجدول الثاني، لنموذجي GPT3.5-turbo-16k وGPT4، تُظهر طريقة “المعرفة المتولدة ذاتيًا + الأمثلة” الأداء الأفضل.
الأداء على مهمة توليد الشفرة في Codeforces
الورقة 2: خطوة إلى الوراء: استدعاء التفكير من خلال التجريد في نماذج اللغة الكبيرة
نظرة عامة
تقدم الورقة الثانية، “خطوة إلى الوراء: استدعاء التفكير من خلال التجريد في نماذج اللغة الكبيرة” تقنية التلقين بالخطوة الخلفية، وهي تقنية تحفز نماذج اللغة الكبيرة على استخلاص المفاهيم عالية المستوى والمبادئ الأساسية من الحالات المحددة. يهدف المؤلفون، هوايشيو ستيفن زهينغ، سواروب ميشرا، وغيرهم، إلى تحسين قدرات التفكير في نماذج اللغة الكبيرة من خلال توجيهها لاتباع مسار التفكير الصحيح نحو الحل.
تمثيل التلقين بالخطوة الخلفية من خلال مرحلتين من التجريد والتفكير، يوجههما المفاهيم والمبادئ الرئيسية.
لنقوم بإنشاء مثال أبسط باستخدام سؤال رياضي أساسي لتوضيح تقنية “سؤال الخطوة الخلفية”:
السؤال الأصلي: إذا كان القطار يسافر بسرعة 60 كم/ساعة ويمر مسافة 120 كم، كم ساعة سيستغرق؟
الخيارات:
3 ساعات
ساعتان
ساعة واحدة
4 ساعات
الإجابة الأصلية [غير صحيحة]: الإجابة الصحيحة هي 1).
سؤال الخطوة الخلفية: ما الصيغة الأساسية لحساب الوقت معطى السرعة والمسافة؟
المبادئ:
لتحديد الوقت، نستخدم الصيغة:
الوقت = المسافة / السرعة
الإجابة النهائية:
باستخدام الصيغة، الوقت = 120 كم / 60 كم/ساعة = ساعتان.
الإجابة الصحيحة هي 2) ساعتان.
على الرغم من أن نماذج اللغة الكبيرة يمكنها اليوم الإجابة على السؤال السابق بسهولة، فإن هذا المثال يهدف فقط إلى توضيح كيفية عمل تقنية الخطوة الخلفية. للسيناريوهات الأكثر تحديًا، يمكن تطبيق نفس التقنية لتحليل وتحديد المشكلة بشكل منهجي. فيما يلي حالة أكثر تعقيدًا تم توضيحها في الورقة:
التلقين بالخطوة الخلفية على مجموعة بيانات MMLU للكيمياء
المفاهيم الرئيسية والمنهجية
يتمثل جوهر تقنية التلقين بالخطوة الخلفية في قدرتها على جعل نماذج اللغة الكبيرة تأخذ خطوة إلى الوراء، مما يشجعها على النظر إلى الصورة الأكبر بدلاً من الضياع في التفاصيل. يتم تحقيق ذلك من خلال سلسلة من المطالبات المصممة بعناية التي توجه نماذج اللغة الكبيرة لاستخلاص المعلومات، واشتقاق المفاهيم العالية المستوى، وتطبيقها لحل المشكلة المعروضة.
تبدأ العملية بتحفيز نماذج اللغة الكبيرة على استخلاص التفاصيل من الحالات المعروضة، مما يشجعها على التركيز على المفاهيم والمبادئ الأساسية. هذه الخطوة حاسمة لأنها تضع الأساس لنماذج اللغة الكبيرة لمواجهة المشكلة من منظور أكثر إلمامًا واستنادًا إلى المبادئ.
بعد استخلاص المفاهيم العالية المستوى، يتم استخدامها لتوجيه نماذج اللغة الكبيرة خلال خطوات التفكير نحو الحل. هذا التوجيه يضمن أن تبقى نماذج اللغة الكبيرة على المسار الصحيح، متبعة مسارًا منطقيًا ومتسقًا يعتمد على المفاهيم والمبادئ المستخرجة.
أجرى المؤلفون سلسلة من التجارب للتحقق من فعالية تقنية التلقين بالخطوة الخلفية، باستخدام نماذج PaLM-2L عبر مجموعة من المهام التي تتطلب تفكيرًا متقدمًا. تشمل هذه المهام مشاكل STEM، و استفسارات المعرفة، و التفكير المتعدد الخطوات، مما يوفر قاعدة شاملة لتقييم التقنية.
تحسينات كبيرة عبر المهام
النتائج ممتازة، حيث تؤدي تقنية التلقين بالخطوة الخلفية إلى تحسينات كبيرة في الأداء عبر جميع المهام. على سبيل المثال، تحسن التقنية من أداء نموذج PaLM-2L على مجموعتي بيانات MMLU الفيزياء والكيمياء بنسبة 7% و 11% على التوالي. وبالمثل، تحسن الأداء على مجموعة بيانات TimeQA بنسبة 27%، وعلى مجموعة بيانات MuSiQue بنسبة 7%.
أداء تقنية التلقين بالخطوة الخلفية مقابل تقنية سلسلة الفكر
تؤكد هذه النتائج على إمكانية تقنية التلقين بالخطوة الخلفية لتحسين قدرات التفكير في نماذج اللغة الكبيرة بشكل كبير.
الخاتمة
تطرح كلا الورقتين من Google DeepMind نهجين مبتكرين في هندسة التلقين، هدفهم تحسين قدرات التفكير في نماذج اللغة الكبيرة. يعتمد التلقين القائم على القياس على مفهوم الاستدلال بالقياس، مما يشجع النماذج على توليد أمثلة و معرفة ذاتية، مما يؤدي إلى حل مشاكل أكثر مرونة و كفاءة. من ناحية أخرى، يركز التلقين بالخطوة الخلفية على التجريد، مما يوجه النماذج لاستخلاص المفاهيم العالية المستوى و تطبيقها لتحسين قدرات التفكير.
توفر هذه الأبحاث رؤى قيمة و منهجيات يمكن تطبيقها في مجالات متعددة، مما يؤدي إلى نماذج لغة أكثر ذكاء و قدرة. مع استمرارنا في استكشاف و فهم دقائق هندسة التلقين، تعتبر هذه النهجيات خطوات حاسمة نحو تحقيق أنظمة ذكاء اصطناعي أكثر تطورًا و تعقيدًا.
