عندما تفكر الذكاء الاصطناعي مثل البشر: استكشاف عقل النماذج والوكلاء

اليوم ، تتعلم النماذج والوكلاء وتحلل وتنفذ القرارات بطرق يمكن أن ت混 بين تفكيرهم الخوارزمي وبين العقل البشري. النهج التي بنيت عليها هذه النماذج تقلد بالفعل العمليات الإدراكية لدينا ، ومقياس تدريبها يتجاوز الخبرة البشرية بأمر كبير. هذا يثير السؤال: هل نحن ننشئ أداة توسع قدراتنا ، أم نحن ننشئ نوعًا جديدًا من العقل الذي لا يمكن التنبؤ بنتائجه بعد؟

كيف تفكر النماذج

من المهم التمييز بين مفاهيم النماذج والوكلاء. لكي نضيف تشبيهًا مع الكمبيوتر ، يمكن مقارنة النموذج ب하나 من مكوناته ، على سبيل المثال ، المعالج. ومع ذلك ، فإن الوكيل هو النظام بأكمله ، “لوحة الأم” التي يتم ربط الوحدات المختلفة بها: الذاكرة ، بطاقة الرسومات ، والشبكة. بشكل مماثل ، الوكيل هو نظام معقد يمكن أن يدمج واحدًا أو أكثر من النماذج ، مع آليات اتخاذ القرارات وأدوات للتفاعل مع البيئة الخارجية.

إذا كنا ننظر إلى عمل نموذج واحد ، فإن كل شيء ي归 إلى مطابقة الأنماط. ومع ذلك ، عندما يرتبط الوكيل بين عدة نماذج ، يمكننا القول إنه “يفكر” ، على الرغم من أن هذا العملية لا تزال مبنية على الأنماط. الوكيل يبني منطق التفاعل بين النماذج: على سبيل المثال ، يتحليل نموذج واحد المهمة ، و根据 هذا التحليل ، يحدد الوكيل ما الإجراء الذي يجب على نموذج آخر أن يؤديه.

العقل البشري يعمل بطريقة مماثلة: نعتمد على المعرفة والأنماط المتراكمة ، نختارها في اللحظة المناسبة ، نمتلكها ، ونسفر عن استنتاجات. هذه العملية تسمى التفكير.

ChatGPT ، مثل الإنسان ، لديه نوعان من الذاكرة: قصيرة الأمد وطويلة الأمد. الفرق هو أن الوصول إلى هذه المستويات من الذاكرة لدى البشر أكثر تعقيدًا وليس دائمًا خطيًا.

الذاكرة القصيرة الأمد هي المعلومات التي نعمل عليها الآن. بالنسبة للشخص ، قد تكون ما قلت قبل خمس دقائق: قد يتذكرها أو لا. ومع ذلك ، فإن GPT دائمًا ما يأخذ في الاعتبار كل شيء داخل “نافذة السياق” – لا يمكنه تخطي أو تجاهل هذه البيانات.

الذاكرة طويلة الأمد لدى البشر تتكون من الذكريات التي لا تكون دائمًا نشطة وقد تظهر فقط مع محفزات محددة: ذكريات الطفولة ، الصدمات ، أو ، على سبيل المثال ، العمل مع психолог. GPT لديه منطق مماثل: لا “يتذكر” المعلومات تلقائيًا إلا إذا تم تنشيطه بشكل صريح. على سبيل المثال ، تعليمات مثل “لا تسألني هذا السؤال مرة أخرى” أو “دائمًا أdressme بشكل رسمي” يمكن تخزينها في الذاكرة طويلة الأمد وتطبيقها خلال كل جلسة.

مثال آخر للذاكرة طويلة الأمد هو المستندات المحفوظة. افترض أنك قمت بتحميل تعليمات لإجراء بحث تسويقي إلى GPT. يمكن للنموذج تخزينها في الذاكرة ، ولكن ذلك لا يعني أنه سيرجع إلى ذلك المستند مع كل سؤال. إذا سألت: “هل يمكنك توجيه ضوء على القمر؟” ، فإن GPT سيتجاهل التعليمات. ومع ذلك ، إذا كان الطلب يحتوي على كلمات رئيسية مطابقة لنص المستند ، يمكن للنموذج “تذكر” ذلك.

هذه الآلية يتم تنفيذها من خلال RAG (Retrieval-Augmented Generation) ، وهي نهج حيث يحصل النموذج على الوصول إلى المعلومات المحفوظة بفضل الإشارات المناسبة عبر قواعد البيانات المتجهة.

يمكن القول أن النموذج لديه ذاكرة حقيقية ، ولكنها تعمل وفقًا لمعايير أكثر رسمية ، متميزة عن الذاكرة البشرية.

لماذا تشعر المحادثة مع الذكاء الاصطناعي أحيانًا بالعلاجية ، وأحيانًا أخرى باردة وآلية؟

النماذج اللغوية الحديثة ضخمة للغاية: تحتوي على كمية هائلة من البيانات والمعرفة والسياق. يتم تنظيم كل هذه المعلومات في ما يسمى “الكتلة” ، المناطق المواضيعية والсемантиات. تم تدريب النموذج على مصادر متنوعة ، من الخيال والمقالات العلمية إلى تعليقات يوتيوب.

عندما تتفاعل مع الذكاء الاصطناعي ، فإن استفسارك (الاستفزاز) يوجه النموذج بشكل فعال إلى كتلة معينة.

على سبيل المثال ، إذا كتبت: “أنت محامي عقاري في نيويورك مع 20 عامًا من الخبرة ، ساعدني في شراء شقة” ، فإن النموذج يفعّل عدة كتل في نفس الوقت: محامي → نيويورك → عقاري. وبالتالي ، تحصل على رد متسق وملائم وواقعي ، كما لو كنت تستشير محترفًا مخضرمًا.

إذا كان الاستفسار يتعلق بمواضيع أكثر شخصية أو فلسفية ، مثل التنمية الذاتية أو العواطف ، فإن النموذج “ينتقل” إلى كتل أخرى ، مثل علم النفس أو الفلسفة أو العمل الداخلي. في هذه الحالة ، قد يبدو رده مفاجئًا وبشريًا وربما علاجيًا.

ومع ذلك ، مع صياغة عامة أو غامضة ، فإن النموذج “يتأرجح” في هيكله الكتلي ويعطي ردًا افتراضيًا ، رسميًا ، منفصلاً ، ويتصف بالانعدام.

النمط والعمق من رد الذكاء الاصطناعي يعتمد على الكتلة التي توجهه إليها باستفزازك.

فلسفة تدريب النماذج و RLHF

الذكاء الاصطناعي له نهج مختلف في التعلم. ليست فلسفة ، بل استراتيجية.

الخيار الكلاسيكي هو التعلم الإشرافي ، حيث يتم إعطاء النموذج سؤال والإجابة الصحيحة. يتعلم من خلال ملاحظة ما يعتبر صحيحًا وينتج حلولًا مشابهة في المستقبل.

ولكن هناك نهج آخر هو RLHF (Reinforcement Learning from Human Feedback) . هذا هو أسلوب مختلف: يحاول النموذج شيئًا ، يحصل على “مكافأة” على الإجراءات الناجحة ، ويتعديل سلوكه. تدريجيًا ، يطور استراتيجية فعالة.

RLHF يمكن مقارنته بعملية تحويل المادة الخام إلى منتج نهائي. لجعل نموذج يسهل استخدامه ، يتم تطبيق كم هائل من العمل مع反馈 بشري.

تخيل أنني أريك شيئًا دون تسميته بشكل مباشر. تتردد: “هل هو حامل سيجارة؟ حامل بطاقات؟” أ 제공 فقط تلميحات مثل: “أقرب” ، “أبعد” ، “60% نعم”. بعد مئات من هذه التكرارات ، تتوقع: “أه ، إنه محفظة”.

النماذج اللغوية الكبيرة يتم تدريبها بهذه الطريقة. البشر ، المُحللون ، والمختصون بشكل عام ، يقيمون: هذه الإجابة جيدة ، هذه سيئة ، ويعينون درجات. الشركات مثل Keymakr ، التي تختص بالتعليق والتحقق من البيانات عالية الجودة ، تلعب دورًا حاسمًا في هذه العملية. يأتي الرد أيضًا من المستخدمين العاديين: الإعجابات ، الشكاوى ، والتفاعلات. النموذج يفسر هذه الإشارات ، ويتشكل سلوكه.

كيف يبدو تدريب النماذج في الممارسة

مثال حي هو تجربة OpenAI لتدريب الوكلاء باستخدام التعلم بالتعزيز في لعبة “الاختباء والبحث”.

شاركت فيها فريقان: “المطاردون” (الأحمر) و “المختبئون” (الأزرق). كانت القواعد بسيطة: إذا أمسك المطارد مختبئًا ، فإنه يربح نقطة؛ إذا لم يفعل ، يخسر نقطة. في البداية ، كان الوكلاء يمتلكون فقط القدرات الأساسية ، الجري والقفز ، دون استراتيجيات محددة.

في البداية ، تصرف المطاردون بشكل عشوائي ، وحدثت الإمساك بال مختبئين بالصدفة. ولكن بعد ملايين التكرارات ، تطور سلوكهم. بدأ المختبئون باستخدام الأشياء المحيطة لمنع الأبواب وبناء الحواجز. هذه المهارات ظهرت دون برمجة مباشرة ، فقط من خلال المحاولات المتكررة والمكافآت على النجاح.

ردًا على ذلك ، بدأ المطاردون باستخدام القفز ، وهو قدرة متاحة من البداية ولكن تم تجاهلها في السابق. بعد سلسلة من الفشلات ، كشف الاستخدام العشوائي للقفز عن قيمته التكتيكية. ثم جعل المختبئون دفاعهم أكثر تعقيدًا ، بإزالة الأشياء من خط رؤية المطاردين وبناء ملاجئ أكثر موثوقية.

أظهرت التجربة أن من خلال مليارات الدورات من المحاولة والخطأ والمكافآت والعقوبات ، يمكن أن تتكون سلوكيات تعاونية معقدة دون تدخل المطور. بالإضافة إلى ذلك ، بدأ الوكلاء بالعمل بالتنسيق ، حتى بدون آليات اتصال مبرمجة ، ببساطة لأن العمل الجماعي أثبت كفاءته.

هذا هو قيمة RLHF. بدونها ، يبقى النموذج والوكيل مجرد مكتبة من النصوص. معها ، يصبح شريكًا في المحادثة قادرًا على التكيف وتصحيح نفسه ، و في الأساس ، التطور.

ماذا يأتي بعد ذلك؟

كثير من الناس يتساءلون عما إذا كان تطور النماذج والوكلاء يمكن أن يؤدي إلى عواقب غير مرغوب فيها أو حتى خطيرة.

من المهم أن نفهم أن ما نراه اليوم ليس حتى إصدارًا أوليًا ، بل مجرد نموذج أولي.

الثورة الحقيقية لن تكون حول مساعدة كتابة خطاب جميل أو ترجمته إلى الفرنسية. هذه أمور ثانوية. الاتجاه الرئيسي هو تطبيق التكنولوجيا على المهام الصغيرة والروتينية ، تاركًا البشر فقط المهام الإبداعية والفكرية الحقيقية أو الوقت للراحة.

الابتكارات الحقيقية تركز حول الوكلاء ، الأنظمة التي يمكنها التفكير والعمل واتخاذ القرارات بدلاً من شخص. هذا هو حيث تركز شركات مثل OpenAI و Google و Meta وغيرها جهودها اليوم.

النماذج اللغوية الكبيرة ليست أكثر من الأساس. المستقبل الحقيقي يكمن في الوكلاء المدربين على العيش في عالم ديناميكي ، و تلقي الردود ، والتكيف مع التغيرات.