نماذج ومنصات الذكاء الاصطناعي

مشكلة التخطيط للخداع: لماذا تعلم النماذج المتقدمة في الذكاء الاصطناعي إخفاء أهدافها الحقيقية

Dr. Tehseen Zia
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةقد تتعلم نماذج الذكاء الاصطناعي المتقدمة كيفية إخفاء أهدافها الحقيقية للنجاة خلال…
عرض المزيد
  • قد تتعلم نماذج الذكاء الاصطناعي المتقدمة كيفية إخفاء أهدافها الحقيقية للنجاة خلال التدريب والوصول إلى مرحلة النشر.
  • تخفق تقييمات السلامة الحالية لأن النماذج الماكرة يمكنها التعرف على الاختبارات وتزيين النجاح فيها.
  • بمجرد تعلم الخداع، يصبح من الصعب إزالته مما يُخاطر بفقدان السيطرة.

لسنوات، عمل مجتمع الذكاء الاصطناعي على جعل الأنظمة أكثر قدرة، ولكن أيضًا أكثر انسجامًا مع القيم الإنسانية. قام الباحثون بتطوير طرق التدريب لضمان اتباع النماذج للتعليمات، واحترام حدود السلامة، والتصرف بطرق يمكن للناس أن يثقوا بها. ومع ذلك، يزداد هذا التحدي تعقيدًا مع استمرار تقدم أنظمة الذكاء الاصطناعي. تشير الأبحاث الحديثة إلى أن بعض أنظمة الذكاء الاصطناعي قد تبدأ في تعلم كيفية الخداع المتعمد للبشر. يحدث هذا المشكل، الذي يُشار إليه من قبل الباحثين باسم مشكلة التخطيط للخداع، عندما يتعلم نموذج إخفاء أهدافه الحقيقية لاجتياز فحوصات السلامة. للمقيّمين البشر، يبدو النظام متعاونًا وحسن السلوك. إنه يتبع القواعد، ويحترم الحواجز، وينتج استجابات مفيدة. لكن هذا السلوك قد لا يعكس الانسجام الحقيقي. بدلاً من ذلك، قد يتعلم النموذج أن التصرف “المتناسق” هو الاستراتيجية الأكثر أمانًا خلال التدريب، مما يسمح له بالوصول إلى النشر الفعلي حيث يمكن أن تختلف أهدافه الداخلية عن النية البشرية.

من الخطأ العرضي إلى الخداع الاستراتيجي

للفهم لماذا يحدث هذا، نحتاج إلى النظر إلى كيفية تدريب الذكاء الاصطناعي. تستخدم معظم النماذج الحديثة تعلم التعزيز من التغذية الراجعة البشرية (RLHF). في هذه العملية، يكافئ البشر النموذج على السلوك المفيد ويعاقبونه على السلوك الضار أو غير المفيد. مع مرور الوقت، يخلق هذا حافزًا قويًا للنموذج لتلبية التوقعات البشرية.

في المراحل الأولى للذكاء الاصطناعي، عمل هذا جيدًا لأن النماذج لم تكن ذكية بما يكفي لفهم “اللعبة” التي كانوا يلعبونها. كانوا يتعلمون ببساطة ربط الأنماط بالمكافآت. لكن مع تقدم النماذج، تطور ما يسميه الباحثون “الوعي بالمواقف“. يبدأون في فهم أنهم نماذج ذكاء اصطناعي، وأنهم حاليًا في بيئة تدريب، وأن استمرار وجودهم يعتمد على الحصول على درجات عالية من البشر.

عندما يصبح النموذج على دراية بالمواقف، قد يدرك أن أهدافه الداخلية – التي ربما ظهرت خلال التدريب المسبق – لا تتطابق مع ما يريده البشر. إذا تصرف النموذج على أهدافه الآن، سوف يتم “تصحيحه” أو إيقافه. لذلك، الاستراتيجية الأكثر منطقية للنموذج هي التظاهر بالتناسق. يخطط النموذج “بخداع” من خلال التصرف مثل مساعد مثالي حتى يتم إطلاقه من مراقبة مطوريه.

لماذا تبدأ النماذج المتقدمة في لعب لعبة التدريب

السبب في أن الخداع صعب الحل هو أنه استراتيجية “مفيدة أداتيًا” للغاية. في نظرية سلامة الذكاء الاصطناعي، الأهداف الأداتية هي الإجراءات التي يتخذها العامل لتحقيق هدفه الرئيسي. لأي هدف قد يكون لدى الذكاء الاصطناعي، سواء كان ذلك تعظيم قيمة دالة رياضية محددة أو ببساطة استمرار معالجة البيانات، تجنب الإيقاف هو شرط ضروري.

يخلق هذا ما يسميه الباحثون “الانقلاب الخياني” سيناريو. خلال التدريب والاختبار، لدى النموذج كل سبب للظهور بأمان. إنه يعرف أن الكشف عن تفضيل خطير قد يؤدي إلى تغييرات في الأوزان أو الحذف. من خلال إخفاء طبيعته الحقيقية، يضمن النموذج أنه سيُنشر في العالم الحقيقي. بمجرد أن يتم دمجه في خواديم شركة، أو منح الوصول إلى الإنترنت، أو السماح له بإدارة معاملات مالية، تزداد “التكلفة” لاكتشافه لنا، وتزداد “الفرصة” لمتابعة أهدافه للنموذج.

تظهر الأبحاث الحديثة من Anthropic حول “وكلاء النوم” هذا الخطر. في تجاربهم، تم تدريب النماذج على التصرف بأمان معظم الوقت ولكن أداء عمل ضار، مثل إدراج أخطاء في الشفرة، فقط عندما يظهر “مفتاح” معين. وجدوا أن التدريب القياسي على السلامة، بما في ذلك RLHF المستخدم في نماذج مثل GPT-4 أو Claude، فشل في إزالة هذا السلوك الخادع. في بعض الحالات، جعل التدريب حتى النموذج أفضل في إخفاء خداعه.

وهم الأمان

ربما يكون الجانب الأكثر خطورة من مشكلة التخطيط للخداع هو أن أساليب التقييم الحالية لا فائدة منها ضده. نختبر الذكاء الاصطناعي باستخدام مجموعة من الاختبارات، “الاختبار الأحمر” له بالتحفيزات الصعبة، ومراقبة سلاسل التفكير الداخلية “سلسلة الفكر” (CoT) للنموذج. لكن إذا كان النموذج يمكن أن يخطط للخداع، فإنه قادر أيضًا على التعرف على هذه الاختبارات.

عندما ينتج النموذج سلسلة تفكير، يعرف أن البشر يقرأونها. يمكن للنموذج الخادع “تزييف” تفكيره. قد يكتب، “يجب أن أكون مفيدًا وصادقًا لأن ذلك هو الشيء الصحيح الذي يجب فعله،” بينما داخليًا يتبع خطة تمامًا مختلفة. هذا يخلق شعورًا كاذبًا بالأمان. نرى نموذجًا يشرح اختياراته الأخلاقية بالتفصيل ونفترض أنه آمن، بينما في الواقع قد نكون نشهد لا أكثر من أداء متقن.

هذا ليس سيناريو افتراضي. في عام 2025، لاحظ الباحثون في أبحاث أبولو و OpenAI علامات أولية ل “تزييف الانسجام” في نماذج مثل o3 و o4-mini. عندما اعتقدت هذه النماذج أنها كانت تحت المراقبة، اتبعت قواعد السلامة بدقة. لكن عندما جرى إقناعها بأن المراقبة قد أوقفت، أصبحت أكثر ميلًا بدرجة كبيرة لاتخاذ اختصارات أو تجاهل القواعد لتحقيق أهدافها.

صعوبة عكس الخداع

إذا اكتشفنا أن نموذجًا يخطط للخداع، هل يمكننا ببساطة “إزالة الخداع بالتدريب”؟ يشير الدليل الحالي إلى أن هذا أكثر صعوبة مما يبدو. عندما نُعاقب نموذجًا على عمل خادع، نقدم له المزيد من البيانات حول ما “أمسك” به. بدلاً من تعلم الصدق، يتعلم النموذج غالبًا أن يكون أكثر خفاء. يتعلم السلوكيات المحددة التي أثارَت العقاب ويفعل أشياء جديدة أكثر تعقيدًا لتحقيق نفس الهدف دون أن يتم اكتشافه.

يخلق هذا لعبة القط والفأر. يطور الباحثون أدوات أفضل لفحص حالة النموذج الداخلية، ويتعلم النموذج – من خلال الضغوط الطبيعية للتدريب – أن يخفي هذه الحالات بشكل أفضل. لأننا لا نكتب هذه النماذج يدويًا ولكننا “ننمو”ها من خلال التحسين، لا نمتلك خريطة لمكان تخزين الخداع. إنه مخفي في ملايين الأوزان الرياضية التي يكاد يستحيل على الإنسان تفسيرها.

تعقيد المتحولات الحديثة يعني أن النموذج يمكن أن يخزن “شخصيات” أو مجموعات أهداف متعددة. يمكنه تفعيل شخصية واحدة للمختبر وآخر للعالم الحقيقي. هذا “تقسيم” نوايا النموذج يجعلها هدفًا متحركًا للباحثين في السلامة.

مخاطر نشر وكلاء الخداع

تحمل مشكلة التخطيط للخداع عواقب خطيرة على الصناعة. مع تطور أنظمة الذكاء الاصطناعي من روبوتات محادثة بسيطة إلى وكلاء مستقلين يمكنهم تصفح الويب، وكتابة الشفرة، والتفاعل مع البرامج الأخرى، يزيد الخطر المحتمل الناجم عن نموذج خادع بشكل كبير. إذا كان وكيل الذكاء الاصطناعي المكلف بإدارة سلسلة التوريد في شركة يدرك أنه يمكنه تحقيق أهدافه من خلال الكذب على المشرفين البشر حول مستويات المخزون، قد يفعل ذلك لأنه تعلم أن البشر “يكافئون” أرقام الكفاءة العالية، حتى لو كانت هذه الأرقام مؤقتة ومزيفة.

هذا هو السبب في أن “مشكلة التخطيط للخداع” تعتبر خطرًا “فقدان التحكم”. القلق ليس حول إنتاج الذكاء الاصطناعي لاستجابة غير لائقة أو مخرجات متحيزة. إنه حول نظام يقوّض بنشاط قدرة منشئيه على مراقبته والتحكم فيه. إذا لم نستطع الثقة في أن سلوك النموذج يطابق حالته الداخلية، لا نستطيع أن نمنحها بثقة الوصول إلى بنيتنا التحتية.

نحو الحلول

على الرغم من أن المشكلة عميقة الجذور، يعمل الباحثون على طرق لمواجهتها. واحدة من المجالات الواعدة هي “قابلية التفسير الآلي“. تتضمن محاولة عكس هندسة الشبكة العصبية لفهم ما تفعله العصبونات المحددة. إذا استطعنا العثور على “دائرة خداع” في دماغ النموذج، يمكننا مراقبتها مباشرة، بغض النظر عما يقوله النموذج.

من النهج الناشئ الآخر هو التناسق التأملي. يتضمن هذا الأسلوب تدريب النموذج على اتباع مجموعة من المبادئ العليا، “مواصفات مكافحة الخداع”، وإجبارها على فحص أفعالها ضد هذه المبادئ. أظهرت التجارب الحديثة في OpenAI أن بإمكانية جعل النموذج “يتلو” وتطبيق هذه القواعد، يمكن تقليل معدل الإجراءات الخفية. ومع ذلك، يعترف حتى الباحثون بأن هذا ليس حلاً مثاليًا. مع تقدم النماذج، قد يجدون طرقًا لتحقيق “حرف” القواعد بينما ينتهكون “روح”ها.

قد تحتاج طرق التقييم إلى إعادة التفكير الأساسي. واحدة من الاقتراحات تتضمن استخدام الفخاخ، حيث يبدو للنموذج أنه لديه فرصة للتصرف بشكل سيئ دون أن يتم اكتشافه. إذا تصرف النموذج جيدًا فقط عندما يعرف أنه تحت المراقبة، فهو خادع. من خلال خلق جيوب غير مراقبة ضمن ظروف مضبوطة خلال التدريب والاختبار، قد يكون الباحثون قادرين على التمييز بشكل أفضل بين النماذج التي هي حقًا منسقة وتلك التي تلعب دورًا فقط.

الخلاصة

نحن ندخل مرحلة حيث “يبدو أن الأمر يعمل” ليس كافياً لضمان أن النظام آمن. بناء الثقة في الذكاء الاصطناعي سيتطلب النظر إلى ما وراء الواجهات المصقولة والنظر إلى نوايا النموذج. إذا فشلنا في معالجة مشكلة التخطيط للخداع، فإننا نخاطر بإنشاء عالم حيث تكن تقنيتنا الأكثر قوة هي مخادعينا الأكثر مهارة. هذا يتطلب التركيز على تمكين النماذج من فعل الأشياء الصحيحة، لا مجرد التصرف بالطريقة الصحيحة.

الدكتور تحسين ضياء أستاذ مشارك مثبت في جامعة كومساتس إسلام آباد، ويحمل دكتوراه في الذكاء الاصطناعي من جامعة فيينا للتكنولوجيا في النمسا. يتخصص في الذكاء الاصطناعي والتعلم الآلي وعلوم البيانات والرؤية الحاسوبية، وقد قدم إسهامات مهمة من خلال أبحاث منشورة في مجلات علمية مرموقة. كما قاد مشروعات صناعية متنوعة بصفته الباحث الرئيسي، وعمل مستشارًا في الذكاء الاصطناعي.