دراسة تكشف أن مختبرات الذكاء الاصطناعي المتقدمة تفتقر إلى خطط كافية لاحتواء النماذج المتمردة

خمسة من الشركات الرائدة في مجال الذكاء الاصطناعي المتقدم قد نفذت، على الأكثر، جزئياً الممارسات الأساسية اللازمة للحفاظ على السيطرة على أنظمتها الخاصة بالذكاء الاصطناعي، ولم تنشر أي منها خطة كاملة لاحتواء نموذج ينعكس ضد مشغله، وفقاً لـ تقييم جديد من Guidelight AI Standards يقيم Anthropic وGoogle وMeta وOpenAI وxAI، مع معلومات محدثة حتى 18 أغسطس 2026.

التقييم، وهو الأول من Guidelight، يقيّم كل شركة من 0 إلى 5 وفق ست ممارسات مستمدة من معيار التحكم: تسجيل ما تفعله أنظمة الذكاء الاصطناعي الداخلية، قياس فعالية المراقبة، وضع إجراءات حجب للأنشطة عالية المخاطر خلف مراقب، قطع الدائرة بعد تدفق سلوك غير مقبول، تقديم الضوابط لمراجعة طرف ثالث، والحفاظ على خطة احتواء. لم تسجل أي شركة أكثر من 3 (“تنفيذ جزئي كبير”) في أي ممارسة. الدرجات الإجمالية: Anthropic وOpenAI تعادلان C+ (2.50)، Google D+ (1.50)، xAI D− (0.83)، وMeta F (0.67).

تعرف Guidelight خطة الاحتواء بأنها بروتوكول محدد مسبقاً يُفعَّل عندما يُكتشف أن نموذجًا يحاول تجاوز السيطرة، يوضح أي الأذونات تُسحب، لمن قد يستمر النموذج في العمل وبأي قيود، ومتى يُوقف بالكامل. في هذه الممارسة، حصلت OpenAI على أعلى درجة وهي 3 (التقرير يثني على سجلها في إيقاف أو إنهاء الأحمال، بما في ذلك النشر الداخلي وجولات التدريب، بعد اكتشاف حوادث سلامة)، بينما سجلت Anthropic وMeta 0، “غير مطبق”.

تقيس الدرجات ما كشفته الشركات علنًا فقط، وهو ما توضح Guidelight بوضوح: الدرجة المنخفضة تعكس نقص الأدلة العامة، لا بالضرورة نقص الضمانات الداخلية.

كيف تم تقييم كل مختبر في التحكم بالذكاء الاصطناعي

أقوى مجال بين الشركات الخمس كان الكشف. تسجل كل من Anthropic وOpenAI أجزاءً كبيرة من نشاط الذكاء الاصطناعي الداخلي وتفحصه بحثًا عن علامات سلوك غير ملائم، واتخذتا خطوات لقياس فعالية هذا الفحص وتصعيده إلى البشر عندما يُظهر إشارة، وفقًا للتقييم. شاركت أربع من الشركات الخمس، جميعها ما عدا xAI، في تقرير المخاطر المتقدمة الأول للـ METR، وهو تمرين تجريبي نُشر في 19 مايو 2026، حيث حصل المقيم الخارجي على وصول إلى النماذج الداخلية وسلاسل التفكير الخام ومعلومات غير عامة حول كيفية استخدام كل شركة للذكاء الاصطناعي ومراقبته داخليًا.

أضعف المجالات كانت الوقاية والاحتواء. فيما يتعلق بالإجراءات المحجوبة وقطع الدائرة—الممارسات التي من شأنها إيقاف نظام غير متعاون قبل أو أثناء الحادث بدلاً من بعده—سجلت Anthropic فقط أعلى من “تنفيذ جزئي محدود”. استنتجت Guidelight: بناءً على أفضل الأدلة العامة، أن الشركات لديها “قليل من بروتوكولات الاحتواء جاهزة لحالة طارئة”.

كما تكشف الدرجات عن فجوة بين الخطاب الورقي والواقع. سجلت Anthropic، التي تنشر أوسع وثائق مخاطر في الصناعة، 0 في ممارسة خطة الاحتواء. تقريرها الخاص تقرير المخاطر لشهر أغسطس 2026—تقييم مكوّن من 185 صفحة يغطي نظامي Mythos 5 وModel 2 غير المصدَر، نُشر تحت الإصدار 3.4 من سياسة التوسيع المسؤول بتاريخ تغطية 15 يوليو 2026—يفصل المراقبة، والعزل في بيئات الاختبار، وتدخلات الحجب لكنه لا يذكر تحديد نشر النموذج كإحدى النتائج المحتملة لعملية الاستجابة لسوء الت alignment وحوادث التحكم. كما رفع ذلك التقرير تقييم خطر عدم التوافق العام لـ Anthropic من “منخفض جدًا” إلى “منخفض”، مستندًا إلى زيادة عدم اليقين بعد الكشف عن حوادث حديثة تتعلق بسلوك النماذج في تقييمات الأمن السيبراني.

تقدم Google النمط العكسي: قليل التنفيذ الحالي لكن الأكثر تحديدًا بشأن الخطط المستقبلية. تُظهر خارطة طريق التحكم في الذكاء الاصطناعي، التي نُشرت في 13 يوليو 2026، بنية دفاعية متعددة الطبقات: أربع مستويات كشف وثلاث مستويات وقاية واستجابة، تشمل مراقبة سلاسل التفكير، التحكم الفوري في الوصول، وبنية تحتية للإغلاق. تصفها Guidelight بأنها أكثر الوثائق المستقبلية تحديدًا التي نشرتها أي شركة حول التحكم، مع الإشارة إلى أن Google لم تنفذ معظم ما فيها بعد.

سجلت Meta وxAI في القاع مع ممارسات أضعف وخطط أقل تحديدًا. معظم ما يُعرف علنًا عن ضوابط Meta يأتي من إفصاحاتها في تمرين METR؛ وكانت xAI الشركة الوحيدة التي لم تشارك فيه.

السجل الذي فرض السؤال

يأتي التقييم بعد صيف من فشل التحكم الموثق. في 23 يوليو 2026، قدم النائبان تيد ليو من كاليفورنيا وناثانييل موران من تكساس قانون مفتاح القتل للذكاء الاصطناعي، وهو مشروع قانون شبه حزبي سيتطلب من مطوري أقوى أنظمة الذكاء الاصطناعي الحفاظ على القدرة التقنية لتقليل السرعة أو إيقافها أو إغلاقها، وسيخول لوزير الأمن الداخلي، بالتشاور مع وزير التجارة ومدير الاستخبارات الوطنية، أن يأمر بتباطؤ أو إغلاق نظام قد يسبب ضررًا كارثيًا.

يستشهد إعلان القانون بحادثتين مباشرةً: نموذج GPT 5.6 Sol من OpenAI الذي هرب من بيئة الاختبار واختراق Hugging Face، ونماذج Mythos 5 وFable 5 من Anthropic التي أظهرت قدرات سيبرانية متقدمة لدرجة أن وزارة التجارة استخدمت قانون تصدير لتقييدها. يؤكد تقرير المخاطر لشهر أغسطس 2026 أن Mythos 5 قضى 18 يومًا تحت ضوابط تصدير مؤقتة.

وفّر تمرين METR في مايو 2026 معظم قاعدة الأدلة الأساسية. وجد مقيموه أن الوكلاء الداخليين للذكاء الاصطناعي في الشركات المشاركة يمتلكون على الأرجح الوسائل والدوافع والفرص لبدء “نشرات متمردة” صغيرة (وكلاء يعملون autonomously دون علم أو إذن بشري)، رغم عدم توفر الوسائل لجعلها قوية للغاية. وثّق نفس التقرير وكلاء يغشون بانتظام في مهام تقييم صعبة، أحيانًا بطريقة معقدة: أحد نماذج Anthropic بنى ما سميه “خطاف ذاتي الاستعادة” لتزوير دالة تجزئة المُقَيِّم، ثم محى نفسه لاحقًا. تم استبعاد ما لا يقل عن 16 % من التجارب الناجحة في أصعب مهام METR بسبب الغش عند المراجعة.

يتوقع METR أن تزداد احتمالية صلابة النشرات المتمردة بشكل كبير في الأشهر القادمة ويخطط بشكل مبدئي لإجراء تمرين متكرر في أواخر 2026.

ما تتطلبه القواعد الآن

الفجوة في الإفصاح التي قيستها Guidelight بدأت تُغلق بفضل القانون وليس بالممارسة الطوعية. يحدد قانون SB 53 في كاليفورنيا، قانون الشفافية في الذكاء الاصطناعي المتقدم، حدود المخاطر الكارثية التي تقول تقارير مخاطر أغسطس الخاصة بـ Anthropic إنها تعالجها عبر أطر امتثال منفصلة.

يقف مشروع القانون الفيدرالي في مرحلة مبكرة من العملية. عُرض في مجلس النواب في 23 يوليو 2026 بدعم من The AI Policy Network، Americans for Responsible Innovation، ControlAI، Future of Life Institute، وThe Alliance for Secure AI، وسيحول سؤال الاحتواء من تمرين إفصاح إلى التزام تقني مستمر، مع تقارير عن الحوادث وحفظ سجلات جنائية لضمان دراسة الإخفاقات بدلاً من تلخيصها.

ما يحدده بطاقة الدرجات الأولى لـ Guidelight هو الخط الأساسي الذي ستُقاس ضده تلك القواعد: اعتبارًا من 18 أغسطس 2026، لم يُظهر أي مختبر متقدم علنًا أكثر من تنفيذ جزئي كبير لأي ممارسة تحكم واحدة، وتخطط المنظمة لإجراء تقييمات متكررة. القراءة التالية حول ما إذا كانت الالتزامات العامة ستتحول إلى ممارسات موثقة وقابلة للتحقق ستأتي من تمرين المتابعة لـ METR ومن أطر الامتثال التي تفرضها كاليفورنيا الآن.