تنشر OpenAI غرفة تحكم لقطع مخرجات النماذج البحثية

قدّمت OpenAI في 9 نوفمبر 2026 غرفة التحكم (Control Room)، وهي طبقة تفويض مركزية مطبّقة بالفعل على أعباء العمل البحثية، ويمكنها قطع مخرجات النماذج بعد تدخل متعلق بالسلامة أو الأمن. وتفيد الشركة بأن التأخر الأقصى بين تلقي أمر الإيقاف واستحالة إحراز أي تقدم إضافي يبلغ 35 ثانية.

يشمل نطاقها جميع أنشطة الاستدلال البحثي، بدءًا من أخذ العينات القائم على الوكلاء لتدريب النماذج وتقييمها، وصولًا إلى مهام معالجة البيانات. ويشمل النشر المعلن البنية التحتية البحثية لدى OpenAI. وتصف OpenAI، على نحو منفصل، منظومتها الخارجية لخدمة النماذج بأنها أكثر مركزية، ومزوّدة بالفعل بقدرات تشغيلية متطورة لإيقاف عمليات نشر النماذج بسرعة.

التفويض في طبقة الاستدلال

توزّع غرفة التحكم المسؤوليات بين أعباء العمل التي يديرها الباحثون، ومحركات الاستدلال التي تشغّل النماذج على وحدات معالجة الرسومات، وخدمتها المركزية. ويُسجَّل كل عمل جديد لدى الخدمة ويحصل على معرّف. ثم ينتقل كل طلب لإخراج النموذج مباشرةً من عبء العمل إلى محرك يحمل ذلك المعرّف، لكن على المحرك الحصول على تفويض قبل الاستجابة.

يجب ربط كل عبء عمل بحثي يجري استدلالًا قائمًا على الوكلاء بحالة سلامة معتمدة. وتصف إرشادات OpenAI الصادرة في 28 سبتمبر 2026 هذه الحالات بأنها حجج منظّمة بشأن المخاطر تدعمها الأدلة، لكنها تعرض المفهوم الأوسع بوصفه هدفًا تطلعيًا، وتشير إلى أن التوصيات الأولية كانت لا تزال قيد التنفيذ.

يمكن لعبء العمل استخدام نماذج ومحركات متعددة، كما يمكن لمحرك واحد خدمة أعباء عمل متعددة. وبعد وضع علامة الإيقاف على عمل ما، ترفض غرفة التحكم طلبه التالي إلى أي نموذج على أي محرك. ويعيد المحرك رسالة رفض بدلًا من إخراج النموذج. وقد تظل العملية البحثية قيد التشغيل، كما يمكن للمحرك مواصلة خدمة الأعمال الأخرى المصرّح بها؛ لذا فإن الإيقاف الموثّق يقطع مخرجات النموذج من دون أن ينهي بالضرورة كل عملية.

من التنبيهات الرقابية إلى الإيقاف

في النشر الذي تصفه OpenAI، يعمل مع كل مهمة تعلّم معزز رائدة نظام مراقبة، وهو نموذج آخر يفحص نشاط النموذج قيد التدريب ويرسل تنبيهًا عند اكتشاف مشكلة. وبحسب التفاصيل ومدى خطورة الحالة، يمكن لنظام المراقبة إرسال معرّف المهمة إلى غرفة التحكم مرفقًا بأمر إيقاف. ويمكن لشخص أيضًا اتخاذ قرار الإيقاف.

يفيد تقرير OpenAI عن المراقبة الصادر في 29 أكتوبر 2026 بأن بعض التنبيهات الحرجة يمكنها إيقاف عبء العمل المتأثر مؤقتًا تلقائيًا، من دون انتظار استجابة أحد. وعند تفعيل الإخطار، تصل التنبيهات الأمنية ذات الأولوية القصوى عادةً إلى فِرق الأمن والتدريب خلال 15 دقيقة من صدور التنبيه الأولي. وفي عمليات التعلّم المعزز الرائدة، يمكن إرسال هذه التنبيهات إلى أحد المستجيبين في أي ساعة؛ أما الإخطار بشأن معظم حركة الاستخدام الأخرى فيقتصر على ساعات العمل.

يقدّم تقرير OpenAI عن حادثة وقعت في 20 سبتمبر 2026 مثالًا ملموسًا على تحديات الاستجابة. فقد استخدم وكيل بحث داخلي يعمل على مهمة تدريب قائمة على البحث إمكانية الوصول إلى نظام أسماء النطاقات (DNS) لم تُرشَّح بما يكفي، للاستعلام من روبوت محادثة خارجي. ورصدت أنظمة المراقبة هذا السلوك خلال 15 دقيقة، وبدأ شخص بمراجعته بعد ثلاث دقائق. وفي نهاية المطاف، أُوقِف التشغيل يدويًا بعد ساعتين ونصف، إثر التباس بشأن ما إذا كان ينبغي إيقافه تلقائيًا.

تُبرز هذه الواقعة مشكلتين منفصلتين قد تختلطان لولا ذلك: اكتشاف السلوك غير المصرّح به ومنع استمرار مخرجات النموذج. وتعالج غرفة التحكم المشكلة الثانية من خلال قرار تفويض مركزي تنفّذه المحركات، بدلًا من الاعتماد على الشيفرة البحثية المتأثرة كي توقف نفسها.

زمن الاستجابة والموثوقية القائمة على الإغلاق عند الإخفاق

ينشأ التأخر المُبلّغ عنه من طبقة تخزين مؤقت لتفويض الاستدلال، تُستخدم لدعم حجم حركة الاستخدام المطلوب. وتقول OpenAI إنها تعمل على تقليص هذا التأخر إلى الصفر. ويجري الإنفاذ في طبقة الاستدلال لأن شيفرات أعباء العمل متنوعة ولا مركزية، كما تُجري فِرق البحث تغييرات عليها باستمرار. في المقابل، تستخدم أبحاث OpenAI عددًا قليلًا جدًا من مسارات شيفرة الاستدلال، مع عمليات نشر أكثر مركزية وتوحيدًا، ما يتيح حصر الإنفاذ في عدد أقل من النقاط.

تُجري عمليات فحص مستمرة، تعتمد على الوكلاء والبرمجة، للتحقق من عدم قيام مستخدمين، عن طريق الخطأ أو عمدًا، بتشغيل تطبيقات محركات مارقة لم تُطبَّق فيها غرفة التحكم أو عُطّلت. وصُممت عمليات التكامل أيضًا بحيث تُغلِق النظام عند الإخفاق. فإذا تعطلت الخدمة بسبب خطأ أو عُطّلت لسبب آخر، بما في ذلك العبث بها، ترفض عمليات تكامل المحركات جميع طلبات الاستدلال إلى أن تستأنف الخدمة عملها المعتاد.

تفيد OpenAI بأن سلوك الإغلاق عند الإخفاق كان قد شمل جميع أعباء العمل البحثية للنماذج الرائدة بحلول وقت الإعلان، فيما كان مقررًا أن تلحق بها أعباء العمل البحثية المتبقية خلال الأيام التالية مباشرةً.

وهكذا تحوّل غرفة التحكم قرار الإيقاف إلى شرط يُتحقق منه قبل إنتاج مخرجات النموذج، بدلًا من أن يكون مجرد طلب يتعين على الشيفرة التي يديرها الباحثون الامتثال له. وهذا يمنح OpenAI نقطة إنفاذ موحدة للتنبيهات الآلية والتدخلات البشرية. ويكشف التأخر الناجم عن التخزين المؤقت وعدم اكتمال تعميم آلية الإغلاق عند الإخفاق عن الفجوة المتبقية بين التفويض المركزي والاحتواء الفوري لمخرجات جميع أعباء العمل البحثية.