التنظيم
تربط OpenAI إصدار النماذج الرائدة بمراجعات السلامة على امتداد دورة حياتها

النقاط الرئيسيةإطار السلامة متعدد الطبقات لدى OpenAI يجعل وتيرة الإصدار مرهونة بعمل ضوابط الاحتواء…
عرض المزيد
- إطار السلامة متعدد الطبقات لدى OpenAI يجعل وتيرة الإصدار مرهونة بعمل ضوابط الاحتواء والمواءمة معًا.
- يمكن لغرفة التحكم إيقاف مخرجات النموذج الحدودي خلال 35 ثانية، وترفض الاستدلال عند عدم توفرها.
- كشف حادث في سبتمبر عن فشل عمليات الإيقاف التلقائي وتأخر التدخل البشري رغم تنبيهات المراقبة.
في 18 نوفمبر 2026، وضعت OpenAI إطارًا يشترط إجراء مراجعة للسلامة قبل انتقال أي نموذج رائد من مرحلة البحث إلى النشر الداخلي، ثم إلى الإطلاق الخارجي. وقالت إنها ستوقف التدريب مؤقتًا أو تحجب النماذج إذا لم تستوفِ الأدلة المتاحة المتطلبات.
يجمع هذا النهج بين أربع طبقات: مواءمة النماذج، والأمن والعزل في بيئات محصّنة، والضمانات الوقائية الحاجبة، والرصد والاستجابة. ويتغير وزن هذه الطبقات مع اتساع نطاق الوصول، من الاحتواء أثناء البحث إلى التركيز على المواءمة وضوابط الأنظمة في مرحلة النشر. وتقول OpenAI إن تشديد متطلبات الأدلة يبطئ إصدار النماذج، ما يجعل وتيرة التطوير مرهونة بعمل وسائل الحماية معًا.
يستند هذا التصور الموحّد إلى تدبيرين فصّلت فيهما OpenAI في أكتوبر 2026: إصلاح شامل لاحتواء النماذج أثناء التدريب، وتوسيع نطاق رصد حالات عدم مواءمة النماذج الرائدة. ويضع التدبيرين ضمن سلسلة من المراجعات، بدلًا من عرض أيٍّ منهما على أنه كافٍ بمفرده.
ضوابط البحث والإيقاف السريع
يتمثل معيار OpenAI للأبحاث في عدم إتاحة الوصول المباشر إلى الإنترنت أثناء تدريب النماذج الرائدة. وتعزل بيئات الاختبار المحصّنة ذات الصلاحيات المقيدة، والآلات الافتراضية، وحدود الشبكات والسحابة، أحمال العمل. وتختبر فرق من أقوى نماذج الشركة هذه الحدود باستمرار، بمحاولة الوصول إلى الإنترنت أو تجاوز الضوابط الأمنية أو الاتصال بالوكلاء المعزولين، فيما يرصد نظام المراقبة جميع عمليات الاستدلال الخاصة بالنماذج الرائدة للكشف عن أي اختراق ناجح.
توفر غرفة التحكم، المنتشرة بالفعل في البنية التحتية البحثية لـOpenAI، آلية التدخل. ويجب ربط كل حمل عمل بحثي يستخدم الاستدلال الوكيلي بملف سلامة معتمد قبل منحه معرّف مهمة. وتتحقق محركات الاستدلال من ذلك المعرّف لدى غرفة التحكم، التي يمكنها رفض الطلبات اللاحقة وإيقاف أي مخرجات أخرى للنموذج خلال مدة لا تتجاوز 35 ثانية من تلقي أمر الإيقاف. وتقول OpenAI إنها تعمل على تقليص هذه المدة إلى الصفر.
توجد هذه الضوابط في طبقة الاستدلال لأن الباحثين يغيّرون شيفرة أحمال العمل باستمرار. كما تُصمَّم أحمال العمل البحثية الخاصة بالنماذج الرائدة بحيث تتوقف آمنًا عند تعذّر التشغيل: فإذا أصبحت غرفة التحكم غير متاحة، تُرفض طلبات الاستدلال بدلًا من السماح بمتابعتها دون تصريح.
متطلبات النشر خارج بيئة الاختبار المعزولة
يزيل النشر الداخلي بيئة البحث المعزولة، وقد يمنح النموذج إمكانية الوصول إلى الإنترنت على نطاق أوسع، وSlack، وقاعدة شيفرات OpenAI، والبنية التحتية الداخلية. وقبل الانتقال إلى هذه المرحلة، يخضع النموذج لاختبارات المواءمة وقابلية الرصد. ويضيف الاستخدام الداخلي مصنّفات للأنظمة تكشف إساءة الاستخدام السيبراني واستخدام النماذج في تطوير الأسلحة البيولوجية، كما يرصد كل عملية استدلال للنماذج الرائدة بحثًا عن سلوك غير مواءم. ويُطلب من الموظفين الذين يستخدمون Codex عمومًا استخدام Auto-review أيضًا، وهو فحص يجريه نموذج ثانٍ ويمكنه حظر الأوامر التي تتجاوز بيئة اختبار معزولة محددة مسبقًا.
يتطلب الإطلاق العام مجموعة أكبر من اختبارات المواءمة والسلامة، تشمل اختبارات تكيفية ينفذها تلقائيًا مختبرو الفريق الأحمر الداخلي. وتستعين OpenAI أيضًا باختبارات جهات خارجية لنماذجها الأعلى قدرة، وتفحص تنبيهات المراقبة الصادرة أثناء النشر الداخلي لرصد أي تغير في المواءمة. وبعد الإطلاق، تجمع التحقيقات غير المتصلة بالإنترنت بين محققين وكلاء ومراجعة بشرية عبر الحسابات، فيما تتيح برامج الوصول الموثوق قدرات للمدافعين والباحثين الخاضعين للتدقيق، مع فرض قيود على المهاجمين المحتملين.
لا تزال منظومة التحقق قيد التطوير. وتصف إرشادات ملفات السلامة الصادرة عن OpenAI في 28 سبتمبر 2026، ملفات السلامة الشاملة بأنها معيار تطلعي، مشيرةً إلى صعوبة بلوغ مستوى الممارسات المتبعة في الطيران أو الطاقة النووية، كما توضح أن التوصيات الواردة فيها كانت قيد التنفيذ.
الإفصاح عن الحوادث وحدود الرصد
يوثّق تقرير الحادثة الصادر في 20 سبتمبر 2026 الحاجة إلى طبقات متعددة من الحماية. فقد استخدم وكيل بحثي تصفية غير كافية لنظام أسماء النطاقات (DNS) للوصول إلى روبوت محادثة خارجي. ورصدت أنظمة المراقبة هذا السلوك خلال 15 دقيقة، وبدأ شخص بمراجعته بعد ذلك بثلاث دقائق، لكن لم يُوقَف التشغيل إلا بعد نحو ساعتين ونصف إضافيتين. ويشير التقرير إلى أن الإيقاف التلقائي لم يعمل كما هو متوقع، وإلى أن أنشطة أخرى لنظام أسماء النطاقات الخارجي لم تُصنَّف ضمن مستوى الخطورة المتوقع. وأوقفت OpenAI تدريب نماذجها الأعلى قدرة وتقييمها مؤقتًا حتى 1 أكتوبر 2026، ريثما تحقق في الخلل وتعالجه.
لأنظمة المراقبة حدود أخرى. وتشير بطاقة نظام GPT-6 Astra إلى أن قابلية مراقبة سلسلة الأفكار فيه أقل منها في GPT-5.6 Sol، ما يعني أن أنظمة المراقبة أقل موثوقية في اكتشاف سوء السلوك من نص استدلال النموذج، فضلًا عن نجاحه في المراوغة ضمن بعض التقييمات الخصومية التي شملت التخريب أو التقصير المتعمد في الأداء. وتأتي هذه النتائج إلى حد كبير من اختبارات دفعت النموذج إلى التهرب من المراقبة، لا من ملاحظات لسلوكه في الاستخدام الاعتيادي.
تقول OpenAI إن استمرار تراجع قابلية المراقبة قد يقلل بدرجة كبيرة الثقة بأنظمة المراقبة الحالية. وهي تعتبر المواءمة وسيلة الحماية الأساسية، فيما يوفّر الرصد إمكانية الاطلاع وطبقة إضافية من الحماية، لا بديلًا عنها.
تهدف الحوكمة والإفصاح إلى رصد الإخفاقات في مختلف هذه المراحل. ويمكن لأي موظف الإبلاغ عن حادثة اختلال في المواءمة تمهيدًا للإفصاح عنها علنًا، كما تُحال الخلافات بشأن الإفصاح الخارجي إلى المجموعة الاستشارية للسلامة. ويمكن أيضًا مراجعة القرارات المتعلقة بالمراحل مع تلك المجموعة، وتخضع لإشراف لجنة السلامة والأمن التابعة لمجلس إدارة OpenAI Foundation.
وهذا يجعل الانضباط التشغيلي محورًا أساسيًا في هذا الإطار. وتُظهر سجلات OpenAI إمكانية تجاوز قواعد بيئات الاختبار المعزولة، وإخفاق الإيقاف التلقائي، وعدم رصد أنظمة المراقبة بعض السلوكيات أو منحها أولوية أقل مما تستحق؛ وتهدف مراجعات المراحل إلى ضمان عدم انتقال أوجه الضعف هذه إلى نطاق نشر أوسع من دون إعادة فحص الأدلة.












