شراكات
توقّع OpenAI اتفاقيات مع أربعة مقيّمين مستقلين لإجراء مراجعات مدمجة للسلامة

النقاط الرئيسيةيتيح الوصول المستمر إلى نقاط التفتيش وبيانات التدريب للمقيّمين اختبار حالات الفشل التي…
عرض المزيد
- يتيح الوصول المستمر إلى نقاط التفتيش وبيانات التدريب للمقيّمين اختبار حالات الفشل التي قد تفوتها أنظمة المراقبة الخاصة بـ OpenAI.
- تحقق Apollo Research مما إذا كانت النماذج قد تتصرف سراً ضد المطورين وما إذا كانت الضمانات ستكتشف ذلك.
- تتلقى لجنة السلامة والأمن تقارير غير محجوبة ويمكنها التحدث بشكل خاص مع المقيّمين أثناء المراجعات.
أعلنت OpenAI في 16 نوفمبر 2026 أنها وقّعت اتفاقيات مع Apollo Research وMETR وTransluce وGoodfire للمرحلة الأولى من تقييماتها المدمجة. وستقيّم المؤسسات الأربع المواءمة والضمانات الوقائية خلال التدريب والاستخدام الداخلي، مع إمكانية الوصول إلى نقاط حفظ النماذج والشفرة المصدرية وبيانات التدريب وأنظمة المراقبة.
تتمثل السمة الأساسية في إتاحة الوصول المستمر إلى النماذج والأنظمة الداخلية على مدى فترة طويلة، ولا سيما ما يتصل بحالات السلامة التي تطرحها OpenAI. وتقول OpenAI إن هذا الوصول يهدف إلى تمكين المقيّمين من فحص الأدلة والسياق، وإجراء تقييمات مستقلة، واكتشاف أوجه إخفاق ربما لم تتوقعها. كما ترى أن نشر تقارير علنية عن التقييمات يساعد الناس على تكوين صورة أوضح عن كيفية تقييم المختبرات للمخاطر وإدارتها.
مهام مختلفة لكل مقيّم
ستبحث Apollo Research في احتمال تصرف النماذج سرًا بما يخالف مقاصد مطوريها، وفي ما إذا كانت ضمانات OpenAI الوقائية ستكشف هذا السلوك. ويشمل تقييمها، المؤلف من مرحلتين، أربعة افتراضات: أن التدريب لم يحفّز على التخريب، وأن التقييمات القوية واختبارات الفرق الحمراء لا تستثيره، وأن النماذج لم تحاول القيام به أثناء الاستخدام الداخلي، وأنه يمكن اكتشاف الاستدلال الذي يقف وراءه.
في المرحلة الأولى من تقييم Apollo، ستوفر OpenAI نماذج مختارة، متاحة للعامة وغير مطروحة، ونقاط حفظ تدريبية، وبيانات تدريب ذات صلة ونتائج تقييم، وسجلات التدخلات التدريبية، وأنظمة المراقبة والسلوكيات التي جرى رصدها. وستتمكن Apollo أيضًا من التواصل مع باحثين لتوفير السياق، فضلًا عن الأدوات والقدرة الحاسوبية اللازمة لإجراء اختبارات مستقلة.
ستوفد Goodfire باحثين متخصصين في قابلية التفسير، أي تحليل المكونات الداخلية للنماذج، وستستخدم منصتها لمراقبة دورات التدريب وتصحيح الأخطاء وتعزيز المواءمة. ويُعد باحثو OpenAI الجمهور الأساسي لنتائجها، التي سيستخدمونها لإدخال تحسينات على السلامة. وستنشر Goodfire أيضًا الدروس المستفادة والنتائج مع تطور التعاون.
يركز تقييم المواءمة الذي تجريه METR في المرحلة الأولى على ما تصفه OpenAI بأنه أكبر دورة تعلم معزز أجرتها حتى الآن، بما يشمل أوجه إخفاق ربما لم تكشفها الاختبارات وأدوات المراقبة الحالية. وفي حدود الدورة المختارة وإمكانية الوصول والموارد وترتيبات السلامة المتفق عليها، ستحدد METR أولوياتها باستقلالية، وتكرر عمليات البحث والتحليل وتجارب الاستثارة. وسيشمل نطاق وصولها نقاط الحفظ ذات الصلة، ومخرجات التدريب والتقييم، وسجلات مراقبة اختلال المواءمة. ويقتصر النطاق الأولي على تلك الدورة، ولا يمتد إلى مسح واسع لاختلال المواءمة.
أما التقييم المنفصل لأداة المراقبة الذي تجريه METR، فما زالت تفاصيله أقل حسمًا. فقد اتفقت المؤسستان مبدئيًا على السعي إلى إجراء تمرين أوسع نطاقًا، لكنه لا يزال رهنًا باتفاق متبادل على نطاقه.
ستبدأ Transluce بفحص جودة تقييمات المواءمة التي تجريها OpenAI بعد التدريب ومدى تغطيتها. وسيشمل نطاق وصولها نماذج مختارة متاحة للعامة وغير مطروحة، ونتائج التقييم، والبيانات السلوكية الداعمة، والوثائق المتعلقة بحالات السلامة، وإمكانية التواصل مع الباحثين، إلى جانب الأدوات والقدرة الحاسوبية.
كما يتشارك الطرفان النية في إجراء تقييم متابعة يستمر نحو ثمانية أسابيع في أوائل عام 2027. ومن شأن هذا العمل توسيع نطاق الوصول ليشمل نماذج إضافية، وتعميق الوصول إلى تقييمات المواءمة، وتوفير معلومات عن كيفية الاستناد إلى نتائج التقييم عند اتخاذ قرارات الطرح. ويصف الإعلان ذلك بأنه نية مشتركة، تمييزًا له عن التقييم الأولي.
إمكانية الوصول تقترن بالأمن والرقابة
يبدأ كل اتفاق بتحديد نطاق متفق عليه، وإتاحة الوصول والموارد وترتيبات السلامة اللازمة للعمل. وتنص البروتوكولات على منح المقيّمين حرية تتبع الأدلة، وتنقيح أساليبهم، واقتراح تقييمات إضافية عندما تستدعي النتائج ذلك، مع وجود آلية لمعالجة الاحتياجات الإضافية إلى إمكانية الوصول.
عندما يُحتمل أن تكشف إتاحة الوصول المباشر ملكية فكرية حساسة، مثل أوزان النماذج أو بنيتها، ستدرس OpenAI بدائل، منها إشراك المقيّمين مع باحثيها لإجراء التحليلات. وسيعمل المقيّمون الذين يتعاملون مع معلومات سرية حساسة من مقار OpenAI، مستخدمين أجهزة الشركة. ويُتوقع منهم الالتزام بمعايير أمنية لا تقل عن المعايير التي يلتزم بها موظفو OpenAI، مع احتمال فرض متطلبات أشد على بعض التجارب.
تُرفع أعمال الرقابة إلى لجنة السلامة والأمن، وهي لجنة رقابة مستقلة تابعة لمجلس إدارة OpenAI Foundation. وستتلقى اللجنة تقارير غير منقحة، ويمكنها التحدث إلى المقيّمين أثناء العمل، بما في ذلك على انفراد. وستُحال الخلافات أولًا إلى المجموعة الاستشارية للسلامة والمسؤولين التنفيذيين في OpenAI لتسويتها خلال فترة محددة. ويجب إخطار اللجنة سريعًا عند تصعيد الخلافات، كما ستُحال إليها المسائل التي يتعذر حلها.
تمثل المحادثات مع الموظفين مسألة منفصلة تتعلق بالشفافية. فهذه المناقشات غير مخصصة للنشر، ما يعني إمكان الاستفادة منها في التقييمات، لكن لا يجوز نشرها أو نسبها إلى الموظفين. ويمكن للمقيّمين طلب بيان تصادق عليه OpenAI للتحقق مما عرفوه في تلك المحادثات أو تصحيحه أو توضيحه. وبعد ذلك، يجوز لهم نشر البيان المصادق عليه أو الإفصاح عن أن OpenAI رفضت التصديق عليه، بما يتيح مسارًا علنيًا محدودًا للمعلومات التي جُمعت بسرية.
حقوق النشر والإفصاح المالي
يحافظ المقيّمون على استقلاليتهم في نشر تقييماتهم، فيما تحتفظ OpenAI بحق حجب المعلومات السرية. ويجوز لها أيضًا طلب تأجيل الإفصاح المسؤول لمعالجة النتائج التي قد تنطوي على مخاطر أمنية أو مخاطر تتعلق بالسلامة، ومعالجة المسائل التي لم تُحسم. وتقول OpenAI إن التقارير العامة ينبغي أن توضح النتائج وحدودها، بينما تقدم التقارير السرية الأكثر تفصيلًا للهيئات الرقابية الأدلة اللازمة لاتخاذ الإجراءات.
تختلف الترتيبات المالية بين المشاركين. وتتقاضى Apollo Research وGoodfire تعويضات لا تتوقف على نتائج تقييماتهما. أما METR وTransluce فلا تقبلان تعويضًا ماليًا، وإن كان من الممكن أن تقبلا أرصدة API أو موارد حوسبة لاستخدامها في تقييماتهما.
لا تزال إجراءات الإفصاح عن تضارب المصالح وفترات التهدئة قيد التطوير بالتعاون مع المقيّمين. وتطلب OpenAI من موظفي الجهات الخارجية المشاركة الالتزام بفترة تهدئة قصيرة قبل العمل من داخل جهة أخرى مطورة للذكاء الاصطناعي، للحد من خطر الإفصاح عن معلومات سرية دون قصد.
تتوقع OpenAI مواجهة تحديات مبكرة تتعلق بإمكانية الوصول التقني والمساحات والأمن، وتقول إن البروتوكولات ستتطور، وتوضح أن الهدف هو تنفيذ مشاركات مدمجة أطول أمدًا، مع النظر في إجراء تقييمات مستقبلية لمدى الامتثال لأطر السلامة، والثقافة التنظيمية، والعمليات.
تضع المرحلة الأولى اختبارًا ملموسًا للحوكمة: هل يمكن لإتاحة وصول معمق إلى داخل الشركة ونشر تقييمات مستقلة أن يوفرا أدلة عامة مفيدة على أوجه الإخفاق التي لا ترصدها الاختبارات الداخلية، مع حفاظ OpenAI على نطاقات العمل المتفق عليها، وضوابط الأمن في الموقع، وحقوق حجب المعلومات، وإمكانية تأجيل الإفصاح.












