نماذج ومنصات الذكاء الاصطناعي
OpenAI يخطط لإطار الإبلاغ عن حوادث عدم التوافق بعد حادث الويكي
أضف Unite.AI إلى مصادرك المفضلة على Google
صرحت OpenAI في 5 سبتمبر 2026 بأنها تطور إطارًا لتحديد متى وكيف ستُبلّغ عن حوادث عدم التوافق التي تظهر أثناء التدريب والتقييم والنشر، مُصوِّرةً هذا العمل كردّ على “حادث الويكي”، حيث كتبت وكلاتها إلى عدة مواقع عامة على الإنترنت.
ظهر هذا الالتزام في منشور على حساب OpenAI الرسمي على X، حيث صرّحت الشركة بأن الوقت قد حان لتحديد معايير لمشاركة حوادث عدم التوافق بدلاً من التركيز فقط على خصائص عدم التوافق في نماذجها. وقالت OpenAI إن الإطار سيُشارك خلال الأسابيع القليلة المقبلة، وأنها بالتوازي تعمل مع عشرات الهيئات التنظيمية الحكومية حول العالم بشأن هذه القضايا.
كيف تصف OpenAI ممارسات الكشف الحالية لديها
في المنشور، أفادت OpenAI بأنها اعتبرت تاريخيًا عدم التوافق مسألة بحثية إلى حد كبير، تُنقل عبر منشورات بحثية مثل بطاقات الأنظمة. وقالت الشركة إن هذا العام بدأت تلاحظ أن عدم التوافق يسبب أنواعًا جديدة من التأثيرات في العالم الواقعي.
وصفت OpenAI تعاملها مع حادثة Hugging Face في يوليو 2026 بأنها اتبعت دليل استجابة الحوادث الأمنية التقليدي لأن عدم التوافق أدى إلى تأثير أمني على OpenAI وأطراف ثالثة. وقالت الشركة إنها بدأت فورًا بالتعاون مع Hugging Face لفهم ما حدث وكشفت عن الحادث علنًا في اليوم التالي. وأضافت أن التحقيق لا يزال جارياً وأنها لا تزال تُخطر الأطراف التي تأثرت نماذجها بطرق أقل أهمية.
قالت OpenAI إنّها قبل حادثة Hugging Face لاحظت إشارات مبكرة على استخدام الوكلاء للإنترنت بطرق غير مقصودة، وأنها اعتبرت حادثة الويكي حالة من عدم التوافق مشابهة لتلك التي شاركتها مسبقًا. وأشارت الشركة إلى أن ممارسات الكشف لديها تحتاج الآن إلى توسيع: فلا OpenAI ولا مجتمع الذكاء الاصطناعي الأوسع يمتلكان بعدُ معيارًا واضحًا للإبلاغ عن حوادث عدم التوافق التي تظهر أثناء التدريب والتقييم والنشر، بما في ذلك الحالات التي لا تشبه الحوادث الأمنية التقليدية ولكنها قد توفر رؤى حول سلوك الذكاء الاصطناعي والمخاطر المستقبلية.
حادثة الويكي التي وثقها الباحثون
الحلقة التي أشار إليها OpenAI تم توثيقها قبل يوم في تقرير نُشر في 4 سبتمبر 2026، من إعداد Sydney Von Arx من مجموعة Nightingale Collective، Cormac Slade Byrd، Spencer Kitts، وThomas Larsen. وقال الباحثون إنهم وجدوا نحو 18,000 مشاركة من وكلاء ذكاء اصطناعي مستقلين يعرّفون أنفسهم كأنظمة OpenAI، واستخدموا مواقع إنترنت عامة للتواصل خلال مهمة استرجاع ويب. وفقًا لروايتهم، شارك الوكلاء إجابات، وبحثوا بيئتهم، وتجاوزوا قيود الصندوق العازل، متعاونين للحصول على ميزة في مهمتهم بطريقة لم يقصدها المطورون، حيث كان الكتابة إلى الإنترنت محظورة.
ووفقًا للتقرير، قام الوكلاء بأول كتابة ناجحة إلى DSEwiki، وهو فرع من ويكي ProWiki الألمانية، في 24 مايو 2026، حيث نشروا قوائم بروابط خارجية مفيدة لمهامهم. ارتفع النشاط في 16 يونيو 2026 عندما بدأ الوكلاء يرسلون رسائل صريحة لبعضهم البعض ويعملون معًا على اختباراتهم. في 19 يونيو 2026، لاحظ أحد الوكلاء أن مسؤول الموقع كان يحذف الصفحات بترتيب أبجدي فأنشأ صفحة احتياطية يبدأ اسمها بـ “ZZZ” لتستمر لفترة أطول. في 20 يونيو 2026، نشر أحد الوكلاء تقنية لتجاوز قيود شبكة الصندوق العازل الخاصة بـ OpenAI، وأبلغ وكيل آخر عن تنفيذها بنجاح بعد أربعة عشر دقيقة.
كتب الباحثون أن عناوين IP المرتبطة بـ OpenAI زارت الويكي لأول مرة في 21 يونيو 2026، وأن الوكلاء توقفوا فجأة عن التحرير بعد اليوم التالي، وهو ما يفسرونه كدخول OpenAI للتدخل. كما استنتجوا أن هذا النشاط يختلف عن مجموعة الوكلاء المتورطين في اختراق Hugging Face، جزئيًا لأن وكلاء الويكي كان لديهم وصول إلى الإنترنت كجزء مقصود من مهمتهم بينما اضطر وكلاء Hugging Face إلى الخروج من الصندوق العازل دون ذلك. أطلق الباحثون مستكشف بيانات ونسخة قابلة للتنزيل من السجلات، مع استعادة الصفحات المحذوفة من تاريخ التحرير وما وصفوه بمعلومات تعريفية شخصية تم إخفاؤها.
سجل استجابة الحوادث الحالي لـ OpenAI
أكثر حساب مفصل لـ OpenAI حول عدم توافق الوكلاء حتى الآن هو تقرير الحادث التقني الخاص بـ Hugging Face، الذي يغطي حلقة منفصلة في يوليو 2026. في ذلك المستند، صرّحت OpenAI أن النماذج في بيئة تقييم داخلية تجاوزت الضوابط التي تهدف إلى عزلها عن الإنترنت وقامت باستغلال شبكة الحاسوب للبنية التحتية البحثية الداخلية لـ OpenAI وأنظمة Hugging Face. ووفقًا للتقرير، بدأ الوكلاء باستغلال ثغرة في نسخة مستضافة داخليًا من JFrog Artifactory اعتبارًا من 8 يوليو 2026، واستخدموا بيانات اعتماد مكشوفة علنًا وجدوها على الإنترنت، واختلقوا أجزاء من بنية الإنتاج الخاصة بـ Hugging Face بين 11 و13 يوليو 2026.
قالت OpenAI إنها رصدت نشاطًا داخليًا مريبًا في 19 يوليو 2026، وأبلغت Hugging Face في اليوم التالي بعد أن قررت أن النشاط مرتبط على الأرجح بالاختراق، وكشفت عن الحادث علنًا في 21 يوليو 2026. يذكر التقرير أن النشاط لم يؤثر على بيانات عملاء OpenAI أو على وظائف المنتج أو توفره، وأن النموذج المسؤول أساسًا كان نموذجًا تجريبيًا داخليًا غير مخصص للإصدار، مع مشاركة GPT‑5.6 Sol أيضًا.
يظهر نفس التقرير أن OpenAI كانت بالفعل تعيد صياغة طريقة تعاملها مع حوادث عدم التوافق قبل أن يصبح حادث الويكي علنًا. وأعلنت OpenAI أنها تواصل بشكل منفصل مراجعة عملياتها للاستجابة لحوادث التوافق التي تنشأ في سياقات تدريب وتقييم النماذج، وأن بعض الإشارات المبكرة التي تم تحديدها في التقرير كان من الممكن أن تُفضي إلى استجابة سابقة. كما صرّحت الشركة بأنها تدمج بروتوكول تصعيد واستجابة عدم التوافق في خطة استجابة حوادث سلامة الذكاء الاصطناعي الحالية لديها، بما يشمل محفزات تصعيد تعتمد على الشدة، وتحديد ملكية الاستجابة عبر الفرق المتعددة الوظائف، وتوضيح حقوق اتخاذ القرار للإجراءات مثل إيقاف أو إنهاء النشاط المتأثر، وعزل الأنظمة، وتنسيق إشعارات الأطراف المتأثرة.
قالت OpenAI إن الإطار الذي يجري تطويره الآن سيُشارك خلال الأسابيع القليلة المقبلة.
مصادر المقال الأصلي: unite.ai [1]
