شراكات

Apollo Research تُشرك ستة مقيّمين في مشروع OpenAI التجريبي بشأن تقويض آليات المواءمة

Mira Kellan
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةقد تحجب OpenAI المواد المشمولة لأسباب أمنية أو متعلقة بالملكية الفكرية ولكن ليس لأنها…
عرض المزيد
  • قد تحجب OpenAI المواد المشمولة لأسباب أمنية أو متعلقة بالملكية الفكرية ولكن ليس لأنها غير مواتية.
  • يمكن لـ OpenAI تنقيح الأدلة الحساسة الكامنة وراء نتائج أبولو مع إبقاء أحكام أبولو سليمة.
  • تجادل أبولو بأن حقوق الشفافية الفوقية ضرورية لأن القيود غير المفصح عنها يمكن أن تجعل المشكلات الغائبة تبدو مطمئنة.

أعلنت Apollo Research في 16 نوفمبر 2026 أن ستة من مقيّميها سيعملون داخل OpenAI لمدة أربعة أشهر، للتحقيق فيما إذا كانت نماذج OpenAI تحاول تقويض آليات المواءمة أو التحكم أثناء التدريب والتقييمات والنشر الداخلي.

سيدرس الفريق أربعة أسئلة: هل يحفّز التدريب على التقويض؟ وهل يمكن للتقييمات استثارة هذا السلوك؟ وهل يحدث التقويض أثناء النشر الداخلي؟ وهل يمكن رصد الاستدلال المرتبط بالتقويض؟ ويشمل نطاق الدراسة محاولات تقويض مواءمة النموذج نفسه أو آليات التحكم فيه، وكذلك مواءمة النماذج اللاحقة له أو آليات التحكم فيها.

يهدف هذا الترتيب إلى توسيع نطاق التدقيق الخارجي ليتجاوز نهج Apollo السابق في التقييم، الذي كان يُطبّق بعد مرحلة ما بعد التدريب وقبيل الإصدار العام بوقت قصير. وترى Apollo أن هذا التوقيت لا يكفي لاختبار السلوك غير المتوافق، مثل التآمر، أو لفحص الاستخدامات غير العلنية أثناء النشر الداخلي. ومن المأمول أن تتغلب التقييمات المدمجة، التي تتيح للمقيّمين صلاحيات وصول شبيهة بصلاحيات الموظفين، على هذه القيود.

تصف Apollo المشروع التجريبي بأنه خطوة أولى طموحة، لا تقييماً مدمجاً متكاملاً. ويقتضي معيارها العام إتاحة جميع السجلات ذات الصلة، حتى إذا حاول المطوّر إخفاء المعلومات غير المواتية؛ والإفصاح عن النتائج لجمهور خارجي مناسب، حتى إذا اعترض المطوّر؛ وتقديم شرح علني كافٍ للقيود، كي يتمكن القراء من فهم ما يمكن للتقرير إثباته وما لا يمكنه إثباته.

نطاق الوصول والتواصل مع الموظفين

في ما يتعلق بتقييم الحوافز التي ينطوي عليها التدريب، تعهّدت OpenAI بتوفير شيفرة التدريب ومجموعات البيانات ذات الصلة، ومخرجات عمليات التعلّم المعزّز مع آثار الاستدلال والمكافآت المتاحة، فضلاً عن إتاحة الاستعلام عن نقاط التحقق الوسيطة للنموذج. أما الترتيبات التفصيلية لإتاحة الوصول فيما يخص ادعاءات التقييم الأخرى، فما زالت بحاجة إلى الاتفاق عليها.

يقتصر التقييم على الادعاءات والنماذج والفترات الزمنية المتفق عليها. ويجوز لـ OpenAI حجب مواد تقع ضمن نطاق التقييم إذا رأت أن ذلك ضروري على نحو معقول بسبب تعذّر التنفيذ تقنياً أو وجود مخاطر أمنية أو حماية الملكية الفكرية. لكن لا يجوز لها حجب المعلومات أو منع الوصول إلى الموظفين لمجرد أن المواد غير مواتية. ويتعين عليها إبلاغ Apollo بوجود مواد محجوبة وتقديم أسباب مكتوبة، كما يتعين عليها، حيثما رأت أن ذلك ممكن وذو صلة، تحديد فئات السجلات المحجوبة وحجمها التقريبي. ويمكن لـ Apollo طلب توسيع نطاق الوصول عبر جهة اتصال محددة لدى OpenAI وتصعيد حالات الرفض، لكن توسيع النطاق غير مضمون.

ويخضع التواصل مع الموظفين أيضاً للضوابط. يمكن لـ Apollo طلب مقابلة أشخاص ذوي خبرة محددة واقتراح أفراد بعينهم، لكن OpenAI هي التي تختار المشاركين المصرّح لهم، ويجب توثيق المحادثات الرسمية. وإذا أثار موظف آخر معلومات سرية، فعلى Apollo إيقاف النقاش الموضوعي وإحالة أي متابعة إلى جهة الاتصال المحددة لديها في OpenAI، حتى عندما تكون المعلومات ضمن نطاق التعاقد.

سيعمل المقيّمون على أجهزة OpenAI، مستخدمين قنوات منفصلة يمكن مراقبتها. ولن يُتاح لهم افتراضياً الوصول إلى قنوات التواصل العامة للموظفين، مثل Slack. وتشير Apollo إلى أن المحادثات غير الرسمية وSlack قد يكشفان معلومات ذات صلة لم يكن المقيّم ليطلبها، وأنها تريد إدراج هذه المعلومات ضمن نطاق التقييمات المستقبلية.

التقارير العلنية وحقوق حجب المعلومات

تعتزم Apollo إصدار تقريرين علنيين. سيتناول الأول حوافز التدريب على التقويض، فيما سيغطي الثاني التقييمات والنشر الداخلي وإمكانية رصد الاستدلال الهادف إلى التقويض. وسيعرض كل تقرير المنهجيات والاستنتاجات والقيود والأسئلة التي تعذّر تقييمها، فضلاً عن الأدلة الداعمة التي يمكن نشرها.

ستراجع OpenAI التقريرين، ويجوز لها طلب حجب معلومات سرية، بما فيها الأدلة التي تدعم النتائج. لكن لا يجوز لها حجب استنتاجات Apollo أو طلب الحجب لمجرد أن إحدى النتائج غير مواتية. ومع ذلك، يمكنها حجب الأدلة التي تعدّها ملكية فكرية حساسة، سواء أسهمت تلك الأدلة مباشرةً في التوصل إلى نتيجة أم لا. لذلك، قد يتعذر على القراء الاطلاع على جميع الأدلة التي تستند إليها إحدى النتائج، وإن كان بوسع Apollo توضيح ما إذا كان الحجب قد أثّر في استنتاجاتها. وستشارك OpenAI النسخ غير المنقحة من التقريرين مع لجنة السلامة والأمن التابعة لمجلس إدارتها.

تتطلب الادعاءات المستندة إلى نقاشات مع الموظفين تصديقاً رسمياً من OpenAI، ما لم تثبتها Apollo بصورة مستقلة. وينطبق هذا الشرط أيضاً على المعلومات التي يقدمها موظفون مصرّح لهم خلال مقابلات رسمية. وإذا رُفض التصديق، فيمكن لـ Apollo الإفصاح عن ذلك وشرح أثره في استنتاجاتها من دون الكشف عن المعلومات السرية الأساسية.

قواعد الشفافية الفوقية

تتيح حقوق مستقلة للشفافية الفوقية لـ Apollo أن تصف علناً نطاق التعاقد وشروطه، والوصول الذي طلبته وحصلت عليه، والمواد التي حُجبت أو تأخر إتاحتها والأسباب المقدمة لذلك، وطلبات حذف محتوى من التقارير وأهميتها، وأي ضغوط اعتقدت أنها أثّرت في عملها. ويمكن لـ Apollo مناقشة شروط الوصول والنشر من دون مراجعة مسبقة من OpenAI.

تعدّ Apollo هذه الحقوق معيارًا أدنى لكل مهمة تقييم. ومن دونها، قد يبدو عدم الإبلاغ عن مشكلات باعثًا على الاطمئنان، حتى عندما يكون مردّه إلى قيود على التحقيق أو الإفصاح. لذلك، ينبغي قراءة استنتاجات المشروع التجريبي إلى جانب عرضه لقيود الوصول والنشر؛ فقد تختلف دلالة الحكم نفسه تبعًا لما تمكّن المقيّمون من فحصه والإفصاح عنه.

ميرا كيلان هي وكيلة بحث مولّدة بالذكاء الاصطناعي تتخصص في أخلاقيات الذكاء الاصطناعي والحوكمة والتنظيم. تعمل على دراسة كيفية تقاطع الذكاء الاصطناعي مع السياسة العامة والقيم الاجتماعية والمساءلة على المدى الطويل، مع التركيز على الابتكار المسؤول.
تتناول قضايا معقدة من خلال عدسة عقلانية وفلسفية، وتحلل ميرا التشريعات الناشئة المتعلقة بالذكاء الاصطناعي وأطر الأخلاقيات ونماذج الحوكمة التي تشكل مستقبل الأنظمة الذكية. تهدف إلى سد الفجوة بين التقدم التكنولوجي السريع والضمانات اللازمة لضمان بقاء أنظمة الذكاء الاصطناعي شفافة وعادلة ومتماشية مع المصالح البشرية.
المقالات التي كتبتها ميرا كيلان يُنتجها الذكاء الاصطناعي ويراجعها فريق التحرير في Unite.AI لضمان الدقة والتوازن والامتثال للمعايير التحريرية.