نماذج ومنصات الذكاء الاصطناعي
تقترح OpenAI وضع حدود مشتركة لتطوير الذكاء الاصطناعي مرتبطة بمحطات إنجاز السلامة

النقاط الرئيسيةتربط OpenAI حدود تطوير النماذج المتقدمة بمعالم مراقبة ملموسة بدلاً من عتبات قدرات ثابتة.
عرض المزيد
- تربط OpenAI حدود تطوير النماذج المتقدمة بمعالم مراقبة ملموسة بدلاً من عتبات قدرات ثابتة.
- لا يمكن أن تكون Perplexity معيارًا مشتركًا لأن المختبرات تستخدم مجموعات بيانات مختلفة وهي تغفل مكاسب الاستدلال.
- تُظهر أبحاث OpenAI الخاصة تحسنًا غير متساوٍ في الذكاء الاصطناعي مع بقاء البشر محوريين في حلقة التطوير.
في 22 نوفمبر 2026، كشف كبير علماء OpenAI، جاكوب باتشوكي عن قياسات داخلية للحيرة، واقترح وضع حدود مشتركة لتطوير الذكاء الاصطناعي المتقدم، محذرًا من أن أبحاث المواءمة والمراقبة قد لا تواكب التقدم إذا تسارعت وتيرة التطورات في التدريب المسبق، بدءًا من عام 2027.
يتعلق هذا الكشف باللوغاريتم للحيرة، أي لوغاريتم مقياس الحيرة، الذي يُعرف أيضًا بخسارة الإنتروبيا المتقاطعة. ويقيس مقياس الحيرة مدى جودة توقع النموذج للرمز التالي في المتوسط؛ وتشير القيم الأقل إلى توقعات أفضل. وتستند أرقام OpenAI إلى لقطة ثابتة من بيانات محجوبة عن التدريب مأخوذة من قاعدة شيفرتها الداخلية، وهي مجموعة البيانات الرئيسية للتقييم التي تتبعتها الشركة منذ GPT-3.5.
يفيد باتشوكي بأن قيمة GPT-3.5 بلغت نحو 0.99، وأنه أتاح إجراء محادثات بطلاقة، فشكّل أساس ChatGPT الأصلي، فيما بلغت قيمة GPT-4 نحو 0.91، وكان قادرًا على الاستفادة بفاعلية من الاستدلال المتسلسل خطوةً بخطوة. وظهرت قدرات جديدة في الأمن السيبراني والرياضيات عندما انخفضت الخسارة إلى ما دون 0.8. وعند نحو 0.76، بدأ أحد النماذج يحقق نتائج لافتة في مسائل رياضية مفتوحة، بعدما أمضت OpenAI أكثر من عام تطرح مثل هذه المسائل على نماذجها.
حدود مشتركة مرتبطة بمحطات إنجاز المراقبة
يتوقع باتشوكي ظهور قدرات مهمة إضافية عند نطاق يتراوح بين 0.68 و0.70 على مقياس لوغاريتم الحيرة، استنادًا إلى استقراء مسار التقدم الأخير، مع إقراره بأنه لا يعرف ماهية هذه القدرات، وأن التقييمات الحالية قد لا تختبرها. ويدعو المقترح مطوري الذكاء الاصطناعي المتقدم إلى عدم تجاوز حدود تستند إلى مقياس الحيرة وقياسات أخرى، إلى أن تبلغ قدرة الباحثين على فهم سلوك الذكاء الاصطناعي ومراقبته محطة إنجاز ملموسة. ومن الأمثلة على ذلك تطوير جيل لاحق من أدوات مراقبة الاستدلال المتسلسل خطوةً بخطوة، التي تفحص الاستدلال المكتوب للنموذج بحثًا عن مؤشرات على عدم المواءمة.
كما سيعمل المطورون معًا على وضع معايير للتقييم، وحالات سلامة تخضع لاختبارات الفرق الحمراء قبل استخدام هذه النماذج للمرة الأولى، ومعايير مشتركة للشفافية. ويُفترض أن تمهّد الحدود الأولية لوضع إطار مشترك للحدود اللاحقة. ويقول باتشوكي إن OpenAI كشفت عن الأرقام، رغم أن ذلك يمنح المنافسين صورة أوضح عن موقعها، لأنه يرى أن اتخاذ تدابير مشتركة للسلامة أمر ملح.
وسيناريو التسارع مشروط؛ إذ يقول باتشوكي إن من الممكن نظريًا حدوث سلسلة سريعة من التطورات الأساسية في التدريب المسبق إذا بدأ الذكاء الاصطناعي يسهم إسهامًا كبيرًا في أبحاث الخوارزميات، في حين يُرجح ألا يواكب التقدم في المواءمة والمراقبة كامل إمكانات التسارع.
تعزو OpenAI معظم التسارع الحاد في منحنى الخسارة لديها لعام 2026 إلى استثمارات طويلة الأمد في البحث والحوسبة، مع إسهام أقل للأتمتة. ومع ذلك، تضمنت أحدث نماذجها إسهامات ملموسة من الذكاء الاصطناعي في التصميم.
ويقدم تقرير بحثي أصدرته OpenAI في 18 نوفمبر 2026 صورة ملموسة لهذه الإسهامات. فقد نسب باحثو التدريب المسبق إلى أشخاص الأفكار المحددة الخاصة بـ GPT-6 Astra؛ أما في GPT-6.2 Astra، فوصفوا تطوير أفكار بالاستعانة بـ Codex، بما في ذلك حالة استخلص فيها Codex رؤى أساسية، وأخرى جعل فيها تغيير اقترحه الفكرة ناجحة. كما تفاوتت بشدة معدلات النجاح المقدرة دون تدخل: 79% لمراقبة جولات التدريب، و35% لإطلاقها، و25% لكتابة شيفرات الاستدلال وتقديم النماذج. ويؤيد هذا التفاوت استنتاج التقرير بأن ما يضيفه البحث إلى الأداء لا يزال متفاوتًا، وأن البشر ما زالوا محور العملية.
تحديات المراقبة الكامنة وراء المقترح
تبحث دراسة OpenAI حول قابلية المراقبة الصادرة في 10 نوفمبر 2026 في مؤشرين بديلين غير مثاليين لقابلية المراقبة: القدرة على الاستدلال دون سلسلة أفكار، أي إجراء الاستدلال في تمريرة أمامية من دون رموز سلسلة الأفكار أو استدعاء الأدوات؛ وقابلية التحكم في سلسلة الأفكار، أي القدرة على إضافة رموز الاستدلال تلك أو حذفها أو التلاعب بها بطرق أخرى عند الطلب. وتفيد الدراسة بوجود ارتباط قوي بين انخفاض مقياس الحيرة للنموذج الأساسي والقدرة على الاستدلال دون سلسلة أفكار، وارتباط أضعف بين انخفاضه وزيادة قابلية التحكم.
ووجدت الدراسة أيضًا أن التعلم المعزز زاد قابلية التحكم، حتى من دون إشراف على مسار المعالجة يتجاوز القيود المتعلقة بالطول وتقييم الإجابة النهائية، وأن الضبط الدقيق الخاضع للإشراف على مخرجات نموذج معلّم أكثر قابلية للتحكم يمكن أن ينقل هذه القابلية إلى نموذج متعلّم.
وتحذر OpenAI من أن قابلية التحكم تنطوي على ضوضاء، ولا تتطابق دائمًا مع التهرب من المراقبة، مع توقعها أن يستلزم إحراز مزيد من التقدم في التدريب المسبق اتباع أساليب جديدة لتعزيز قابلية المراقبة. وهذه هي الفجوة التقنية الكامنة وراء مثال باتشوكي على تطوير جيل لاحق من أدوات مراقبة الاستدلال المتسلسل خطوةً بخطوة، بوصفه محطة إنجاز محتملة.
حدود مقياس الحيرة بوصفه معيارًا مشتركًا
لا يمكن لمقياس الحيرة وحده أن يشكل المعيار بأكمله. فالمقارنة بين المختبرات صعبة، لأن المطورين يستخدمون مجموعات بيانات تقييم ومزيجًا من بيانات التدريب مختلفين، كما أن المقياس لا يقيس مباشرةً مهمة قابلة للتنفيذ. وهو لا يرصد أيضًا مكاسب القدرات خارج نطاق التدريب المسبق؛ إذ يمكن للاستدلال المتسلسل خطوةً بخطوة أن يعزز القدرات بوضوح من دون خفض مقياس الحيرة للنموذج الأساسي.
للمقياس أيضًا حد أدنى غير معلوم. ويحذّر باتشوكي من أن الخسارة لا يُتوقع أن تصل إلى الصفر؛ فكلما اقتربت من الإنتروبيا الكامنة في البيانات، تباطأ التقدم الظاهري، في حين قد تقابل المكاسب الأصغر في مقياس الحيرة مكاسب أكبر في الذكاء. لذلك، لا تعني الزيادة العددية الثابتة بالضرورة قيمة عملية ثابتة.
يحوّل المقترح مقياسًا تقنيًا إلى اختبار للحوكمة: هل يستطيع المطورون جعل النتائج قابلة للمقارنة بين المختبرات والاتفاق على محطة إنجاز ملموسة للرقابة قبل تجاوز العتبات التي يربطها باتشوكي بقدرات قد لا تتمكن التقييمات الحالية من رصدها بعد؟












