لماذا تفشل حوكمة الذكاء الاصطناعي

المشكلة ليست أن المنظمات لا تملك سياسات ذكاء اصطناعي. بل أن تلك السياسات لا تفعل شيئا في الواقع.

في مكان ما بين المستند المنسق والنموذج المُستخدم، تتبخر النية. الفرق تختلق. الاستثناءات تتراكم. الحوكمة تتدهور من نظام إلى مفاوضة — وفي الصناعات المنظمة مثل الرعاية الصحية والعلوم الحياتية، هذا الفجوة ليس فقط محرج. إنه مسؤولية تشغيلية.

الحل ليس في مزيد من الوثائق. بل في معاملة الحوكمة مثل البرمجيات.

فجوة الحوكمة قابلة للقياس بالفعل

تسارع تبني الذكاء الاصطناعي بشكل كبير بينما لم تتمكن بنية الحوكمة من مواكبة ذلك. وجدت دراسة أجريت في سبتمبر 2025 بواسطة إرنست ويونغ أن فقط 10٪ من الشركات هي مستعدة تماما لتدقيق أنظمة الذكاء الاصطناعي. في الوقت نفسه، وجدت دراسة جديدة من بونيمون أن 92٪ من المنظمات تقول إن الذكاء الاصطناعي التوليدي غير كيفية وصول الموظفين ومشاركتهم للمعلومات، ومع ذلك فقط 18٪ دمجت حوكمة الذكاء الاصطناعي بشكل كامل في برامج مخاطر الداخل.

النمط متسق: الذكاء الاصطناعي已经 متضمّن في العمل اليومي. الإشراف لا يزال في طريقته.

حوكمة قابلة للشحن

المفهوم بسيط بشكل مخادع: إذا كان متطلب الحوكمة لا يمكن أن يفشل في عملية البناء، فإنه لا يمكن حمايته في الإنتاج.

الحوكمة الحقيقية لها مدخلات ومخرجات ونقاط تنفيذ ونَتائج مُلاحَظة. تعمل بشكل مستمر — وليس كل ثلاثة أشهر. ومن المهم، أنها تنتج أدلة كمنتج ثانوي للعمل، وليس كطقوس امتثال منفصلة تُثبّت في وقت لاحق.

نموذج التشغيل يبدو هكذا:

السياسة → الضوابط → الأدلة → المقاييس

تحدد السياسات النية. تفرض السيطرة السلوك. تثبت الأدلة التنفيذ. تُثبّت النَتائج. هذه ليست فكرة جديدة — فهي بالضبط كيف تعمل أنظمة الأمان والامتثال الناضجة بالفعل. التغيير يتم تطبيق نفس المنطق على الذكاء الاصطناعي.

السيطرة ليست مقترحات. الأدلة ليست وثائق. وإذا كانت السيطرة تتطلب جهداً يدوياً لإنتاج أدلة، فهي ليست سيطرة. إنها أمل.

درجات المخاطر، وليس مسرح المخاطر

ليس كل نظام ذكاء اصطناعي يستحق نفس مستوى التدقيق. معاملة أداة داخلية منخفضة المخاطر بنفس القسوة التي تُعامَل بها نظام دعم إ决定 سريري هو ما يُؤدّي به المنظمات إلى التوقف أو التعرض بشكل غير ضروري.

إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST في عام 2023، يوفر هيكلا أساسيا للتفكير في هذا — بخطوط مخاطر الذكاء الاصطناعي عبر أربعة وظائف: الحوكمة، الخريطة، القياس، والإدارة. نموذج حوكمة المؤسسة الوظيفية يبني على هذا المنطق مع درجات مخاطر عملية:

ماذا يعطيه هذا لفريق الهندسة هو شيء نادر الحصول عليه من عمليات الحوكمة: الوضوح. ليس “ماذا يجب أن نفعل؟” ولكن “أي درجة هذا، وماذا يُفعّل ذلك؟”

الحوكمة الجيدة تُزيل الغموض. الحوكمة العظيمة تُزيل المناقشة.

السياسة كبرنامج: من الإرشادي إلى القابل للتنفيذ

السياسات المكتوبة في الوثائق هي إرشادية. السياسات المُشفرة في الأنابيب هي قابلة للتنفيذ.

بالطريقة نفسها التي يتم بها التحقق من البنية قبل النشر، يمكن حجب أنظمة الذكاء الاصطناعي بواسطة فحص آلي يُثبّت ما إذا كان استخدام الحالة مسجلاً، وما إذا كانت الوثائق المطلوبة موجودة، وما إذا كانت نتائج التقييم تُلبّي العتبات المحددة، وما إذا كان الوصول إلى البيانات الحساسة يتبع مبدأ الامتياز الأدنى. هذه الفحوصات تُجرى في CI/CD. لا تنتظر لجنة. لا تعتمد على ذاكرة أو نيّة أي شخص.

وكيل السياسة المفتوح — مشروع مؤسسة الحوسبة السحابية الأصلية — يُظهر بالضبط كيف يمكن إصدار القواعد ومراجعتها وتنفيذها بشكل متسق عبر أنظمة الهندسة.

النظام الأكثر أماناً ليس الذي لديه أفضل السياسات. بل هو النظام الذي لا يمكنه كسرها تقنياً.

ضوابط محددة للنموذج اللغوي الكبير: حيث يصبح الأمر مثيراً للاهتمام

يُقدّم الذكاء الاصطناعي التوليدي فئة من المخاطر التي لم يتم تصميم الإطارات الحوكمة التقليدية لها — حقن البرمجة، وتصريف الإخراج، وإساءة استخدام الأدوات. هذه ليست حالات حافة. بل هي خصائص هيكلية لكيفية عمل النماذج اللغوية الكبيرة، كما لاحظت تغطية Unite.AI لتنظيم الذكاء الاصطناعي، يُصبح فجوة الحوكمة أكثر وضوحاً عندما تتحرك أنظمة الذكاء الاصطناعي من الإجابة على الأسئلة إلى اتخاذ الإجراءات.

الحوكمة الفعالة لأنظمة الذكاء الاصطناعي التوليدي تتطلب ضوابط مُصممة خصيصاً لسلوك النماذج اللغوية الكبيرة: فصل صارم بين تعليمات النظام ومدخلات المستخدم، وصول آمن للأدوات وقوائم السماح، وتحقق الإخراج قبل التنفيذ، وحماية ضد سرقة البيانات، وإعدادات افتراضية آمنة لفشل لطيف.

هذه تُطابق مباشرة الفئات المعروفة من الثغرات الأمنية في OWASP Top 10 للنماذج اللغوية الكبيرة – إطار عمل مُدار من قبل المجتمع يغطي الآن أكثر من 600 خبير مساهم من 18 دولة. حوكمة النماذج اللغوية الكبيرة هي أقل ما تعرفه النماذج واكثر ما يسمحها النظام بفعله.

الأدلة هي البنية التحتية، وليست الأوراق

المُدققون لا يثقون في النية. يثقون في السجلات.

في نظام حيث يتم شحن الحوكمة، تُنتج الأدلة تلقائياً: بطاقات النماذج تصف الاستخدام المقصود والقيود، ووثائق البيانات تغطي الأصل، وتقارير التقييم تُظهر الأداء والمخاطر المعروفة، والسجلات التي تُسجل القرارات والتغييرات. هذه الملفات لا تُوجَد لأجل التدقيق. بل تُوجَد لأن النظام يحتاجها للعمل.

الموقع الأقوى للتدقيق هو عندما تُوجَد الأدلة بالفعل قبل أن يطلبها أي شخص. هذا ليس نظرياً — المنظمون ينتقلون بالفعل في هذا الاتجاه. كما لاحظت التحليلات الحديثة حول حوكمة الذكاء الاصطناعي القابلة للدفاع، الأسئلة التي سيسألها المنظمون قريباً لن تكون فقط “هل احتفظت بها؟” ولكن “هل يمكنك إثبات ما حدث، تحت أي سياسة، باستخدام أي بيانات، وبأي سلطة؟”

الجدال الحقيقي: الحوكمة كعامل مسرّع

الأسطورة الدائمة هي أن الحوكمة والسرعة في تناقض. في الواقع، الحوكمة السيئة تُبطئ الفرق. الحوكمة الجيدة تُزيل الاحتكاك.

عندما تكون الضوابط معيارية، والفحوصات أوتوماتيكية، والتوقعات مُحددة، ي停止 الفرق عن التفاوض ويتحرك إلى البناء. تصبح الإصدارات أكثر قابلية للتوقّع. القرارات تتوقف عن الحاجة إلى بطولات من مجموعة صغيرة من المتخصصين الذين حفظوا وثائق السياسة.

الحوكمة تُوسّع عندما تكون بنية تحتية. لا تُوسّع عندما تكون أجواء.

الهدف لم يكن السيطرة من أجلها. بل هو الزخم بدون الفوضى – والمنظمات التي تحصل على هذا بشكل صحيح ليست تلك التي لديها وثائق PDF الأكثر شمولاً. بل هي التي جعلت السلوك الصحيح أسهل طريق.