قادة الفكر

لماذا تفشل حوكمة الذكاء الاصطناعي

Sitaram Srivatsavai
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيجب أن تكون الحوكمة كودًا يُنشر ويمكنه إفشال بناء لحماية الإنتاج.
عرض المزيد
  • يجب أن تكون الحوكمة كودًا يُنشر ويمكنه إفشال بناء لحماية الإنتاج.
  • فقط 10% من الشركات يمكنها تدقيق أنظمة الذكاء الاصطناعي بينما أفادت 92% أن الذكاء الاصطناعي التوليدي غيّر مشاركة البيانات.
  • يجب أن تكون الأدلة ناتجًا ثانويًا تلقائيًا للبنية التحتية وليس طقوس امتثال يدوية تُلحق لاحقًا.

المشكلة ليست أن المنظمات لا تملك سياسات ذكاء اصطناعي. بل أن تلك السياسات لا تفعل شيئا في الواقع.

في مكان ما بين ملف PDF المنسّق بعناية والنموذج المنشور، تتبخر النية. ترتجل الفرق. الاستثناءات تتراكم. الحوكمة تتدهور من نظام إلى مفاوضة — وفي الصناعات المنظمة مثل الرعاية الصحية والعلوم الحياتية، هذه الفجوة ليست مجرد أمر محرج، بل مصدر مخاطر تشغيلية.

الحل ليس في مزيد من الوثائق. بل في معاملة الحوكمة مثل البرمجيات.

فجوة الحوكمة قابلة للقياس بالفعل

تسارع تبني الذكاء الاصطناعي بشكل كبير بينما لم تتمكن بنية الحوكمة من مواكبة ذلك. وجدت دراسة أجرتها إرنست ويونغ في سبتمبر 2025 أن فقط 10٪ من الشركات هي مستعدة تماما لتدقيق أنظمة الذكاء الاصطناعي. في الوقت نفسه، وجدت دراسة جديدة من بونيمون أن 92٪ من المنظمات تقول إن الذكاء الاصطناعي التوليدي غير كيفية وصول الموظفين ومشاركتهم للمعلومات، ومع ذلك فقط 18٪ دمجت حوكمة الذكاء الاصطناعي بشكل كامل في برامج إدارة المخاطر الداخلية.

النمط متسق: الذكاء الاصطناعي أصبح جزءاً من العمل اليومي. الإشراف لا يزال يحاول اللحاق بالركب. وكلما بقيت الحوكمة في صورة وثائق، اتسعت هذه الفجوة.

حوكمة تُطبّق فعلياً

المفهوم بسيط بشكل مخادع: إذا لم يكن بالإمكان جعل عملية بناء البرمجيات تفشل عند عدم استيفاء متطلب للحوكمة، فلن يستطيع ذلك المتطلب حماية بيئة الإنتاج.

الحوكمة الحقيقية لها مدخلات ومخرجات ونقاط تنفيذ ونَتائج مُلاحَظة. تعمل بشكل مستمر — وليس كل ثلاثة أشهر. ومن المهم، أنها تنتج أدلة كمنتج ثانوي للعمل، وليس كطقوس امتثال منفصلة تُثبّت في وقت لاحق.

نموذج التشغيل يبدو هكذا:

السياسة → الضوابط → الأدلة → المقاييس

تحدد السياسات النية. تفرض الضوابط السلوك. تثبت الأدلة التنفيذ. وتتحقق المقاييس من النتائج. هذه ليست فكرة جديدة — فهي بالضبط كيف تعمل أنظمة الأمان والامتثال الناضجة بالفعل. التغيير هو تطبيق نفس المنطق على الذكاء الاصطناعي.

الضوابط ليست اقتراحات، والأدلة ليست مجرد وثائق. وإذا كان أحد الضوابط يتطلب جهداً يدوياً لإنتاج الأدلة، فليس ضبطاً حقيقياً، بل مجرد أمل.

درجات المخاطر، وليس مسرح المخاطر

ليس كل نظام ذكاء اصطناعي يستحق نفس مستوى التدقيق. معاملة أداة داخلية منخفضة المخاطر بالصرامة نفسها التي يُعامل بها نموذج دعم القرار السريري تؤدي بالمنظمات إلى التوقف أو التعرض لمخاطر غير ضرورية.

إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST (إطار إدارة مخاطر الذكاء الاصطناعي) في عام 2023، يوفر هيكلا أساسيا للتفكير في هذا — بتنظيم مخاطر الذكاء الاصطناعي ضمن أربع وظائف: Govern وMap وMeasure وManage. نموذج حوكمة المؤسسة الوظيفية يبني على هذا المنطق مع درجات مخاطر عملية:

الدرجة النطاق الضوابط
الحد الأدنى أدوات داخلية، بدون بيانات حساسة التسجيل، الفحص الخفيف
المحدود أنظمة موجّهة للمستخدمين، مخاطر معتدلة التوثيق، مراجعة الموجّهات، الاختبار الأمني
المرتفع قرارات خاضعة للتنظيم أو ذات تأثير كبير التقييم الرسمي للمخاطر، سجلات التدقيق، الرقابة الصارمة على التغييرات
الممنوع استخدامات غير مقبولة حجب في التصميم والتشغيل

ماذا يعطيه هذا لفريق الهندسة هو شيء نادر الحصول عليه من عمليات الحوكمة: الوضوح. ليس “ماذا يجب أن نفعل؟” ولكن “أي درجة هذا، وماذا يُفعّل ذلك؟”

الحوكمة الجيدة تُزيل الغموض. الحوكمة العظيمة تُزيل المناقشة.

السياسة كشيفرة برمجية: من الإرشاد إلى التنفيذ

السياسات المكتوبة في الوثائق هي إرشادية. السياسات المُرمّزة في مسارات التطوير هي قابلة للتنفيذ.

بالطريقة نفسها التي يتم بها التحقق من البنية قبل النشر، يمكن حجب أنظمة الذكاء الاصطناعي بواسطة فحص آلي يتحقق مما إذا كانت حالة الاستخدام مسجلة، وما إذا كانت الوثائق المطلوبة موجودة، وما إذا كانت نتائج التقييم تُلبّي العتبات المحددة، وما إذا كان الوصول إلى البيانات الحساسة يتبع مبدأ الحد الأدنى من الصلاحيات. هذه الفحوصات تُجرى في CI/CD. لا تنتظر لجنة. لا تعتمد على ذاكرة أي شخص أو حسن نيته.

Open Policy Agent — وهو مشروع بلغ مستوى graduated لدى Cloud Native Computing Foundation — يُظهر بالضبط كيف يمكن إدارة إصدارات القواعد ومراجعتها وتنفيذها بشكل متسق عبر بيئات التطوير الهندسي. هذا النمط مفهوم بالفعل، لكن الفجوة تكمن في أن فرق الذكاء الاصطناعي لا تطبقه.

النظام الأكثر أماناً ليس الذي لديه أفضل السياسات. بل هو النظام الذي لا يمكنه كسرها تقنياً.

ضوابط محددة للنموذج اللغوي الكبير: حيث يصبح الأمر مثيراً للاهتمام

يُقدّم الذكاء الاصطناعي التوليدي فئة من المخاطر التي لم يتم تصميم أطر الحوكمة التقليدية لها — حقن الموجّهات، والتلاعب بالمخرجات، وإساءة استخدام الأدوات. هذه ليست حالات حافة. بل هي خصائص هيكلية لكيفية عمل النماذج اللغوية الكبيرة، كما لاحظت تغطية Unite.AI حول حوكمة الذكاء الاصطناعي القائم على الوكلاء، تصبح فجوة الحوكمة أكثر وضوحاً عندما تتحرك أنظمة الذكاء الاصطناعي من الإجابة على الأسئلة إلى اتخاذ الإجراءات.

الحوكمة الفعالة لأنظمة الذكاء الاصطناعي التوليدي تتطلب ضوابط مُصممة خصيصاً لسلوك النماذج اللغوية الكبيرة: فصل صارم بين تعليمات النظام ومدخلات المستخدم، وصول مضبوط إلى الأدوات وقوائم السماح، وتحقق الإخراج قبل التنفيذ، وحماية ضد سرقة البيانات، وإعدادات افتراضية آمنة للتعامل المنضبط مع الإخفاق.

هذه تُطابق مباشرة الفئات المعروفة من الثغرات الأمنية في OWASP Top 10 للنماذج اللغوية الكبيرة – إطار عمل مُدار من قبل المجتمع يغطي الآن أكثر من 600 خبير مساهم من 18 دولة. حوكمة النماذج اللغوية الكبيرة تتعلق بما يسمح النظام للنموذج بفعله أكثر مما تتعلق بما يعرفه.

الأدلة هي البنية التحتية، وليست الأوراق

المُدققون لا يثقون في النية. يثقون في السجلات.

في نظام تُطبّق فيه الحوكمة فعلياً، تُنتج الأدلة تلقائياً: بطاقات النماذج تصف الاستخدام المقصود والقيود، ووثائق البيانات تغطي الأصل، وتقارير التقييم تُظهر الأداء والمخاطر المعروفة، والسجلات التي تُسجل القرارات والتغييرات. هذه الملفات لا تُوجَد لأجل التدقيق. بل تُوجَد لأن النظام يحتاجها للعمل. [1]

الموقع الأقوى للتدقيق هو عندما تُوجَد الأدلة بالفعل قبل أن يطلبها أي شخص. هذا ليس نظرياً — المنظمون ينتقلون بالفعل في هذا الاتجاه. كما لاحظت التحليلات الحديثة حول حوكمة الذكاء الاصطناعي القابلة للدفاع عنها، الأسئلة التي سيسألها المنظمون قريباً لن تكون فقط “هل احتفظت بها؟” ولكن “هل يمكنك إثبات ما حدث، تحت أي سياسة، باستخدام أي بيانات، وبأي سلطة؟”

الجدال الحقيقي: الحوكمة كعامل مسرّع

الأسطورة الدائمة هي أن الحوكمة والسرعة في تناقض. في الواقع، الحوكمة السيئة تُبطئ الفرق. الحوكمة الجيدة تُزيل الاحتكاك.

عندما تكون الضوابط معيارية، والفحوصات أوتوماتيكية، والتوقعات مقننة، تتوقف الفرق عن التفاوض وتبدأ في البناء. تصبح الإصدارات أكثر قابلية للتوقّع. القرارات تتوقف عن الحاجة إلى بطولات من مجموعة صغيرة من المتخصصين الذين حفظوا وثائق السياسة.

تتوسع الحوكمة عندما تكون بنية تحتية، ولا تتوسع عندما تقوم على الانطباعات وحدها.

لم يكن الهدف قط فرض الرقابة لذاتها. بل هو الزخم بدون الفوضى – والمنظمات التي تحصل على هذا بشكل صحيح ليست تلك التي لديها وثائق PDF الأكثر شمولاً. بل هي التي جعلت السلوك الصحيح أسهل طريق. [1] [2]

سيتارام سريفاستافاي هو قائد فكري في هندسة إدارة علاقات العملاء مع أكثر من 18 عامًا عبر منصات إدارة علاقات العملاء وآي أو إس والويب. يقود فرقًا عالمية لتسليم برامج مؤسسية على نطاق واسع، مع التركيز على استعراض الهياكل، وتحديث التأتمتة، وضمان الموثوقية والامتثال التنظيمي والأداء القابل للتوسيع.