سياسة واحدة وآلاف الوكلاء: لماذا تتعثر حوكمة الذكاء الاصطناعي في المؤسسات عند التوسع؟

تركّز جانب كبير من النقاش حول تبنّي وكلاء الذكاء الاصطناعي المستقلين على الحوكمة بوصفها تحديًا محوريًا، وهذا أمر مبرر. توقعت Gartner مؤخرًا أن 40% من المؤسسات ستقلّص استخدام وكلائها المستقلين للذكاء الاصطناعي أو توقفها بحلول عام 2027، لا بسبب إخفاق التقنية، بل بسبب إخفاق حوكمتها. ووفقًا لـShiva Varma، المحلل ومدير أول في Gartner، تكمن المشكلة في «الحوكمة الثنائية»: التعامل مع الوكلاء إما بفرض قيود كاملة عليهم وإما بمنحهم ثقة مطلقة، من دون أي خيار بينهما.

تميل مؤسسات كثيرة حاليًا إما إلى فرض حظر تام على أدوات الذكاء الاصطناعي، وإما إلى نشر وكلاء من دون ضوابط كافية. ولا ينجح أي من النهجين عند التوسع. فحتى عندما يحظر قسم تقنية المعلومات أدوات الذكاء الاصطناعي الخارجية، يظل استخدام الذكاء الاصطناعي الخفي قائمًا. ومن الطبيعي أن يرغب المطورون في البناء وحل المشكلات؛ فإذا بدت الحوكمة مفرطة في البيروقراطية، سيتجاوزون الضوابط ويستخدمون أدوات غير مختبرة لمواصلة العمل. وعلى النقيض، فإن قصور الضوابط يعرّض المؤسسات لمخاطر أمنية ومخاطر تتعلق بالامتثال والتشغيل، تتفاقم بمرور الوقت. 

يكمن التحدي في أن وكلاء الذكاء الاصطناعي لا يمكن إخضاعهم لحوكمة موحدة باتباع نهج ثابت يصلح للجميع.  فقد أوشك عهد الحوكمة الموحدة على الانتهاء، لأن مستويات المخاطر في هذه الأنظمة ليست متطابقة؛ فهي تختلف من حيث البرمجيات التي تقوم عليها، وقدراتها، ومستويات صلاحيات الوصول، ودرجات استقلاليتها. ولن ينجح تطبيق ضوابط ثابتة من العصر الصناعي على برمجيات تعمل بسرعة الآلات.  وستعتمد الحوكمة الفعالة على فهم المؤسسات لسلسلة توريد البرمجيات التي يقوم عليها كل وكيل، ومواءمة الضوابط مع المخاطر التي يطرحها.  

حوكمة بيئات تطوير البرمجيات الوكيلة

تعني السيطرة الفعلية إدارة جميع مكونات البرمجيات التي يتكون منها الوكيل بفاعلية. وتظن فرق كثيرة، عن طريق الخطأ، أن هذه الوكلاء «موثوقة ويمكن الاعتماد عليها»، متغافلةً عن المكونات المعتادة التي تؤثر في وظائفها وأمنها. 

يتكون كل وكيل مستقل للذكاء الاصطناعي من بنية تقنية مألوفة: نموذج أساسي، وخوادم MCP (بروتوكول سياق النموذج) التي توصله ببيانات الشركة والأنظمة الخارجية، وإضافات توسّع قدراته، وملفات مهارات تحدد سلوكه. وينبغي لقادة تقنية المعلومات أن يضعوا في اعتبارهم ما يلي: 

• وكلاء الذكاء الاصطناعي منظومات برمجية: فهم يعتمدون على إعداد قياسي يشمل النماذج وMCPs والأدوات والإضافات والمهارات والبرمجيات مفتوحة المصدر.
• قد تنطوي خوادم MCP على مخاطر: فهي تربط الوكلاء ببيانات الشركة، ويمكن تنزيلها مثل أي برنامج آخر. وإذا لم تخضع للفحص، فقد تتيح للقراصنة اختراق نظامك. فعلى سبيل المثال، تسلّط أبحاث JFrog الأمنية الحديثة الضوء على مخاطر سلسلة توريد البرمجيات هذه تحديدًا في mcp-run-python، ومنها ثغرة تزوير الطلبات من جانب الخادم (SSRF) (CVE-2026-25904) و ثغرة ناجمة عن انعدام العزل (CVE-2026-25905)، وقد تؤدي إلى الاستيلاء الكامل على MCP.
• قد تزيد الإضافات من المخاطر: تحتاج الوكلاء المختلفة إلى إضافات مختلفة (فمثلًا، لا تعمل إضافة OpenAI مع Microsoft Copilot)، ما يعني أن الشركات غالبًا ما تضطر إلى التعامل مع إصدارات متعددة، وقد تؤدي إضافة واحدة خبيثة إلى سرقة معلومات حساسة.
• تحدد المهارات سلوك الوكيل: تخبر ملفات التعليمات هذه الوكيل بكيفية العمل. ولأن المطورين يحصلون عليها من مصادر مجتمعية، فقد يغيّر ملف مهارات تعرّض للعبث طريقة عمل الوكيل من دون أن يُلاحَظ ذلك.
• مخاطر البرمجيات مفتوحة المصدر: تعتمد الوظائف التي توفرها الحلول المبنية باستخدام البرمجة الوكيلة على الاستفادة من الملفات الثنائية مفتوحة المصدر لتقديم هذه الوظائف. وقد تستعين وكلاء البرمجة بحزم ضارة بدلًا من الحزم الآمنة بالسهولة نفسها، من دون إدراك المخاطر.
• الوضوح أساسي: لا تعلم فرق كثيرة بوجود هذه المشكلات، ما يجعل وكلاءها عرضة بشدة للمخاطر. ولا تزال المؤسسات تدير تبعيات البرمجيات على أساس الثقة بدلًا من إخضاعها لفحوص دقيقة.

دور النظام المرجعي في حوكمة الذكاء الاصطناعي بفاعلية

لا يمكن الفوز بسباق نشر وكلاء الذكاء الاصطناعي في المؤسسات بعقلية الأمس. ففرض سلاسل موافقات يدوية مرهقة وموحدة على كل سير عمل يعيق الابتكار، بينما يؤدي ترك الوكلاء من دون مراقبة إلى مخاطر لا داعي لها.

لتوسيع نطاق استخدام الذكاء الاصطناعي بأمان، ينبغي للمؤسسات اعتماد نهج متعدد الطبقات لحوكمة مكونات البرمجيات وتأمينها، بما فيها الحزم والملفات الثنائية وMCPs والمهارات والتبعيات. ومن خلال إنشاء نظام مرجعي، تستطيع المؤسسات انتقاء جميع المكونات المستخدمة، وفحص كل شيء قبل الاستخدام، وفرض السياسات في الوقت المناسب من دورة حياة التطوير، مع الحفاظ على القدرة على التراجع فورًا. وهكذا، عندما يُكشف عن الثغرة التالية، يمكن معرفة ما إذا كنا معرضين لها خلال دقائق لا أيام.

لكن وكلاء الذكاء الاصطناعي يوسّعون سطح الهجوم ويجعلونه أسرع تطورًا بكثير. فالوكلاء ذوو الاستقلالية العالية قادرون على اتخاذ مئات القرارات في الدقيقة، وتنفيذ سلسلة من استدعاءات الأدوات، والوصول إلى البيانات، وتشغيل الشيفرات بسرعة تفوق قدرة ضوابط الاستقبال التقليدية على مواكبتها. ومع أن المراجعات المسبقة وإجراءات الموافقة ما زالت تؤدي دورًا مهمًا، فإنها لا تكفي وحدها لتأمين الأنظمة التي تعمل بسرعة الآلات.

تتطلب هذه الوكلاء تطبيق ضوابط ديناميكية أثناء التشغيل، مع القدرة على رصد السلوك الشاذ فور وقوعه والتدخل قبل اتساع نطاق الضرر. ويمكن تشبيه ذلك بقاطع الدائرة الكهربائية: إلغاء صلاحية الوصول إلى مهارة مخترقة، أو فصل سياق بيانات غير موثوق به، أو حظر استدعاء أداة بعينها فور حدوث خلل.

تجاوز نهج «مقاس واحد يناسب الجميع»

الحوكمة الجامدة والموحدة طريق مضمون إلى الفشل. والفرصة المتاحة لاستباق هذه المشكلة تضيق، كما يتراكم عبء الحوكمة مع تسارع نشر الوكلاء. لذا، إليكم أربع خطوات يمكن لقادة الأمن والهندسة اتخاذها الآن لتعزيز أنظمتهم المؤسسية:

1. أحصوا ما يعمل بالفعل. لا تستطيع معظم المؤسسات حصر وكلاء الذكاء الاصطناعي العاملين فيها حصرًا كاملًا، فضلًا عن خوادم MCP والإضافات وملفات المهارات التي تشغّلهم. وقبل تقييم المخاطر أو حوكمة أي شيء، لا بد من معرفة ما هو موجود.
2. تعاملوا مع مكونات الذكاء الاصطناعي بوصفها مُخرجات برمجية. خوادم MCP وملفات المهارات والإضافات ليست إعدادات، بل شيفرات برمجية تنطوي على مخاطر سلسلة التوريد نفسها التي تنطوي عليها أي تبعية مفتوحة المصدر. طبّقوا عليها إجراءات التدقيق والفحص وتتبع المصدر نفسها التي تطبقونها على أي مكتبة تابعة لطرف ثالث.
3. صنّفوا الوكلاء بحسب مستوى استقلاليتهم، واضبطوا الضوابط بما يتناسب معه. حدّدوا ما تعنيه «الاستقلالية العالية» لمؤسستكم، وأنشئوا إطار سياسات متعدد المستويات يستند إلى هذا التعريف. يحتاج الوكلاء ذوو الاستقلالية العالية إلى ضوابط تُطبّق أثناء التشغيل، لا إلى فحوصات الاستقبال وحدها. ابدأوا بأكثر أنظمتكم حساسية، ثم وسّعوا نطاق العمل تدريجيًا.
4. اجعلوا الحوكمة سريعة بما يكفي كيلا يلتف المطورون، سواء أكانوا بشريين أم يعملون عبر الوكلاء، على إجراءاتها. الذكاء الاصطناعي الخفي مشكلة ناجمة عن عوائق الإجراءات. فإذا استغرق اعتماد خادم MCP جديد أسبوعين، فسيجد المطورون طريقة أخرى. والفحص الآلي المصحوب بتطبيق واضح للسياسات هو النموذج الوحيد القابل للتوسع بالسرعة الفعلية لتطور الذكاء الاصطناعي.

تصبح الحوكمة أكثر فاعلية بكثير حين تراعي المخاطر الفعلية التي يمثلها كل وكيل، بدلًا من التعامل معها جميعًا بالطريقة نفسها. وستكون المؤسسات الأقدر على التقدم هي تلك التي توائم الحوكمة مع واقع كل وكيل، مستندةً إلى نظام مرجعي يفرض السياسات عند كل نقطة اتصال، ويوفر رؤية واضحة لكل مكوّن، ويتيح للفرق الاستجابة فور حدوث أي خلل.