قادة الفكر
الذكاء الاصطناعي في الظل يكشف إخفاقًا أكبر في حوكمة الذكاء الاصطناعي

النقاط الرئيسيةالذكاء الاصطناعي الخفي يحول الإنتاجية الروتينية إلى مصدر رئيسي لتسرب البيانات والتكاليف.
عرض المزيد
- الذكاء الاصطناعي الخفي يحول الإنتاجية الروتينية إلى مصدر رئيسي لتسرب البيانات والتكاليف.
- السلطة المفوضة في أنظمة الذكاء الاصطناعي تخلق مخاطر جديدة لا يمكن للنماذج التقليدية للداخلين التقاطها.
- تتطلب الحوكمة الفعالة دمج الإشراف على الذكاء الاصطناعي في إدارة المخاطر بدلاً من الاعتماد على الحظر.
لمدة سنوات، تم تعريف المخاطر الناشئة من داخل المؤسسة من خلال أسوأ السيناريوهات: موظفون خبيثون، وبيانات مسروقة، وأضرار اكتُشفت بعد الحادث. كان هذا الإطار دائمًا غير مكتمل. في عصر الذكاء الاصطناعي، أصبح هذا الإطار غير مفيد بصورة متزايدة.
معظم المخاطر الناشئة من داخل المؤسسة لا تبدأ بالخباثة. بل تبدأ بالعمل الروتيني: تلخيص وثيقة، أو الرد على عميل، أو تسريع عملية عمل، أو نشر الشفرة البرمجية بسرعة أكبر. وأكثر فأكثر، هذه القرارات اليومية تتضمن الذكاء الاصطناعي.
هذا هو السبب في أهمية الذكاء الاصطناعي في الظل. بشكل عام، يعرف الذكاء الاصطناعي في الظل بأنه استخدام أدوات الذكاء الاصطناعي أو وكلائه أو عمليات الأتمتة خارج الإشراف المؤسسي المعتمد. في معظم الحالات، لا يحاول الموظفون تجاوز السياسة. بل يحاولون إنجاز عملهم. المشكلة الحقيقية هي أن الحوكمة لم تواكب تغير طبيعة العمل.
هذا هو الفرق الذي أصبح الآن قابلا للقياس. وجدت دراسة جديدة من Ponemon أن 92% من المنظمات تقول إن الذكاء الاصطناعي التوليدي قد غير كيفية وصول الموظفين إلى المعلومات ومشاركتها، ومع ذلك، فقط 18% منهم قاموا بدمج حوكمة الذكاء الاصطناعي بشكل كامل في برامج إدارة المخاطر الناشئة من داخل المؤسسة. الذكاء الاصطناعي بالفعل متجذّر في العمل اليومي. الإشراف لا يزال في طور اللحاق.
الذكاء الاصطناعي في الظل ليس مشكلة واحدة
أحد أكبر الأخطاء التي ترتكبها المنظمات هو معاملة الذكاء الاصطناعي في الظل على أنه خطر موحد. ليس كذلك.
هناك فرق كبير بين استخدام الذكاء الاصطناعي لتلخيص البحوث المتاحة للعامة، ولصق العقود الداخلية في مساعد غير معتمد، والسماح لوكيل الذكاء الاصطناعي بالوصول إلى البيانات أو اتخاذ إجراء عبر أنظمة المؤسسة. يتغير الخطر حسب حساسية البيانات ومستوى الاستقلالية والسلطة الممنوحة للنظام.
هذا هو السبب في أن عمليات الحظر الشاملة نادراً ما تنجح. تميل إلى دفع السلوك إلى خارج النظر دون معالجة الظروف التي جعلت السلوك جذاباً في المقام الأول. ولكن السياسات المفرطة في التساهل لا تنجح أيضا. إذا كان كل شيء مسموحًا به، تصبح الحوكمة مجرد تمرين على الورق.
من الأفضل التمييز بين:
- مساعدة منخفضة الخطر، حيث يدعم الذكاء الاصطناعي العمل الروتيني مع تعرض محدود
- معالجة بيانات عالية المخاطر، حيث يتم إدخال معلومات حساسة أو تحويلها أو مشاركتها، و
- السلطة المفوضة، حيث يتم السماح لأنظمة الذكاء الاصطناعي بالوصول إلى البيانات أو تنسيقها أو اتخاذ إجراء عبر بيئات متصلة.
تعتبر الفئة الأخيرة علامة على التحول الحقيقي.
مع تقدم الذكاء الاصطناعي إلى ما وراء توليد المحتوى إلى الاسترجاع والتنسيق والتنفيذ، يتغير سؤال الأمان. لم يعد السؤال فقط حول ما إذا كان شخص ما يستخدم أداة غير معتمدة. بل يتعلق بالسلطة الممنوحة للنظام، والبيانات التي يمكنه الوصول إليها، وما يسمح له بفعله باستخدام هذا الوصول.
بات وكلاء الذكاء الاصطناعي يحظون بثقة أكبر وأكثر اتصالا وقادرين على العمل بشكل مستقل. هذا هو السبب في أن نماذج المخاطر الناشئة من داخل المؤسسة التقليدية تبدأ في إظهار حدودها.
لماذا يغير الذكاء الاصطناعي في الظل مع السلطة المفوضة نموذج المخاطر
تم بناء معظم نماذج المخاطر الناشئة من داخل المؤسسة لتقييم السلوك البشري: الإهمال، أو الاستخدام الخاطئ، أو الخرق، أو النية الخبيثة. هذه الفئات لا تزال مهمة. لكنها لم تعد تعكس الصورة كاملة.
يصبح هذا واضحاً بشكل خاص في الذكاء الاصطناعي في الظل، حيث لا تكون الأداة أو الوكيل بالضرورة معتمدين أو خاضعين لإدارة مركزية أو حتى مرئيين للمنظمة. في هذه الحالات، لا يتعلق الخطر فقط باستخدام الموظف للذكاء الاصطناعي. بل يتعلق باحتمال استخدامه نظامًا خاضع للتحكم من قبل المستخدم مع وصول أو استقلالية أو تكاملات لا تفهمها المنظمة بشكل كامل.
اليوم، قد يكون للشخص وصول مشروع ويصدر ما يبدو توجيهًا روتينيًا. لكن في سيناريو الذكاء الاصطناعي في الظل، قد يتم نقل هذا التوجيه إلى مساعد غير معتمد أو إضافة أو وكيل أو عملية عمل يمكن أن يأخذها إلى أبعد من ذلك، أو بسرعة أكبر، أو على نطاق أوسع مما قصد المستخدم. هذه هي النتيجة الحقيقية لتفويض السلطة.
يوفر الإنسان القصد أو صلاحية الوصول أو التوجيه. وينفذ نظام الذكاء الاصطناعي بسرعة وعلى نطاق واسع وباستمرار. ويمكنهما معًا تضخيم الأخطاء بطرق لم تُصمم الضوابط التقليدية لاحتوائها.
لا يتعلق القلق بكون أنظمة الذكاء الاصطناعي خبيثة. بل يتعلق بقدرتها على تنفيذ تعليمات معيبة أو تحويل تقدير غير سليم أو مسارات عمل غير آمنة إلى أفعال بسرعة الآلة. وعندما تقع هذه الأنظمة خارج الإشراف المعتمد، قد يكون للمنظمة القليل من الرؤية حول البيانات التي تمسها، أو إلى أين ذهبت هذه البيانات، أو ما الإجراءات التي تم اتخاذها، أو كيفية التدخل عندما يحدث خطأ.
هذا ما يجعل السلطة الممنوحة داخل الذكاء الاصطناعي في الظل مختلفة بشكل جوهري عن استخدام الأدوات غير المعتمدة العادي. لم تعد المشكلة مقصورة على موظف يلصق بيانات حساسة في واجهة خاطئة. بل تمتد إلى أنظمة غير معتمدة تقوم بالبحث عن معلومات، أو ربط المهام، أو الاتصال بتطبيقات المؤسسة، أو اتخاذ إجراءات باسم المستخدم دون الضوابط الوقائية التي تفرضها عادةً بيئة معتمدة.
هذا هو السبب في أن فرق الأمان تحتاج إلى نموذج أكثر دقة للمخاطر الداخلية: واحد يأخذ في الاعتبار ليس فقط السلوك البشري، بل التفاعل بين القصد البشري والتنفيذ الآلي.
تكلفة الذكاء الاصطناعي في الظل مرئية بالفعل
هذا ليس مشكلة مستقبلية. التكاليف بالفعل تظهر في اتجاهات المخاطر الناشئة من داخل المؤسسة الحالية.
وجدت دراسة Ponemon لعام 2026 أن تكاليف المخاطر الناشئة من داخل المؤسسة المرتبطة بالإهمال زادت بنسبة 17% عن العام السابق إلى 10.3 مليون دولار أمريكي، مما ساهم في إجمالي التكلفة السنوية للمخاطر الداخلية البالغ 19.5 مليون دولار أمريكي. ويحدد التقرير الذكاء الاصطناعي في الظل كعامل مساهم رئيسي، مما يحول السلوك العادي للإنتاجية إلى مصدر مستمر لتعرض البيانات.
مواد حساسة يتم إدخالها في أدوات ذكاء اصطناعي عامة أو غير معتمدة. أدوات تدوين الملاحظات بالذكاء الاصطناعي تقوم بتسجيل اجتماعات سرية. أدوات وكلاء تعمل بقدرة محدودة على الرصد عبر بيئات لم يتم تصميمها أبدًا لهذا المستوى من التفاعل المستقل.
هذه ليست عمليات خبيثة عادة. بل هي سلوكيات عمل عادية تنتشر في أنظمة ذات ضوابط وقائية ضعيفة وإشراف غير كامل.
هذا ما يجعل الذكاء الاصطناعي في الظل مهمًا بشكل خاص. لا يقدم فقط فئة جديدة من المخاطر. بل يزيد من حجم وسرعة وتكلفة الإهمال عن طريق جعل الأخطاء الصغيرة أسهل في التكرار وأصعب في الكشف.
لماذا حظر أدوات الذكاء الاصطناعي ليس الجواب
أصبحت أدوات الذكاء الاصطناعي الآن مفيدة جدًا ومتاحة ومتجذرة في العمل اليومي بحيث لا يمكن إدارتها من خلال الحظر فقط. عندما تعتمد المنظمات على عمليات الحظر فقط، غالبًا ما تدفع الاستخدام إلى قنوات أقل وضوحًا.
استجابة أفضل تبدأ بالرؤية. تحتاج فرق الأمان إلى فهم أدوات الذكاء الاصطناعي التي يتم استخدامها، والبيانات التي يتم إدخالها فيها، والنتائج التي يتم توليدها، والأنظمة المسموح لها بالعمل باسم المستخدم.
من المهم أيضًا أن تعكس الحوكمة كيفية حدوث العمل في الواقع — وليس كيف تفترض السياسة أنه يحدث.
هذا يعني نقل حوكمة الذكاء الاصطناعي داخل إدارة المخاطر الناشئة من داخل المؤسسة، بدلاً من معاملتها كمبادرة امتثال منفصلة. إذا كان الموظفون وأنظمة الذكاء الاصطناعي يصلون إلى المعلومات ويحوّلونها وينقلونها، فيجب أن يكونوا داخل نفس نموذج الرؤية والمساءلة والسيطرة.
المنظمات التي تنجح في ذلك لن تكون تلك التي تحظر الأدوات الأكثر. بل ستكون تلك التي يمكنها التمييز بوضوح بين الموضع الذي تنتهي فيه التجربة المسؤولة ويبدأ التعرض الجوهري للمخاطر.
الذكاء الاصطناعي في الظل ليس مشكلة حوكمة عابرة. إنه تحذير مبكر أن العمل قد تغير بشكل أسرع من الإشراف. التحدي الآن ليس في إبطاء الأعمال. بل في تطبيق الانضباط نفسه الذي حسّن إدارة المخاطر الناشئة من داخل المؤسسة إلى واقع تشغيلي جديد — واقع يعمل فيه التقدير البشري والتنفيذ الآلي جنبًا إلى جنب بصورة متزايدة.












