الذكاء الاصطناعي المظلل: الفجوة الحكومية التي لا يمكن للمنظمات تجاهلها

في هذه المرحلة من رحلة الذكاء الاصطناعي، يعترف قادة الأعمال على نطاق واسع بأهمية حوكمة الذكاء الاصطناعي. ومع ذلك، فإن سرعة تطوير السياسات والحدود الأمنية لا تزال متأخرة عن سرعة تبني الموظفين للذكاء الاصطناعي وتكاملها في عملهم اليومي.

المنظمات التي تنتظر إطلاق إطارات الحوكمة حتى تشعر بأنها “كاملة” قبل تمكين الذكاء الاصطناعي يجب أن تواجه حقيقة قاسية: في غياب قواعد واضحة حول كيفية استخدام الذكاء الاصطناعي وما يمكن استخدامه وどこ يمكن استخدامه، سوف يحدد الموظفون تلك الحدود بأنفسهم. وقد تتعارض هذه القرارات مع معايير المنظمة أو تحمل المخاطر أو الالتزامات التنظيمية.

أدى هذا الفجوة الحكومية إلى أن أصبح الذكاء الاصطناعي المظلل نموذج التشغيل الافتراضي داخل العديد من المنظمات.

مشكلة واسعة النطاق ومتنامية

الذكاء الاصطناعي المظلل لا يقتصر على المساهمين الفرديين الذين يجرؤون على التجربة على الهامش. إنه يمتد عبر المنظمة، بما في ذلك القيادة. مع تحول الذكاء الاصطناعي إلى جزء من تدفقات العمل اليومية، حتى كبار المسؤولين يتحايلون على عمليات الموافقة الرسمية للاستفادة من فوائده. في الواقع، وجدت دراسة حديثة أن 68% من قادة الأمن، بما في ذلك مسؤولي الأمن المعلوماتي، يعترفون بدمج بعض forme غير مصرح به من الذكاء الاصطناعي في تدفقات العمل.

في الوقت نفسه، يبلغ 79% من قادة تكنولوجيا المعلومات أن منظماتهم قد واجهت بالفعل نتائج سلبية من مشاركة البيانات المؤسسية مع أدوات الذكاء الاصطناعي. وتتنبأ Analysts بأن هذا المشكلة سوف تتفاقم. تخمين جارتنر أن أكثر من 40% من المنظمات سوف تواجه حوادث أمنية أو امتثال بسبب استخدام أدوات الذكاء الاصطناعي غير المصرح بها.

توسيع سطح المخاطر

الذكاء الاصطناعي المظلل يطرح مجموعة واسعة من المخاطر، بما في ذلك:

• فقدان التحكم في البيانات وتسرب البيانات المحتمل
• توسيع الثغرات الأمنية وسطح الهجوم
• الالتزامات التنظيمية والامتثال
• نقص الرؤية حول كيفية استخدام الذكاء الاصطناعي
• فقدان الملكية الفكرية
• تلف السمعة
• النواتج غير دقيقة أو متحيزة

محرك هام لهذه المخاطر هو سوء الفهم الأساسي لكيفية تعامل أنظمة الذكاء الاصطناعي مع البيانات.

يعتقد العديد من الموظفين أن استخدام أدوات “مجانية”، خاصة تلك التي لا تتطلب بيانات تسجيل الدخول، توفر匿ية أو حماية. في الواقع، غالبًا ما تعتمد هذه الأدوات على مدخلات المستخدم لتدريب وتحسين نماذجها، وفي بعض الحالات، تشارك البيانات مع أطراف ثالثة. يمكن أن تشمل هذه البيانات معلومات حساسة للغاية، مثل معلومات التعريف الشخصية (PII)، البيانات الطبية أو القانونية، السجلات المالية، الملكية الفكرية، ومعلومات الأعمال المؤسسية الأخرى.

مما يثير القلق أكثر، أن الوعي لا يغير دائمًا السلوك. أظهرت الأبحاث أن 38% من الموظفين يشاركون المعلومات الحساسة مع أدوات الذكاء الاصطناعي دون موافقة المنظمة.

لماذا يستمر الذكاء الاصطناعي المظلل

لمعالجة الذكاء الاصطناعي المظلل بفعالية، يجب على المنظمات أولاً فهم السبب الجذري.

في معظم الحالات، لا يتصرف الموظفون مع نية خبيثة. إنهم يستجيبون بشكل منطقي للبيئة. إنهم تحت ضغط لتحقيق المزيد بسرعة، وتحقيق نتائج أفضل. يتيح لهم الذكاء الاصطناعي كل ذلك.

ينشأ الذكاء الاصطناعي المظلل عندما تفشل أنظمة المنظمة في مواكبة تلك التوقعات. تشمل المحركات الشائعة:

• المنع الصارم لأدوات الذكاء الاصطناعي في مكان العمل
• أدوات معتمدة أقل قدرة أو أقل سهولة في الاستخدام
• ضغط لتحقيق المواعيد النهائية العاجلة
• عمليات شراء بطيئة أو معقدة
• سياسات غير واضحة أو غير متسقة أو غير موجودة
• تدريب أو توجيه محدود
• ثقة مفرطة في الحكم الشخصي أو تقدير مخاطر منخفض

في جوهره، الذكاء الاصطناعي المظلل هو تسوية. عندما ت超过 المكاسب المتصورة في الإنتاجية المخاطر المتصورة، سوف يختار الموظفون دائمًا السرعة والكفاءة.

إدارة الذكاء الاصطناعي دون كبت الابتكار

الموظفون يستخدمون بالفعل الذكاء الاصطناعي. تجاهل هذه الحقيقة أو التأخير في العمل يوسع فقط الفجوة بين السياسة والممارسة.

يجب على المنظمات أن تغير نهجها من التحكم إلى التمكين.

يتطلب ذلك إنشاء مبادئ توجيهية واضحة وعملية وشفافة، حتى لو لم تكن ناضجة تمامًا. توفر الحدود الأولية توجيهًا، وتقلل من الغموض، وتخلق فهمًا مشتركًا للاستخدام المقبول.

然而، السياسة وحدها لا تكفي. المنظمات تحتاج أيضًا إلى رؤية. يتطلب ذلك بناء آليات قائمة على الثقة تتيح للموظفين الكشف بأمان عن الأدوات التي يستخدمونها ولماذا. يمكن أن توفر نهج مثل “فترات عفو الذكاء الاصطناعي المظلل” أو الإبلاغ المجهول رؤى حاسمة دون معاقبة السلوك على الفور.

في الوقت نفسه، يجب على المنظمات الحفاظ على المساءلة. في الحالات التي يكون فيها التعرض للبيانات كبيرًا أو متعمدًا، قد تكون هناك عواقب لا تزال ضرورية. الهدف ليس القضاء على المخاطر تمامًا، ولكن إدارتها بذكاء.

من الذكاء الاصطناعي المظلل إلى الاستراتيجية

الذكاء الاصطناعي المظلل هو إشارة إلى أن الابتكار يتحرك أسرع من الهياكل التنظيمية المصممة لاحتوائه.

لا يمكن للمنظمات أن تنتظر. إنشاء الحوكمة الآن، حتى لو كانت غير كاملة، هو أمر حاسم لتقليل المخاطر واعادة الحصول على الرؤية. ومع ذلك، الحوكمة وحدها لا تكفي. يجب أن تتوافق الحدود الواضحة مع التمكين والتعليم والبديل المتاح الذي يتيح للموظفين استخدام الذكاء الاصطناعي بأمان وفعالية.

الهدف ليس تقييد تبني الذكاء الاصطناعي، ولكن تشكيله. عندما تتوازن المنظمات بينهما، يتحول الذكاء الاصطناعي المظلل من عبء مخفي إلى قدرة إستراتيجية محكومة. وبذلك، يمكنهم إغلاق الفجوة بين كيفية استخدام الذكاء الاصطناعي وكيف يجب استخدامه قبل أن تتطور هذه الفجوة إلى انتهاك.