قادة الفكر
كيف يجب على الشركات التعامل مع أعباء تطبيقات الذكاء الاصطناعي؟
أضف Unite.AI إلى مصادرك المفضلة على Google
الحوسبة غير الشخصية
لم تكن التطورات التكنولوجية مدفوعة بالرغبة في جعل الحوسبة أكثر سهولة ويسرًا. من الهواتف الذكية إلى أجهزة التابلت واللابتوبات والتكنولوجيا القابلة للارتداء، هناك اتجاه عام لجعل أجهزة الكمبيوتر وقدراتها أكثر شخصيًا. فكر في التسميات المستخدمة في ركائز الصناعة: “الكمبيوتر الشخصي” أو الكمبيوتر، و “أي” بود، باد، فون، وغيرها. كل هذه الأجهزة مصممة لتعمل كرفيق شخصي للمستخدم، وتساعد في简ification تجربة المستخدم الرقمية، وبالتالي حياتهم.
تطوير الذكاء الاصطناعي – خاصة النماذج اللغوية الكبيرة (LLM) والحلول الوكيلية – يتقدم بشكل رئيسي في نفس الاتجاه. مثل الكمبيوتر الشخصي والآيفون، أدوات الذكاء الاصطناعي مثل ChatGPT جعلت أنشطة الحوسبة مثل البحث والتعديل والتفكير الإبداعي أكثر سهولة للجمهور العام. لكن مع زيادة سهولة الوصول، زادت أيضًا المخاطر.
سواء كان ذلك من خلال موصلات ملوثة أو فهرسة محركات البحث غير مقصودة، فإن التهديدات لاستخدام الذكاء الاصطناعي بشكل خاص تصبح أكثر صعوبة في الحماية. أضف إلى ذلك عدم اليقين حول من يستخدم أدوات ما، وستواجه الشركات عاصفة كامنة من التهديدات المتزايدة والحماية غير الكافية. بالنظر إلى وعد أدوات الذكاء الاصطناعي وعدم اليقين حول كيفية حمايتها، ماذا تفعل شركة تقنية متقدمة؟
نمو تطبيقات الذكاء الاصطناعي غير المصرح بها
مع أكثر من 700 مليون مستخدم يومي في عام 2025، نمت استخدام ChatGPT أكثر من 4 مرات عن العام السابق. ومع ذلك، فإن فقط خمسة ملايين من هؤلاء المستخدمين هم عملاء أعمال يدفعون. هذا يجعل الباقي – حوالي 695 مليون مستخدم – مستخدمين شخصيين أو مستخدمين أعمال غير مصرح لهم. يبدو هذا الرقم كبيرًا حتى تذكر أن ChatGPT ليس الحل الوحيد للذكاء الاصطناعي في السوق. في الواقع، إنه بعيد عن ذلك – الانفجار الحديث للذكاء الاصطناعي وتقنيات التعلم الآلي أنتج مئات الآلاف من النماذج والحلول الجديدة، العامة والخاصة.
للسياق التجاري، أدى نمو حلول الذكاء الاصطناعي إلى ظهور بعد جديد من منظور التهديدات السيبرانية يُعرف باسم “الذكاء الاصطناعي المظلم”. مثل ظاهرة “التكنولوجيا المظلمة”، هذا المفهوم يعتمد على استخدام الموظفين لحلول الذكاء الاصطناعي دون موافقة ومصادقة المنظمة مسبقًا. هذا يypass جميع الإشراف الأمني، مما يؤدي إلى سيناريوهات حيث قد يستخدم الموظفون حلولًا محتملة الخطرة أو غير آمنة للعمل الحساس.
استخدام الذكاء الاصطناعي المظلم شائع ومتنامي. وجد تقرير أن أكثر من 320 تطبيقًا للذكاء الاصطناعي غير المصرح به يتم استخدامها في المتوسط لكل مؤسسة. كل واحد من هذه التطبيقات غير المصرح بها، واستخدامها من قبل الموظفين، يوسع من منظور التهديدات أكثر.
المخاطر الكامنة لأعباء الذكاء الاصطناعي
التحديات المرتبطة بأعباء الذكاء الاصطناعي متعددة ومتزايدة. بعضها، مثل التسمم البيانات، وحقن البرمجة، وتمثيل النماذج، وجمع البيانات، هي معروفة جيدًا. هذه المحاولات المباشرة للاستغلال والخداع يمكن أن تمكن الجهات الخبيثة من الوصول إلى بيانات المؤسسة الحساسة والأنظمة الداخلية. بالنظر إلى هذا الخطر، بدأت المؤسسات في اتخاذ إجراءات لحماية نفسها ضد هذه الهجمات.
لكن الشركات يمكنها فقط حماية نفسها من التهديدات التي تعرفها. فكر في حماية قلعة قديمة. الأسوار، وأبراج المراقبة، والبوابات، والخنادق، وغيرها تساعد في حماية القلعة من الأعداء الخارجيين والغزاة. لكن ماذا لو كان طاقم المطبخ يمتلك ممرًا سريًا يypass الجدران الخارجية؟ أو حارس فمثقلة يتحدث عن تغييرات الواجبات في الحانة المحلية؟ أي من هذه التهديدات غير المعروفة يمكن أن تساعد اللصوص في تجاوز الأمان واختراق الجدران الداخلية.
الذكاء الاصطناعي المظلم له نفس التأثير على أمان البيانات للمؤسسة. حتى استخدام حلول الذكاء الاصطناعي المظلم بنية حسنة يمكن أن يؤدي إلى كارثة لحماية البيانات الحساسة، حيث يمكن لأي حل غير آمن أن يخدم كبوابة للجهات الخبيثة. أي استخدام للنماذج اللغوية الكبيرة يزيد من خطر مشاكل مثل الاحتفاظ بالبيانات، وحقن البرمجة، أو انحياز النموذج، كل ذلك يتطلب إجراءات أمنية ذات صلة. هذا يزيد من مخاطر انتهاكات البيانات، وانتهاكات الامتثال، وأعطال تشغيلية، والتي غالبًا ما يتم اكتشافها بعد حدوث الضرر بالفعل.
تأسيس السيطرة على حلول الذكاء الاصطناعي
مع استمرار نمو استخدام الذكاء الاصطناعي على كل من المستويين الشخصي والمؤسسي، من المهم أن تقوم المنظمات بتأسيس السيطرة على هذه الحلول قبل أن ينمو الاستخدام إلى ما وراء سيطرتها. حماية الذكاء الاصطناعي للمؤسسة وحماية ضد مخاطر الذكاء الاصطناعي المظلم تتضمن:
- الحصول على رؤية شاملة. كما ذكرنا، لا يمكنك حماية بياناتك ضد التهديدات التي لا تعرفها. الأمان يبدأ بالرصد عبر جميع حلول الذكاء الاصطناعي التي يستخدمها موظفوك – المصرح بها وغير المصرح بها. هذا أسهل قيلًا من فعله، لكن حلول وسيط أمان الوصول إلى السحابة (CASB) يمكن أن تساعد في تأسيس رؤية مستمرة لاستخدام التطبيقات من قبل الموظفين.
- إجراء تقييمات مخاطر شاملة. يجب على الفرق إجراء جهود إدارة المخاطر الثالثة لضمان تقييم جميع حلول الذكاء الاصطناعي من حيث الأمان والمخاطر المحتملة. يجب أن تمتد هذه الجهود أيضًا إلى مستوى الطرف الرابع، حيث بدأت التطبيقات المصرح بها مثل منصات إدارة العلاقات مع العملاء ومنصات الإنتاجية في دمج قدرات النماذج اللغوية الكبيرة الخارجية في منصاتها. يجب على هذه الحلول الخارجية الامتثال لمعايير الأمان نفسها مثل أي تطبيق مصرح به داخليًا.
- تأسيس إطارات الحوكمة. مع هذا الرصد الشامل والفهم لحلولهم، يمكن للمنظمات تطوير وتنفيذ إطارات سياسة حوكمة متسقة للذكاء الاصطناعي عبر نظام تطبيقاتها. مثل وصول البيانات، يمكن أن تساعد سياسات الحوكمة هذه في التحكم في أنواع حلول الذكاء الاصطناعي التي يمكن للموظفين الوصول إليها، والمعلومات التي يمكنهم مشاركتها معها، وشفافية استخدامهم اليومي.
- تأتمة اكتشاف المخاطر. نمو حلول الذكاء الاصطناعي بشكل أسي يجعل اكتشاف المخاطر والاستجابة اليدوية قريبة من المستحيل. يمكن أن تساعد تأتمة هذه العمليات بناءً على سياسات الحوكمة وسلوك المستخدم المتوقع في تحديد الشذوذ بشكل استباقي وتقليل تأثيرها الأمني الأوسع.
- شرح التوقعات للموظفين. الجزء الأكثر أهمية في تبني الذكاء الاصطناعي الآمن هو موظفوك. تقديم التدريب الكافي ووضع التوقعات الواضحة سيساعد في منع استخدام الذكاء الاصطناعي المخاطر وفي نفس الوقت تعزيز استخدام الحلول المصرح بها والمحميّة بشكل آمن.
استدامة تبني الذكاء الاصطناعي الآمن
من خلال تأسيس هذه الإجراءات الأمنية الاستباقية، تكتسب الشركات رؤية أكثر شمولية لطرق استخدامها لحلول الذكاء الاصطناعي – سواء كانت مصرحًا بها أو في “الظلال”. هذا له تأثير فوري على الأمان، حيث تساعد الفرق في تحديد المخاطر والتهديدات الحالية والعمل على معالجتها.
然而، يؤدي ذلك أيضًا إلى تحقيق نجاح مستدام في الذكاء الاصطناعي. من خلال إنشاء الأساس الفني لتبني الذكاء الاصطناعي الآمن وثقافة أمنية أولية بين مستخدمي الذكاء الاصطناعي، يساعد هذا النهج المتعدد في إنشاء نموذج مستدام لمستقبل أدوات الذكاء الاصطناعي. مع الدعم الفني والتدريب الكافي، يمكن للموظفين استغلال فوائد الذكاء الاصطناعي دون أن يتحملوا المخاطر الكامنة.
المنظمات التي تقوم بهذه التغييرات في وقت مبكر بدلاً من التأخير ستكون أفضل استعدادًا لمواجهة مستقبل حلول الذكاء الاصطناعي، مهما كان. القيام بالعمل في البداية لإنشاء أساس قوي – بدلاً من مجرد السعي لتحقيق علامة التبويب لتبني الذكاء الاصطناعي – سوف يضع الفرق في أفضل موقع ممكن لتحقيق نجاح مستدام مدفوع بالذكاء الاصطناعي.
