الذكاء الاصطناعي已经 داخل مؤسستك. إذا لم تكن تحميه، فأنت متأخر

سواء كنت قد نفذت رسميًا الذكاء الاصطناعي عبر مؤسستك أو لا، فإنه موجود بالفعل. الموظفون يستخدمون ChatGPT لكتابة الوثائق، ومن المحتمل أنهم يرفعون بيانات حساسة إلى أدوات على الإنترنت لتسريع التحليل، ويتكئون على أدوات مولدة لتقصير كل شيء من الرمز إلى خدمة العملاء. الذكاء الاصطناعي يحدث معك أو بدونك، وهذا يجب أن يبقيه في عقل مسؤولي الأمن.

تسبب انتشار أدوات الذكاء الاصطناعي غير المعتمدة عبر جميع الإدارات في خلق طبقة جديدة سريعة النمو من تكنولوجيا المعلومات الظل. إنها متกระصة، غير مرئية في الغالب، ومليئة بالمخاطر. من انتهاكات الامتثال إلى تسرب البيانات وصنع القرار غير القابل للتسلسل، فإن عواقب تجاهل هذه الموجة من استخدام الذكاء الاصطناعي هي حقيقية. ومع ذلك، لا يزال العديد من الشركات تعتقد أنها يمكن أن تمنعها بالسياسات أو جدران الحماية.

الحقيقة هي أن الذكاء الاصطناعي لا يمكن حظره. يمكن فقط تأمينه. وأسرع ما تقبل الشركات ذلك، أسرع ما يمكنهم البدء في إغلاق الفجوات الخطيرة التي فتحها الذكاء الاصطناعي بالفعل.

الذكاء الاصطناعي يخترق المنظمات، وهو نقطة عمياء أمنية

لقد رأينا هذا النمط من قبل. اتخذت تبني السحابة قفزة في أوائل عام 2010 بالضبط بهذه الطريقة، مع فرق تمد يديها إلى أدوات تساعدهم على التحرك بشكل أسرع، غالبًا بدون موافقة فريق الأمن. حاول العديد من فرق الأمن مقاومة التغيير، فقط ليتم إجبارهم على التنظيف التفاعلي بمجرد حدوث انتهاكات أو سوء تكوين أو انتهاكات الامتثال.

اليوم، يحدث نفس الشيء مع الذكاء الاصطناعي. وفقًا لتقرير حالة أمن الذكاء الاصطناعي لعام 2024، يستخدم أكثر من نصف المنظمات الذكاء الاصطناعي لتطوير تطبيقات مخصصة، ومع ذلك فإن قلة منهم لديهم رؤية لماذا تعيش تلك النماذج، وكيف يتم تكوينها، أو ما إذا كانت تكشف عن بيانات حساسة.

هذا يخلق مخاطرين:

1. الموظفون الذين يستخدمون أدوات عامة للوصول إلى بيانات ملكية أو حساسة، مما يخضع تلك المعلومات لأنظمة خارجية بدون إشراف.
2. الفرق الداخلية التي تنشر نماذج الذكاء الاصطناعي بدون ضوابط أمنية كافية، مما يؤدي إلى ثغرات يمكن استغلالها وممارسات سيئة قد تفشل في الاختبارات.

الذكاء الاصطناعي الظل ليس فقط قضية أمنية، بل يمكن أن يكون أزمة حوكمة. إذا لم تكن قادرًا على رؤية أين يتم استخدام الذكاء الاصطناعي، فلا يمكنك إدارة كيفية تدريبه، أو ما البيانات التي يصل إليها، أو ما الإخراج الذي ينتجه. وإذا لم تكن تتبع قرارات الذكاء الاصطناعي، فستفقد القدرة على تفسيرها أو الدفاع عنها، مما يتركك مفتوحًا للخطر التنظيمي أو التسمعة أو التشغيلي.

لماذا تفتقر الأدوات الأمنية التقليدية

معظم أدوات الأمن لم تُبنَ لتتعامل مع الذكاء الاصطناعي. لا تعرف المعرفات الفنية للنماذج، ولا يمكنها مسح مسارات البيانات المحددة للذكاء الاصطناعي، ولا تعرف كيف تتبع تفاعلات النماذج اللغة الكبيرة أو تفرض حوكمة النماذج. حتى الأدوات التي توجد تميل إلى التركيز على قطع ضيقة من اللغز، مما يترك المنظمات في حالة تقلب للحلول النقطية بدون صورة متسقة.

هذا مشكلة. أمن الذكاء الاصطناعي لا يمكن أن يكون فكرة ثانوية أو ملحقة. يجب أن يكون جزءًا من طريقة إدارة بيئة السحابة، وحماية بياناتك، وتنظيم خطوط أنابيب DevSecOps. خلاف ذلك، فإنك تقلل من مدى مركزية الذكاء الاصطناعي في عملياتك، وتفتقد الفرصة لتأمينه كجزء أساسي من بنية مؤسستك.

يجب أن تنتهي أسطورة “حظره فقط”

من الم