لا يمكن لبرامج الذكاء الاصطناعي إصلاح الأسس الأمنية المعطلة

يحazor برامج الذكاء الاصطناعي الرؤية والتحليل والاتخاذ القرارات، ولكن فعاليتها مقيدة بجودة البيئة الأساسية

“هل يستخدم الذكاء الاصطناعي؟” أصبح السؤال الافتراضي في محادثات المنتجات الأمنية، التي يطرحها قادة الأمن ويتكرر في كل عرض بائع.

المشكلة هي أن هذا السؤال خاطئ. استخدام المنتج للذكاء الاصطناعي لا يعني أنه سيساعد في تعزيز وضع الأمن في المنظمة. الذكاء الاصطناعي ليس علاجاً لجميع مشاكل الأمن. قيمته تعتمد على كيفية تطبيقه، والتي تبدأ بتحديد المشكلة التي تريد حلها بوضوح.

السؤال الأفضل هو: “ما هو الفجوة الأمنية المحددة التي نحاول إغلاقها، وهل تكنولوجيا الذكاء الاصطناعي تساعد فعلاً في إغلاقها؟”

ما الذي يفعل الذكاء الاصطناعي جيداً

يحazor برامج الذكاء الاصطناعي القيمة في الأمن عبر ثلاثة مجالات رئيسية. أولاً، يملأ الفجوات في البيانات. فرق الأمن تسحب البيانات من عشرات المصادر، بما في ذلك قوائم الأصول القديمة، وأنظمة الهوية التي لا تحوز على جميع العلاقات الوصول، وبيانات الاتصالات التي تفوت بعض حركة المرور. يمكن للذكاء الاصطناعي استنتاج السياق من مجموعات البيانات غير الكاملة لإنشاء صورة أكثر اكتمالاً للأصول والهويات والاتصالات وسلوك الحمل.

يحazor برامج الذكاء الاصطناعي التحليل على نطاق واسع. مشكلة الإشارة إلى الضوضاء في عمليات الأمن حادة وتزداد سوءاً. يمكن للذكاء الاصطناعي ربط الأحداث عبر مصادر بيانات متعددة، ورفع الإنذارات التي تستحق الانتباه، وضغط الضوضاء منخفضة الأولوية خارج مجال رؤية المحلل. هذا هو المكان الذي ركزت فيه معظم بائعين الأمن استثماراتهم في الذكاء الاصطناعي. تقضي فرق الأمن أقل وقتاً في التriage الإنذارات منخفضة القيمة وأكثر الوقت في الأنشطة التي تتطلب الحكم البشري.

ثالثاً، بمجرد أن يحazor الذكاء الاصطناعي البيانات وتحليل الإشارات، يمكنه توجيه الإجراء بالتوصية بالخطوة التالية، مثل تغيير السياسة الذي سيخفف من المخاطر، أو الإجراء الاستجابي الذي يناسب النمط السلوكي، أو مكان التغيير في التكوين.

يحazor برامج الذكاء الاصطناعي القيمة عندما يحazor السياق والتحليل والاتخاذ القرارات. يُحسن الممارسات الأمنية القوية، لكنه لا يمكنه تعويض النقص في الممارسات.

لماذا تفشل الأسس الضعيفة

يحazor برامج الذكاء الاصطناعي بمقدار ما يتم تغذيته. تلك المدخلات (على سبيل المثال، البيانات، الهندسة المعمارية، السياسات، والضوابط والأدوات الحالية) تحدد حدود ما يمكن للذكاء الاصطناعي القيام به. حدة تلك المدخلات، وسيتم إنتاج نتائج حادة. إضعافها، وسيتم تدهور الإخراج.

بدون السياق لتحديد غياب، لا يمكن للذكاء الاصطناعي الإبلاغ عنه. لن يأخذ على عاتقه فحص البيئة وتحديد ما هو مفقود. لن يخبر فريق الأمن بأن الشبكة تفتقر إلى التجزئة الكافية، أو أن ضوابط الوصول واسعة جداً، أو أن فجوات الرؤية تترك مقاطع كاملة من البيئة غير مراقبة.

لا يهرب الذكاء الاصطناعي من مبدأ جودة البيانات القديم، “القمامة داخل، القمامة خارج،” بل يؤكده. إنتاج بيانات ضعيفة يؤدي إلى تحليل ضعيف. ضوابط معيبة تعطي للذكاء الاصطناعي شيئاً لتحسينه في الاتجاه الخاطئ. الرؤية غير كاملة تعني أن القرارات تتخذ من صورة جزئية، والذكاء الاصطناعي يأخذ تلك القرارات بشكل أسرع، وليس أكثر دقة. السرعة ليست تحسناً عندما تكون المعلومات الأساسية غير موثوقة.

ذلك هو السبب في أن جودة الأساس مهمة قبل أي قدرة على الذكاء الاصطناعي. الأساس القوي يتضمن ضوابط الهوية والوصول التي تفرض حدود معنوية، وأقل امتياز عبر المستخدمين، والتحميلات، والتطبيقات، والبيانات، والتجزئة لتقييد الحركة الجانبية، والرؤية الشاملة عبر البيئة. كما يتطلب ذلك بيانات موثوقة وفهماً واضحاً لطريقة الاتصال بين الأنظمة والاعتماد المتبادل.

لا شيء من هذا جديد. هذه هي نفس الانضباطات التي ناقشها فرق الأمن لسنوات، من التحول إلى الهاتف المحمول إلى الانتقال إلى السحابة. ما تغير هو تكلفة الإهمال. يمكن للذكاء الاصطناعي تعزيز الأساس الأمني القوي، لكنه لا يمكنه استبدال واحد.

يغير الذكاء الاصطناعي العامل معادلة المخاطر

الانتقال ليس من لا شيء إلى الذكاء الاصطناعي، بل من الذكاء الاصطناعي المساعد إلى الذكاء الاصطناعي الفاعل. يحazor الذكاء الاصطناعي التрадиعي البيانات، ويرفع الإشارات، ويوفر التوصيات. يمكن للذكاء الاصطناعي الفاعل تنفيذ الإجراءات عبر الأنظمة والبيانات والعمليات دون انتظار قرار بشري.

فكر في الأمر بهذه الطريقة: نشر 100 وكلاء ذكاء اصطناعي خلال ليلة واحدة يعادل بشكل فعال توظيف 100 موظف جديد لا يغادرون أبداً، يعملون بسرعة الآلة، ولديهم الوصول إلى أي نظام يسمح لهم به. لكن على عكس الموظفين البشر، لا يتوقف هؤلاء الوكلاء، ولا يطرحون أسئلة، ولا يطبقون الحكم حول متى يجب استخدام هذا الوصول. يقومون بتنفيذ الإجراءات بشكل مستمر، ويتحركون عبر الأنظمة، ويتفاعلون مع التطبيقات بالضبط كما هو مسموح لهم.

تتضاعف المخاطر عندما يخصص المنظمة لموظف وكلاء نفس ملف الوصول مثل مستخدم معين، يخلقون نسخة، وليس وكيل مفيد. هذه النسخة لها نفس الأذونات الواسعة مثل الأصل، وتعمل بشكل مستمر، ويمكن أن تعرض المنظمة للمخاطر نفسها سواء كان سلوكها خبيثاً أو مجرد خلل.

في عصر الذكاء الاصطناعي، أصبحت الهوية، وضوابط الوصول، وأقل امتياز، والتجزئة، والرؤية الشاملة متطلبات أمنية أساسية. وتؤكد ورقة حديثة من Cloud Security Alliance briefing التي تم تطويرها مع SANS و OWASP Gen AI Security Project، وجماعة من المتخصصين، أن الذكاء الاصطناعي الفاعل لا يجعل هذه الأسس قديمة. بل يجعلها لا تقبل المساومة.

ما هو شكل الأمن الجاهز للذكاء الاصطناعي

يعامل جاهزية الذكاء الاصطناعي كسؤال شراء، ويركز على أدوات الذكاء الاصطناعي التي سيتم تنفيذها، ي忽ن حقيقة أن جاهزية الذكاء الاصطناعي هي مسألة هندسة، وحوكمة، وضوابط. السؤال ليس أي أدوات تشتريها، بل هل سيدعم البيئة تشغيل الذكاء الاصطناعي بأمان.

ابداً بالرؤية. قبل نشر أي قدرة على الذكاء الاصطناعي، يحتاج فريق الأمن إلى صورة واضحة لما يوجد في البيئة: الأصول، والتحميلات، والهويات، والتطبيقات، والبيانات، والنمذجة، والوكلاء، والاتصالات الخارجية. هذا الجرد ليس شيئاً يمكن للذكاء الاصطناعي بناءه من أجلك. إنه النقطة التي يحتاجها الذكاء الاصطناعي ليفعل أي شيء مفيد.

ثم حدد المشكلة. حدد الفجوة في الضوابط أو المخاطر المحددة. قرر النتيجة التي تحتاج إلى تحسينها. ثم اسأل نفسك إذا كان الذكاء الاصطناعي يمكنه مساعدتك في إغلاق هذه الفجوة بشكل أفضل من النهج الأخرى. المنظمات التي عكسات هذا الترتيب من خلال البدء بأداة ذكاء اصطناعي ثم البحث عن مشكلة لتطبيقها عليها تميل إلى توليد نشاط دون تحسين الأمن.

تطبيق مبادئ الثقة الصفرية على وكلاء الذكاء الاصطناعي هو حيث يصبح هذا تشغيلاً. الغريزة غالباً ما تكون تحديد ما لا يجب على الوكلاء فعله، لكن هذه القائمة ستكون دائماً غير كاملة. نهج أكثر موثوقية هو أن تكون واضحاً حول ما يمكن للوكيل القيام به، وإعطائه الوصول فقط إلى المهمة المحددة، وفرض تلك الحدود عبر كل طبقة من الطبقات. قم بتجزئة الأنظمة التي يمكن للوكلاء الوصول إليها بحيث إذا سلوك واحد يخرج عن حدوده المحددة أو يستغلها مهاجم، فإن الضرر يبقى محتوى.

أخيراً، زيادة في النشاط ليست معياراً للنجاح. سيزيد الذكاء الاصطناعي من حجم الإجراءات التي يتخذها فريق الأمن، لكن ذلك لا يعني أنه يحسن الأمن. لوحة تحكم تعرض الكثير من النشاط لا تعني أن الذكاء الاصطناعي يقدم قيمة.

قس النتائج، مثل ما إذا كانت حجم الإنذارات يتراجع بطرق تعكس إشارة حقيقية، ومستوى المخاطر يتراجع بشكل أسرع في المجالات التي تهم أكثر. تأكد من أن التوصيات السياسية تعزز الضوابط، وتسمح لفريق الأمن باحتواء الحوادث بشكل أسرع، وتسمح لمحللين SOC بإنفاق المزيد من الوقت في العمل الذي يتطلب الحكم البشري.

تأتي الأساس أولاً

الذكاء الاصطناعي ليس الأساس لموقف أمني قوي. إنه مضاعف قوة، ومثل أي مضاعف، قيمته تعتمد كلياً على ما تطبقه عليه.

المنظمات التي بنت بنية تحتية صلبة مع رؤية واضحة، وامتياز أقل، وتجزئة، وضوابط هوية قوية، يمكنها استخدام الذكاء الاصطناعي لتحسين السياق، وتسريع التحليل، والعمل على معلومات أفضل. أولئك الذين لم يفعلوا ذلك سيجدون أن الذكاء الاصطناعي يحركهم بشكل أسرع في الاتجاه الخاطئ، ويحسن الضوابط المعيبة، ويرفع الإشارات من صورة غير كاملة.

السؤال الذي يجب طرحه قبل اتخاذ أي استثمار في الذكاء الاصطناعي هو نفس السؤال الذي يجب أن يدفع كل قرار أمني: ما هي المشكلة التي نحاول حلها؟ إذا كان الجواب واضحاً، والهندسة المعمارية لدعمه موجودة، فإن الذكاء الاصطناعي يمكن أن يجعل الحل أكثر فعالية. إذا كان الجواب غامضاً أو الأساس ضعيف، فإن إضافة الذكاء الاصطناعي لن يغير ذلك. سوف يجعل فقط الفجوة أكثر صعوبة في الرؤية.

الذكاء الاصطناعي لن يصلح الأساس المعطل. سوف يجعل فقط الشقوق أكثر وضوحاً.