قادة الفكر
الذكاء الاصطناعي مقابل الذكاء الاصطناعي: الواقع الجديد للأمن السيبراني

النقاط الرئيسيةتعمل الهجمات المدعومة بالذكاء الاصطناعي على أتمتة دورة حياة الهجوم بالكامل بسرعة الآلة،…
عرض المزيد
- تعمل الهجمات المدعومة بالذكاء الاصطناعي على أتمتة دورة حياة الهجوم بالكامل بسرعة الآلة، مما يطغى على دفاعات الأمن التقليدية التي يديرها البشر.
- يجب على المؤسسات تعيين هويات وكلاء الذكاء الاصطناعي غير البشرية وتأمينها، حيث تكتسب هذه الأنظمة المستقلة صلاحيات حاسمة للوصول إلى الأعمال.
- يجب على المنظمات تأمين نماذج الذكاء الاصطناعي باستخدام مبادئ التصميم الآمن لمنع تسمم البيانات والتلاعب العدائي.
أصبحت الهجمات السيبرانية المدعومة بالذكاء الاصطناعي واقعًا، لتؤكد خطرًا كان متوقعًا لكنه ظل نظريًا، وتعلن بداية عصر جديد في مشهد التهديدات. ومع قدرة وكلاء الذكاء الاصطناعي الآن على تنفيذ حملات معقدة من بدايتها إلى نهايتها خلال دقائق، يستطيع المجرمون السيبرانيون تحديد ثغرات المؤسسات واستغلالها بسرعة الآلة. لقد تغيرت قواعد الاشتباك؛ فلم تعد دفاعات الأمس قادرة على مواكبة هجمات اليوم المدعومة بالذكاء الاصطناعي.
ومع تعزيز الذكاء الاصطناعي للتهديدات السيبرانية، تحتاج المؤسسات إلى نشر قدراتها الدفاعية المدعومة به لمواكبة السرعة والنطاق والدقة. وما زال الخصوم يستخدمون تكتيكات وتقنيات وإجراءات مألوفة (TTPs)، لكن الذكاء الاصطناعي يسرّع أساليبهم ويطوّرها. كما أصبحت نماذج الذكاء الاصطناعي في المؤسسات نفسها هدفًا جديدًا، عبر تسميم النماذج والهندسة الاجتماعية المعتمدة على اللغة، مما يفرض على فرق الأمن السيبراني حماية قدراتها في هذا المجال على نحو مناسب. لذلك، ينبغي أن يكون الأمن عنصرًا أساسيًا في الاستراتيجية الأشمل للمؤسسة بشأن الذكاء الاصطناعي.
ما الذي يميز الهجمات السيبرانية المدعومة بالذكاء الاصطناعي؟
في عالم رقمي تعجّ به محاولات التسلل السيبراني شبه المتواصلة، انخفض حاجز الدخول أمام الجهات الخبيثة، فازداد حجم الهجمات وتعقيدها معًا. ويمكن للهجمات المدعومة بالذكاء الاصطناعي استخدام الذكاء الاصطناعي أو التعلم الآلي (ML) لأتمتة أي مرحلة من دورة الهجوم وتسريعها أو تعزيزها، بدءًا بالاستطلاع وجمع المعلومات، وصولًا إلى استغلال الثغرات وتسريب البيانات الحساسة.
إن الاعتماد الحصري على العمليات والتقنيات الأمنية القائمة، دون نشر التقنيات المتقدمة نفسها التي يستخدمها الخصوم، يمنحهم أفضلية يكاد يستحيل مجاراتها على نطاق واسع دون ذكاء اصطناعي دفاعي. وتعاني المؤسسات بالفعل من عبء مراقبة بيئاتها في مواجهة جهات التهديد التقليدية. وستفاقم الهجمات المدعومة بالذكاء الاصطناعي إرهاق التنبيهات. لذلك يلزم الانتقال من العمليات التي يديرها البشر إلى قوة عمل سيبرانية هجينة تجمع بين البشر والعناصر الرقمية.
حصر جميع الأصول الرقمية
يُعد فهم نقاط الدخول المحتملة عبر بيئة المؤسسة بأكملها متطلبًا أساسيًا اليوم، لكنه ما زال بعيد المنال لدى مؤسسات كبيرة كثيرة. ولا يقتصر الأمر على الأنظمة والأصول الرقمية؛ بل يتطلب أيضًا حصرًا شاملًا لجميع الهويات وصلاحيات الوصول داخل المؤسسة. والهوية الرقمية، التي تربط الخصائص المادية والسلوكية بالفرد، مفهوم واضح نسبيًا، وتتوافر ضوابط قائمة لإدارة الوصول الرقمي.
لكن فهم مشهد الهويات غير البشرية (NHIs) على مستوى المؤسسة أمر ضروري لحماية الأصول الرقمية. فتحقيق القيمة المحتملة للذكاء الاصطناعي يعني منح وكلائه إمكانية الوصول والإذن بإتمام عملية أعمال بصورة مستقلة. ومثل البيئات السحابية في الحقبة الأمنية السابقة، تنشئ مسارات العمل الحالية القائمة على الوكلاء الهويات غير البشرية وتعطّلها على نطاق واسع. وهذا يتطلب قدرة متقدمة على إدارة مكان عملها داخل البيئة وتتبعه، وفهم كيفية أدائها للمهام أو الأدوار المقصودة.
ينبغي للمؤسسات توسيع حوكمة الهوية لتشمل دورة حياة هوية الوكيل كاملة، ومراقبة أفعاله، مثلما تراقب اليوم وصول المستخدمين البشر لرصد سلوكيات المخاطر الداخلية أو اختراق الحسابات على أيدي جهات التهديد. ومع ازدياد استقلالية الوكلاء وتولّيهم أعمالًا حيوية للمؤسسة، يصبح فهم بصمة هوياتهم وأنماط وصولهم ضروريًا لتطبيق ضوابط الوصول والمراقبة اللازمة لحمايتهم وحماية المؤسسة من إساءة الاستخدام.
إحكام حماية نماذج الذكاء الاصطناعي
تَعِد قدرات الذكاء الاصطناعي بتعزيز الكفاءة والإنتاجية، لكنها قد تُوجَّه أيضًا ضد المؤسسات. ولم يعد إدخال الذكاء الاصطناعي في جميع جوانب الأعمال مجرد ميزة مستحبة، بل أصبح شرطًا للنجاح في البيئة التنافسية الحالية. لذلك فإن نشره بأمان عنصر لازم لتحقيق كامل الإمكانات والنتائج التجارية بصورة آمنة.
ويستمر التحول نحو الدفاع السيبراني المعزز بالذكاء الاصطناعي، بينما أصبحت نماذج الذكاء الاصطناعي نفسها أهدافًا للهجوم. وقد يحاول الخصوم تسميم البيانات التي تغذي هذه النماذج، والتلاعب بها لتنفيذ أفعال غير مقصودة أو حتى كشف معلومات حساسة.
وقد تتخذ الهجمات العدائية على الذكاء الاصطناعي أشكالًا مختلفة، منها هجمات التسميم وحقن التوجيهات وغيرها. ولحماية الذكاء الاصطناعي من التلاعب المحتمل، ينبغي للمؤسسات الاستفادة من فلسفة وكالة الأمن السيبراني وأمن البنية التحتية الأمريكية (CISA) القائمة على الأمن منذ مرحلة التصميم. ويبدأ ذلك بالبيانات التي تُستخدم في تدريب النموذج. فإحكام حماية المدخلات وضبطها مبكرًا في عملية التطوير يرسي الأساس لمخرجات موثوقة عند النشر.
ويمكن فهم المدخلات المستخدمة في تطوير النماذج والقدرات من خلال حوكمة مقصودة للبيانات مع ضبط الوصول إلى النماذج نفسها. وتشمل الضوابط الأساسية للتحقق من المخرجات المطلوبة منع فقدان البيانات (DLP)، وإنفاذ السياسات ومتطلبات السلامة، والاستناد إلى مصادر قابلة للتحقق، وضوابط موافقة صارمة على الأفعال عالية التأثير، وقابلية التدقيق، والاختبارات المستمرة، بما فيها اختبارات اختراق النماذج لتعزيز مقاومتها للهجمات.
دمج الذكاء الاصطناعي في العمليات الأمنية
حتى الآن، كان تطبيق الذكاء الاصطناعي في الدفاع السيبراني تكتيكيًا؛ إذ أضافته مؤسسات كثيرة إلى عمليات قديمة تتمحور حول البشر، بدلًا من إعادة التفكير استراتيجيًا في بناء عمليات تتمحور حول الذكاء الاصطناعي. ويشبه ذلك محاولة تركيب محرك V8 على دراجة هوائية. وستتمثل المرحلة التالية من التمكين بالذكاء الاصطناعي في تصميم العمليات من الصفر، مع دمج الذكاء الاصطناعي القائم على الوكلاء والأتمتة منذ البداية. وتظل أساليب العمليات الأمنية المجربة، مثل كشف التهديدات والبحث الاستباقي عنها وهندسة الكشف، عناصر أساسية لأمن المؤسسة في عصر الذكاء الاصطناعي. ويمكن لتحويل العمليات الأمنية الحالية بما يتيح للذكاء الاصطناعي تعزيز قدرات الفرق أن يؤسس قاعدة قوية لمركز العمليات الأمنية (SOC) المستقبلي المدعوم به.
كذلك، ليست الأتمتة مفهومًا جديدًا ظهر حصريًا مع الذكاء الاصطناعي؛ فقد خضعت مسارات العمل والعمليات الأمنية للأتمتة منذ سنوات، وتمتلك المؤسسات الناضجة قدرات متطورة جدًا في التنسيق والأتمتة. لكن الذكاء الاصطناعي يعزز الأتمتة الحالية القائمة على القواعد ويطوّرها، بما يتيح مسارات عمل مؤتمتة وديناميكية وقابلة للتكيف وغنية بالسياق، تساعد على تلبية متطلبات السرعة والمرونة اللازمة لمواجهة مخاطر الذكاء الاصطناعي الناشئة.
ماذا بعد؟
يجب أن يظل الأمن في صدارة اهتمامات قطاعات الأعمال وتقنية المعلومات، لحماية الأصول الحيوية والمستخدمين من الاستغلال الخبيث. ويُعد الذكاء الاصطناعي الآمن منذ التصميم ضرورة، بالنظر إلى سرعة نشر نماذجه وتكليفها بأنشطة أشد أهمية. وينبغي لفرق الأمن السيبراني أن تفكر استراتيجيًا في تحويل العمليات من الصفر لتطبيق القدرات الجديدة بصورة مناسبة ومواكبة لعبة القط والفأر في المجال السيبراني.
ويستطيع قادة الأمن اتخاذ خطوات ملموسة في المدى القريب: إجراء مراجعة شاملة للعمليات الأمنية الحالية لتحديد الفجوات وفرص التحديث والمجالات المهيأة للتحول، ومتابعة التهديدات والاتجاهات والتقنيات الناشئة المرتبطة بالذكاء الاصطناعي. وقبل كل شيء، ينبغي التمسك بمبدأ الدفاع متعدد الطبقات الذي أثبت جدواه بمرور الزمن؛ أي الحماية والتحقق على طبقات تبدأ بالهوية، ثم نقطة النهاية، ثم الشبكة، ثم البيانات، مع قدرات قوية للمراقبة والاستجابة تخضع للاختبار باستمرار.
إن المكاسب التي تَعِد بها القدرة التحويلية للذكاء الاصطناعي أكبر من أن تسمح بتجنب تبنيه، وقد خرج الجني من القمقم بالفعل بالنسبة لجهات التهديد. لذلك يظل دور قادة الأمن في هذا العصر كما كان دائمًا: دعم مؤسساتهم في تحقيق أهداف الأعمال مع تخفيف مدروس للمخاطر، لكن بسرعة الآلة الآن وباستخدام الذكاء الاصطناعي.













