مكافحة الذكاء الاصطناعي بالذكاء الاصطناعي في مشهد التهديدات الحديث

ليست أخبارًا كاشفة أن الذكاء الاصطناعي قد غير بشكل كبير صناعة الأمن السيبراني. كل من المهاجمين والمدافعين على حد سواء يلجأون إلى الذكاء الاصطناعي لتعزيز قدراتهم، وكل منهم يسعى للبقاء خطوة أمام الآخر. هذه لعبة القط والفأر ليست جديدة – فقد سعى المهاجمون لخداع فرق الأمن لعدة عقود، بعد كل شيء – ولكن ظهور الذكاء الاصطناعي أدخل عنصرًا جديدًا (وغالبًا ما يكون غير متوقع) إلى الديناميكية. المهاجمون في جميع أنحاء العالم يفركون أيديهم معًا بسعادة عند افتراض استغلال هذه التكنولوجيا الجديدة لتطوير أساليب هجوم مبتكرة لم تُرى من قبل.

على الأقل، هذا هو الإدراك. ولكن الواقع قليلًا ما يختلف. بينما من الصحيح أن المهاجمين يعتمدون بشكل متزايد على الذكاء الاصطناعي، فإنهم يستخدمونه في الغالب لزيادة مقياس و複雑ية هجماتهم، وتصفية نهجهم لأساليبهم الحالية بدلاً من كسر الأرض الجديدة. التفكير هنا واضح: لماذا تقضى الوقت والجهد لتطوير أساليب الهجوم لغد، عندما ي đấu فرق الدفاع بالفعل لوقف اليوم؟幸运ًا، فرق الأمن الحديثة تعتمد على قدرات الذكاء الاصطناعي الخاصة بها – العديد منها يساعد في الكشف عن البرمجيات الخبيثة ومحاولات التصيد ومحاولات الهجوم الشائعة الأخرى بسرعة وأكثر دقة. مع استمرار “سباق التسلح بالذكاء الاصطناعي” بين المهاجمين والمدافعين، سيكون من المهم بشكل متزايد لفرق الأمن فهم كيفية نشر المتسلطين للتكنولوجيا بالفعل – وضمان أن جهودهم الخاصة مركّزة في المكان الصحيح.

كيف يستخدم المهاجمون الذكاء الاصطناعي

فكرة الذكاء الاصطناعي شبه المستقل الذي يتم نشره لاختراق دفاعات المنظمة بطريقة منهجية هي فكرة مخيفة، ولكن (للحظة) لا تزال في نطاق روايات ويليام جيبسون وأعمال الخيال العلمي الأخرى. من الصحيح أن الذكاء الاصطناعي قد تقدم بسرعة كبيرة خلال السنوات القليلة الماضية، ولكننا ما زلنا بعيدين عن الذكاء الاصطناعي العام (AGI) القادر على تقليد أنماط التفكير والسلوك البشري بشكل مثالي. هذا لا يعني أن الذكاء الاصطناعي اليوم ليس مثيرًا للإعجاب – إنه بالتأكيد كذلك. ولكن أدوات الذكاء الاصطناعي التوليدية ونماذج اللغة الكبيرة (LLMs) هي الأكثر فاعلية في تحليل المعلومات من المواد الحالية وتوليد تغييرات صغيرة وتكرارية. لا يمكنها خلق شيء جديد تمامًا بنفسها – ولكن لا شك في أن القدرة على التحليل والتكرار هي مفيدة بشكل لا يصدق.

في الممارسة، هذا يعني أن المهاجمين بدلاً من تطوير أساليب هجوم جديدة، يمكنهم بدلاً من ذلك تعزيز الأساليب الحالية. باستخدام الذكاء الاصطناعي، قد يتمكن المهاجم من إرسال ملايين رسائل البريد الإلكتروني الخبيثة، بدلاً من الآلاف. يمكنهم أيضًا استخدام LLM لإنشاء رسالة أكثر اقناعًا، وخداع المزيد من المستلمين في النقر على رابط خبيث أو تنزيل ملف يحتوي على برمجيات خبيثة. تكتيكات مثل التصيد هي في الأساس لعبة أرقام: معظم الناس لن يقعوا في فخ رسالة بريد إلكتروني خبيثة، ولكن إذا تلقى ملايين الأشخاص ذلك، فإن حتى نسبة نجاح 1٪ يمكن أن تؤدي إلى آلاف الضحايا الجدد. إذا كان LLMs يمكن أن يرفعوا هذه النسبة بنسبة 1٪ إلى 2٪ أو أكثر، يمكن للمخادعين زيادة فعالية هجماتهم بشكل فعال دون بذل أي جهد. نفس الشيء ينطبق على البرمجيات الخبيثة: إذا كان التغييرات الصغيرة في رمز البرمجيات الخبيثة يمكن أن تخفيها بشكل فعال من أدوات الكشف، يمكن للمهاجمين الحصول على أميال أكثر من برنامج البرمجيات الخبيثة الفردية قبل أن يضطروا إلى الانتقال إلى شيء جديد.

العنصر الآخر المهم هنا هو السرعة. لأن الهجمات القائمة على الذكاء الاصطناعي لا تخضع للقيود البشرية، يمكنهم في كثير من الأحيان إجراء تسلسل الهجوم بأكمله بسرعة أكبر بكثير من مشغل بشري. هذا يعني أن المهاجم قد يتمكن من اختراق الشبكة ووصول إلى جوهر الضحية – البيانات الأكثر حساسية أو قيمة – قبل أن يتلقى فريق الأمن حتى تنبيهًا، ناهيكم عن الاستجابة له. إذا كان المهاجمون يمكنهم التحرك بسرعة أكبر، فإنهم لا يحتاجون إلى أن يكونوا أكثر حذرًا – مما يعني أنهم يمكن أن يفروا بأعمال أكثر صخامة دون أن يتم إيقافهم. لقد لا يفعلون شيئًا جديدًا هنا، ولكن من خلال المضي قدمًا بهجماتهم بسرعة أكبر، يمكنهم تجاوز دفاعات الشبكة بطريقة قد تكون حاسمة.

هذا هو المفتاح لفهم كيفية استخدام المهاجمين للذكاء الاصطناعي. عمليات الاحتيال الاجتماعية وبرامج البرمجيات الخبيثة هي بالفعل vectors هجمات ناجحة – ولكن الآن يمكن للمهاجمين جعلها أكثر فعالية، ونشرها بسرعة أكبر، وتشغيلها بمقياس أكبر. بدلاً من محاربة عشرات المحاولات يوميًا، قد تكون المنظمات محاربة مئات أو آلاف أو حتى عشرات الآلاف من الهجمات السريعة. وإذا لم يكن لديهم حلول أو عمليات في مكانها لاكتشاف هذه الهجمات بسرعة، وتحديد التي تمثل تهديدات حقيقية وملموسة، وفعالية التخفيف منها، فإنهم يتركون أنفسهم مفتوحين بشكل خطير للمهاجمين. بدلاً من التساؤل عن كيفية استخدام المهاجمين للذكاء الاصطناعي في المستقبل، يجب على المنظمات استخدام حلول الذكاء الاصطناعي الخاصة بها بهدف التعامل مع أساليب الهجوم الحالية بمقياس أكبر.

تحويل الذكاء الاصطناعي لمصلحة فرق الأمن

خبراء الأمن في كل مستوى من مستويات الأعمال والحكومة يبحثون عن طرق لاستغلال الذكاء الاصطناعي للأغراض الدفاعية. في أغسطس، أعلنت وكالة الدفاع الأمريكية للبحث والتطوير المتقدم (DARPA) عن المرشحين النهائيين لتحدي الذكاء الاصطناعي السيبراني (AIxCC) الأخير، الذي يمنح جوائز لفرق البحث الأمنية التي تعمل على تدريب LLMs لتحديد وإصلاح الثغرات الأمنية القائمة على الكود. يدعم التحديه مزودو الذكاء الاصطناعي الرئيسيين، بمن فيهم جوجل ومايكروسوفت وOpenAI، الذين يقدمون الدعم التكنولوجي والمالي لهذه الجهود لتعزيز الأمن القائم على الذكاء الاصطناعي. بالطبع، DARPA هي مجرد مثال – يمكنك بالكاد تحريك العصا في وادي السيليكون دون ضرب dozen من مؤسسي الشركات الناشئة الذين ي渴ون لرواية قصتهم عن حلول الأمن المتقدمة القائمة على الذكاء الاصطناعي. يكفي القول، إنه لا يوجد شيء أكثر أهمية من العثور على طرق جديدة لاستغلال الذكاء الاصطناعي للأغراض الدفاعية هو أولوية قصوى للمنظمات من جميع الأنواع والأحجام.

ولكن مثل المهاجمين، غالبًا ما يجد فرق الأمن النجاح الأكبر عندما يستخدمون الذكاء الاصطناعي لتعزيز قدراتهم الحالية. مع حدوث هجمات بسرعة متزايدة، غالبًا ما يكون فرق الأمن مشتتًا – سواء فيما يتعلق بالوقت والموارد – مما يجعل من الصعب تحديد وتحقيق وتصحيح كل تنبيه أمني يظهر. هناك ببساطة لا يوجد وقت كافٍ. تلعب حلول الذكاء الاصطناعي دورًا هامًا في التخفيف من هذا التحدي من خلال تقديم قدرات الكشف والاستجابة الآلية. إذا كان هناك شيء واحد جيد في الذكاء الاصطناعي، فهو تحديد الأنماط – وهذا يعني أن أدوات الذكاء الاصطناعي جيدة جدًا في التعرف على السلوك غير الطبيعي، خاصة إذا كان السلوك يتوافق مع أنماط الهجوم المعروفة. لأن الذكاء الاصطناعي يمكنه استعراض كميات هائلة من البيانات بسرعة أكبر بكثير من البشر، هذا يسمح لفرق الأمن بتعزيز عملياتهم بطرق كبيرة. في العديد من الحالات، يمكن لهذه الحلول حتى تلقين عمليات التخفيف الأساسية، وتصحيح الهجمات منخفضة المستوى دون الحاجة إلى تدخل بشري. يمكنهم أيضًا استخدامها لتلقين عملية التحقق الأمني، والتحقق المستمر حول دفاعات الشبكة للتأكد من أنها تعمل كما هو مقصود.

من المهم أيضًا ملاحظة أن الذكاء الاصطناعي لا يسمح لفرق الأمن فقط بتحديد أنشطة الهجوم المحتملة بسرعة أكبر – ولكنه يحسن أيضًا دقتهم بشكل كبير. بدلاً من ملاحقة إنذارات كاذبة، يمكن لفرق الأمن أن يكونوا واثقين من أن عندما يُحذرهم حل الذكاء الاصطناعي من هجوم محتمل، فهو يستحق انتباههم الفوري. هذا هو عنصر من الذكاء الاصطناعي الذي لا يتم التحدث عنه بما يكفي – في حين أن الكثير من المناقشة يركز على استبدال الذكاء الاصطناعي “البشر” ووظائفهم، فإن الواقع هو أن حلول الذكاء الاصطناعي تمكن البشر من أداء وظائفهم بشكل أفضل وأكثر كفاءة، بالإضافة إلى التخفيف من الإرهاق الذي يأتي مع أداء المهام المتكررة والمملة. بعيدًا عن التأثير السلبي على المشغلين البشر، فإن حلول الذكاء الاصطناعي تتعامل مع الكثير من “العمل المتعب” المرتبط بمواقع الأمن، مما يسمح للبشر بالتركيز على مهام أكثر إثارة واهمية. في وقت يصل فيه الإرهاق إلى مستوى قياسي جديد، وتعاني العديد من الشركات من جذب مواهب أمنية جديدة، يمكن أن يكون تحسين جودة الحياة ورضا العمل تأثيرًا إيجابيًا هائلاً.

هنا تكمن الميزة الحقيقية لفرق الأمن. لا يمكن فقط لحلول الذكاء الاصطناعي مساعدتهم على تعزيز عملياتهم لمواجهة المهاجمين الذين يستخدمون أدوات الذكاء الاصطناعي الخاصة بهم – ولكن يمكنهم أيضًا إبقاء أمنيين محترفين أكثر سعادة ورضا في أدوارهم. هذا هو حل الفوز-الفوز النادر للجميع المعنيين، ويجب أن يساعد ذلك الشركات الحديثة على التعرف على أن الوقت لاستثمار حلول الأمن القائمة على الذكاء الاصطناعي هو الآن.

سباق التسلح بالذكاء الاصطناعي刚刚 بدأ

سباق التسلح بالذكاء الاصطناعي جاري، مع كل من المهاجمين والمدافعين يجدون طرقًا مختلفة لاستغلال التكنولوجيا لمصلحتهم. مع استخدام المهاجمين حلول الذكاء الاصطناعي لزيادة سرعة ومدى و複雑ية هجماتهم، سيتعين على فرق الأمن محاربة النار بالنار، باستخدام أدوات الذكاء الاصطناعي الخاصة بهم لتحسين سرعة ودقة قدرات الكشف والتصحيح.幸运ًا، تقدم حلول الذكاء الاصطناعي معلومات حاسمة لفرق الأمن، مما يسمح لهم بتحسين اختبار وتقييم فعالية حلولهم الخاصة، بالإضافة إلى توفير الوقت والموارد لأداء المهام الأكثر أهمية. لا شك في أن سباق التسلح بالذكاء الاصطناعي刚刚 بدأ – ولكن حقيقة أن أمنيين محترفين يستخدمون بالفعل الذكاء الاصطناعي للبقاء خطوة أمام المهاجمين هي إشارة جيدة جدًا.