وكلاء الذكاء الاصطناعي يتحولون إلى أيام الصفر إلى سباق لا يمكن للبشر الفوز به وحدهم

لم تكن الثغرات الأمنية من نوع الصفر خطيرة فقط، بل كانت نادرة وصعبة الاستغلال على نطاق واسع. كان العثور على واحدة منها يتطلب الصبر والمهارة المتخصصة والفهم العميق لسلوك البرمجيات. كما ذكرت نيكول بيرلروث والصحفيون الآخرون، كان هناك تجارة في الثغرات الأمنية من نوع الصفر، وعاملت الدول الثغرات الأمنية من نوع الصفر كأسلحة إلكترونية قيمة بشكل استثنائي.

اليوم، الثغرات الأمنية من نوع الصفر متاحة على نطاق واسع. يمكن لأي شخص تقريبا العثور على ثغرات جديدة بنفسه، بمساعدة نماذج الذكاء الاصطناعي المفتوحة المصدر، أو نماذج الذكاء الاصطناعي المملوكة مثل كلود وأوبن آي آي.

التقدم نفسه الذي يجعل الذكاء الاصطناعي مفيدًا لكتابة الشفرة و تلخيص السجلات وتسريع العمليات الأمنية يمكن استخدامه أيضًا للبحث عن العيوب وتركيب الثغرات واختبار مسارات الاستغلال بسرعة الآلة. لم يعد المهاجمون بحاجة إلى فحص كل التبعية يدويا أو عكس هندسة كل تطبيق أو قضاء أسابيع في الكشف عن نقطة ضعف. يمكن لوكلاء الذكاء الاصطناعي توفير الكثير من ذلك العمل، استكشاف قواعد الشفرة، مسح الأنظمة المعرضة، وضع الفرضيات والتحديث حتى يجدوا شيئًا مفيدًا.

ذلك يغير الاقتصاد الكلي لاستغلال الثغرات الأمنية من نوع الصفر. قد لا يكون المهاجم البشري قادرًا على متابعة أكثر الأهداف وعدا. يمكن لمهاجم مدعوم بالذكاء الاصطناعي أن يفحص الكثير من البرمجيات بسرعة أكبر وبشكل أقل تعبًا. حتى لو فشلت معظم المحاولات، فإن حجم المحاولات يجعل النجاح أكثر احتمالا. في الأمن السيبراني، غالبا ما يتحول الحجم إلى أحداث روتينية.

وكلاء الذكاء الاصطناعي يوسعون سطح البحث عن الثغرات الأمنية من نوع الصفر

هذا هو السبب في أن الثغرات الأمنية من نوع الصفر أصبحت مخاطر أكثر إلحاحا للمؤسسات. البرمجيات الحديثة كبيرة جدا، متصلة جدا، ومتعلقة جدا بمكونات طرف ثالث لدرجة أن أي منظمة لا يمكنها فهم كل نقطة ضعف قبل مهاجم. تعتمد معظم الشركات على مزيج معقد من المنصات التجارية والمكتبات المفتوحة المصدر وخدمات السحابة وتطبيقات السحابة وواجهات برمجة التطبيقات وأنظمة الهوية وأجهزة الحافة والأدوات الداخلية. كل طبقة تroduce عيوب محتملة. كل دمج يخلق مسارات هجوم جديدة. كل تحديث يمكن أن يغير بصدق ملف المخاطر.

الحقيقة غير المريحة هي أن هناك كمية هائلة من العيوب غير المكتشفة موجودة داخل البرمجيات من جميع الأنواع. بعضها موجود في الكود القديم. بعضها موجود في الكود الجديد المكتوب تحت الضغط. بعضها يأتي من التبعيات التي لا تتبعها معظم المنظمات بدقة كافية. بعضها يظهر من طريقة تفاعل الأنظمة، حتى لو كان كل مكون فردي يبدو آمنًا. وكلاء الذكاء الاصطناعي مناسبون جيدا لاستكشاف تلك التعقيدات لأنهم يمكن أن يبحثوا على نطاق واسع وبدوام وتنوع.

يواجه المدافعون مشكلة تثبيت مستحيلة. لا يمكنك تثبيت عيب لا تعرف أنه موجود. لا يمكنك تحديد الأولوية لجميع الضعف النظري بنفس القدر. لا يمكنك اختبار كل مزيج من البرمجيات والتهيئة وسلوك المستخدم قبل النشر. حتى برامج إدارة الثغرات الأمنية الناضجة غالبا ما يتم بناؤها حول ثغرات أمنية معروفة وتوجيهات البائع ومصادر مخاطر التهديدات. تلك هي أساسية، ولكنها تصل بعد الاكتشاف. في عالم الصيد السريع للثغرات الأمنية من نوع الصفر بواسطة الذكاء الاصطناعي، قد يحدث الاكتشاف أولا في أيدي المهاجم.

هذا يخلق لعبة متزايدة من ضربة الكرة. يتم العثور على عيب. يتم إصدار تصحيح سريع. يتغير الاستغلال إلى نظام مجاور أو تبعية مختلفة أو واجهة معرضة حديثًا. يستجيب فريق الأمن، لكن قائمة الانتظار تظل في توسع. يزيد الذكاء الاصطناعي من سرعة المطرقة على كلا الجانبين، لكن المهاجمين غالبا ما يستفيدون أولا لأنهم بحاجة فقط إلى العثور على مسار واحد قابل للتطبيق. يجب على المدافعين حماية جميعها.

قد تأتي الإجابة طويلة الأمد من الذكاء الاصطناعي نفسه. مع تحسن أنظمة الذكاء الاصطناعي في توليد ومراجعة واختبار الشفرة، يجب أن تساعد على القضاء على فئات كاملة من العيوب قبل وصول البرمجيات إلى الإنتاج. يمكن أن يصبح التطوير الآمن من التصميم أكثر واقعية عندما يمكن للذكاء الاصطناعي الفحص المستمر للشفرة وتحديد الأنماط غير الآمنة ونمذجة القابلية للاستغلال وتقديم الإصلاحات في الوقت الفعلي. في النهاية، قد نصل إلى نقطة حيث تقلل الأخطاء الشائعة في الذاكرة وثغرات الحقن وأخطاء المصادقة وتهيئة غير آمنة بشكل كبير لأن هندسة الذكاء الاصطناعي تلتقطها مبكرا. في عملنا في ديب تيمبو، نرى بالفعل استخدامًا أكبر للغات آمنة مثل روست في برمجياتنا؛ بينما يصعب كتابة روست في بعض الجوانب، فهي أكثر أمانًا وأصبح كتابة روست أسهل بفضل الذكاء الاصطناعي.

يجب على المدافعين التحول من سرعة التصحيح إلى متانة الهجوم

في حين أن مستقبلا حيث تم تصحيح أو إعادة كتابة جميع البرمجيات بطريقة أكثر أمانا يستحق السعي نحوه، فمن غير الواضح مدى إمكانية ذلك بشكل نظري لعدد من الأسباب. في أي حال، نعلم أنه لم يصل بعد وسوف لن يصل لسنوات عديدة. شفرة الذكاء الاصطناعي المولدة اليوم يمكن أن لا تزال تقدم عيوبا. وأدوات أمن الذكاء الاصطناعي يمكن أن تفقد السياق. بيئات المؤسسات لا تزال تحتوي على عقود من الديون التقنية المتراكمة. المهاجمون يستخدمون بالفعل الأتمتة للتحرك بسرعة أكبر، بينما لا يزال المدافعون يدمجون الذكاء الاصطناعي في سلاسل العمل الحالية وتمثيلات المخاطر ونمذجة التهديدات ويتعلمون أن النماذج اللغة الكبيرة ليست مفيدة عند الكشف عن الهجمات.المزيد من المعلومات حول كيفية أداء النماذج اللغة الكبيرة في الكشف يمكن العثور عليها في التجارب المفتوحة الأخيرة مثل بنشمارك SOC. على سبيل المثال، وجد مهندسو بنشمارك SOC أن أفضل النماذج اللغة الكبيرة لديها معدل إيجابي خاطئ في النطاق 20٪ وسوف تكلف مئات الملايين من الدولارات في اليوم في نطاق بيئة أمنية كبيرة نمطية.نتيجة لجميع العوامل المذكورة أعلاه، يفضل الذكاء الاصطناعي المهاجمين حاليا.

لسوء الحظ، يجب على المنظمات افتراض أن بعض العيوب غير المكتشفة سوف تكتشفها الأعداء قبل إعلانها علنا. بالإضافة إلى ذلك، بفضل التحسينات في التصيد الاحتيالي وانتشار الاستيلاء على الهويات، يمكن للمهاجمين ببساطة تسجيل الدخول.باختصار، على الأقل في الأجل المتوسط، لا يمكن أن تعتمد استراتيجية الأمن تماما على الوقاية. لا تزال الوقاية حاسمة، ولكن يجب ربطها بالكشف السريع والتحليلات السلوكية القوية والاحتواء الأضيق.

كما اقترح عدد من المنظمات مؤخرا، بما في ذلك نست، ومجلس الخمس عيون، والأكاديمية الوطنية للعلوم، نظرا لتطور المهاجمين مدعومي الذكاء الاصطناعي، يجب على فرق الأمن إعادة النظر في الطرق لفهم ما يبدو عليه الوضع الطبيعي عبر المستخدمين والآلات والهويات والتطبيقات وحركة البيانات. غالبا ما تنجح هجمات الصفر لأنها تتجاوز التوقيعات المعروفة، لكنها تترك آثارا يمكن أن يراها ويفهمه نموذج التصنيف الأكثر قوة اليوم. على سبيل المثال، قد تظهر الهجمات أنماطا غير عادية للاستخدام، أو استخدام امتيازات غير عادي، أو نشاط غير عادي للمعالج، أو تدفقات مصادقة غريبة أو حركة بيانات لا تتوافق مع معايير البيئة.

بالإضافة إلى ذلك، يجب على الشركات تقليل نطاق تأثير الكشف. التجزئة، وأقل امتياز، وسيطرة هوية قوية، ومراقبة مستمرة، وفرز سريع يهمون أكثر عندما يتم استغلال الثغرات الأمنية من نوع الصفر. إذا استخدم مهاجم ثغرة من نوع الصفر للدخول، السؤال التالي هو مدى المسافة التي يمكنهم النقل قبل الكشف. كلما كان النافذة أصغر، كلما كان الاستغلال أقل قيمة.

لا يوجد زر إيقاف نظيف لهذا اللحظة. سوف يستمر وكلاء الذكاء الاصطناعي في التحسين. سوف يستمر التجريب الهجومي في التسريع. سوف يستمر عدد الأنظمة التي تستحق الفحص في النمو. مهمة مجتمع الأمن هي ضمان نضج الذكاء الاصطناعي الدفاعي بنفس السرعة.

الثغرات الأمنية من نوع الصفر دائما ما تُكافئ السرعة والابتكار واللامعقولية. وكلاء الذكاء الاصطناعي يزيدون من كل ذلك. المنظمات التي تتكيف سوف تعامل الذكاء الاصطناعي كأكثر من طبقة إنتاجية لفرق الأمن. سوف يستخدمون أيضا الذكاء الاصطناعي المخصص لاكتشاف التهديدات غير المعروفة بكفاءة ودقة، وتحديد الإشارات الضعيفة التي تُشير إلى خرق، والاستجابة قبل أن يصبح العيب المُستغل أزمة على مستوى الشركة.