ما الذي يخبرنا به وصول نماذج الذكاء الاصطناعي الحدودية عن مستقبل اكتشاف الثغرات الأمنية

عندما تم الإعلان عن كلود ميثوس في أبريل، أصبح على الفور واحدًا من أكبر نقاشات الأمن السيبراني في عصر الذكاء الاصطناعي. تم تطوير هذا النموذج الجديد من قبل أنثروبيك، وأظهر قدرات سيبرانية غير مسبوقة، وأثار ردود فعل تصنفه كإنجاز تقني كبير إلى جانب تحذيرات من أن الأمن السيبراني قد يدخل فترة من الاضطراب غير المسبوق.

وفقًا لأنثروبيك، يمكن للنموذج اكتشاف عدد كبير من الثغرات الأمنية من فئة زيرو داي، ويتضمن ذلك تحديد عيوب في أنظمة التشغيل والمتاوسلات الشائعة، بما في ذلك الأمثلة التي ظلت غير مكتشفة لعدة عقود. كما كان قادرًا على ربط الضعف الفردي في عمليات khai thác متعددة.

كان تأثيره كبيرًا لدرجة أن الحكومة الأمريكية أمرت أنثروبيك في 12 يونيو بتعليق جميع الوصول إلى التكنولوجيا لأي مواطن أجنبي في جميع أنحاء العالم، بما في ذلك موظفي أنثروبيك من الجنسية الأجنبية. تم النظر إلى هذا على نطاق واسع على أنه رد على مخاوف من أن القدرات الهجومية للذكاء الاصطناعي قد وصلت إلى نقطة قد تُحدث مخاطر غير مقبولة، أو حتى لا يمكن السيطرة عليها.

في إطار مشروع جلاس وينج، وهو برنامج الإفصاح والإصلاح لأنثروبيك، يتم تقييد الوصول حاليًا إلى حوالي 50 منظمة، بما في ذلك أمازون ويب سيرفس، أبل، جوجل، مايكروسوفت، كراود سترايك، سيسكو، ومؤسسة لينكس، من بين آخرين. تم منح هذه الشركات نافذة لتصحيح الأنظمة الحيوية قبل إفصاح الثغرات التي تم تحديدها بواسطة ميثوس بشكل عام اعتبارًا من يوليو. في ذلك الوقت، تدخل الصناعة فعلاً في منطقة جديدة.

عبور نهر الربيكون

ي同意 العديد من الناس أن وصول نماذج الذكاء الاصطناعي الحدودية يعني أن نهر الربيكون الأمني قد عبر. واسمحوا لي أن أكون واضحًا: القضية الأساسية ليست بالضرورة ظهور نموذج معين، ولكن احتمال (أو حتى احتمال) أن اكتشاف الثغرات وتطوير الخلل نفسه قد يدخلان عصرًا جديدًا، حيث يمكن للذكاء الاصطناعي العمل بسرعة ومقياس يفوق قدرة الباحثين البشر.

إذا ثبت أن هذا هو الحال، فإن الآثار تمتد إلى ما هو أبعد من الثغرات المحددة؛ فهي تؤثر على الافتراضات التي بنيت عليها عمليات إدارة الثغرات وإصلاحها تقليديًا. على وجه الخصوص، تم تطوير عمليات إدارة الثغرات الحالية في عصر كان فيه الباحثون البشر يحددون وتيرة الاكتشاف. يمتلك الذكاء الاصطناعي القدرة على تغيير هذه المعادلة بشكل جذري.

من المرجح أن يكون أحد العواقب زيادة حادة في عدد الثغرات التي تدخل النظام البيئي الأمني. حجمCVE قد ارتفع بالفعل بشكل كبير في السنوات الأخيرة، والفرق الأمنية بالفعل تحت ضغط متزايد حتى قبل أن يُشعر بتأثير نماذج الذكاء الاصطناعي الحدودية بالكامل.

في هذا السياق، قد لا يكون اكتشاف الثغرات نفسه العامل المحدد أطول. بدلاً من ذلك، يتحرك العائق إلى التriage والإصلاح. يتم تعقيد التحدي من حقيقة أن جداول الاستغلال قد تقلصت على مدار السنوات، وفي بعض الحالات، تظهر الاستغلالات قبل أن تصبح التصحيحات متاحة، تاركة المنظمات مع قليل من الوقت للتفاعل.

يصبح الاستعداد التشغيلي الأولوية

لذلك، ما هو شكل نهج محدث وملائم لادارة الثغرات؟ أولاً، يجب أن يُعتبر كقدرة تشغيلية مستمرة لأن نافذة بين الاكتشاف وتنفيذ التصحيح غالبًا ما تكون بطيئة للغاية. تحتاج الفرق الأمنية إلى فهم أي الثغرات قابلة للاستغلال وأي الأنظمة تتأثر.

随着 زيادة حجم النتائج وتناقص وقت الاستغلال، سيصبح تشغيل الذكاء الاصطناعي للأمن ضروريًا. الفرق التي تستخدم قدرات الكشف المتقدمة من الذكاء الاصطناعي (مع إدارة تكاليف الرموز) وتأتمتة الكشف والترياج والإصلاح ستكون في أفضل وضع لتحقيق أقصى حد من نافذة التعرض وتأثيرات الأعمال السلبية. لا يتعلق الأمر باكتشاف أكبر عدد من الثغرات؛ بل يتعلق بتحديد وإصلاح القضايا الأكثر أهمية بسرعة.

ثانيًا وأهم من ذلك، نماذج الذكاء الاصطناعي الحدودية هي أدوات للدفاع السيبراني. يمكن لأعضاء جلاس وينج استخدام النماذج لاكتشاف وإصلاح الثغرات غير المكتشفة مسبقًا، مع الحصول المسبق على الوصول المسبق إلى المهاجمين عندما يحصلون بالضرورة على قدرات الذكاء الاصطناعي الحدودية. نماذج الذكاء الاصطناعي الحدودية هي أداة كشف قيمة؛ ومع ذلك، لا تحل автомاتически الجوانب التشغيلية لادارة مسح الذكاء الاصطناعي (ما هو مطلوب للفحص، متى، كيفية تنسيق الفحص، ماذا تفعل مع النتائج، كيفية إدارة تكاليف الرموز، إلخ.). بغض النظر عن النموذج المستخدم (وسيصبح أفضل مع مرور الوقت)، تحتاج الفرق الأمنية إلى أن تكون قادرة على تشغيل قدرات الذكاء الاصطناعي الحدودية للأمن السيبراني بشكل أسرع مما يمكن للمهاجمين استغلال القدرات للاستغلال.

التحدي طويل الأمد الذي تواجهه المنظمات ليس بالضرورة الاستعداد لنموذج معين أو موجة من الإفصاحات، ولكن ما إذا كانت النماذج التشغيلية الحالية قادرة على التكيف مع عالم حيث تكتشف الثغرات وتسلح بسرعة غير مسبوقة. إذا كان ذلك مخطئًا، فإن المنظمات تواجه عالمًا من المتاعب.