ديفيد كيلرمان، المدير الفني الميداني في شركة Cymulate – سلسلة المقابلات

ديفيد كيلرمان ديفيد هو المدير الفني الميداني لشركة Cymulate، وهو متخصص تقني كبير في التعامل مع العملاء في مجال المعلومات والأمن السيبراني. يقود ديفيد العملاء إلى النجاح ومعايير الأمان العالية.

سيمولات Cymulate هي شركة متخصصة في الأمن السيبراني تقدم التحقق من التعرض للتهديدات للمؤسسات التي تتطلع إلى سد الثغرات الأمنية قبل أن يستغلها المهاجمون. تمكن منصتها المؤسسات من تحديد موقفها الأمني ​​وتعزيز المرونة السيبرانية من خلال الاكتشاف المستمر والتحقق وتحديد الأولويات والإصلاح الموجه لنقاط الضعف الأمنية. من خلال الأتمتة والذكاء الاصطناعي، تقدم Cymulate اختبارات أمنية هجومية متقدمة للتحقق من صحة عناصر التحكم والتهديدات ومسارات الهجوم. كمنصة مفتوحة، تتكامل Cymulate مع البنية التحتية الأمنية وتكنولوجيا المعلومات الحالية لدفع سير عمل عملية إدارة التعرض وتحسين الدفاعات في الوقت الفعلي. من خلال تقديم محاكاة الاختراق والهجوم (BAS) وإدارة التعرض وإدارة الموقف الأمني، تساعد Cymulate الشركات على تحديد نقاط الضعف.

ما هو العامل الرئيسي الذي تعتقد أنه وراء ارتفاع تهديدات الأمن السيبراني المتعلقة بالذكاء الاصطناعي في عام 2025؟

إن التهديدات الأمنية السيبرانية المرتبطة بالذكاء الاصطناعي آخذة في الارتفاع بسبب زيادة إمكانية الوصول إلى الذكاء الاصطناعي. أصبح لدى الجهات الفاعلة في مجال التهديد الآن إمكانية الوصول إلى أدوات الذكاء الاصطناعي التي يمكن أن تساعدهم في تكرار البرامج الضارة، وصياغة رسائل البريد الإلكتروني الاحتيالية بشكل أكثر مصداقية، وترقية هجماتهم لزيادة نطاقها. هذه التكتيكات ليست "جديدة"، لكن السرعة والدقة التي يتم بها نشرها أضافت بشكل كبير إلى تراكم التهديدات السيبرانية الطويل بالفعل الذي تحتاج فرق أمن التهديدات السيبرانية إلى معالجته. تسارع المنظمات إلى تنفيذ تكنولوجيا الذكاء الاصطناعي، في حين لا تفهم تمامًا أن الضوابط الأمنية يجب أن تكون موجودة حولها، لضمان عدم استغلالها بسهولة من قبل الجهات الفاعلة في مجال التهديد.

هل هناك أي صناعات أو قطاعات محددة أكثر عرضة لهذه التهديدات المرتبطة بالذكاء الاصطناعي، ولماذا؟

إن الصناعات التي تتشارك البيانات باستمرار عبر القنوات بين الموظفين أو العملاء أو الزبائن معرضة للتهديدات المتعلقة بالذكاء الاصطناعي لأن الذكاء الاصطناعي يجعل من السهل على الجهات الفاعلة في التهديد الانخراط في مخططات الهندسة الاجتماعية المقنعة. إن عمليات الاحتيال بالتصيد هي في الواقع لعبة أرقام، وإذا تمكن المهاجمون الآن من إرسال رسائل بريد إلكتروني تبدو أكثر أصالة إلى عدد أكبر من المستلمين، فإن معدل نجاحهم سيزداد بشكل كبير. إن المنظمات التي تكشف عن خدماتها المدعومة بالذكاء الاصطناعي للجمهور قد تدعو المهاجمين لمحاولة استغلالها. في حين أن جعل الخدمات عامة يشكل خطرًا موروثًا، فمن الأهمية بمكان القيام بذلك بشكل صحيح.

ما هي نقاط الضعف الرئيسية التي تواجهها المؤسسات عند استخدام شهادات الماجستير في القانون العام لوظائف الأعمال؟

ربما يكون تسرب البيانات هو الشاغل الأول. عند استخدام نموذج لغة عام كبير (LLM)، من الصعب أن نجزم إلى أين ستذهب هذه البيانات - وآخر شيء تريد القيام به هو تحميل معلومات حساسة عن طريق الخطأ إلى أداة ذكاء اصطناعي متاحة للعامة. إذا كنت بحاجة إلى تحليل بيانات سرية، فاحتفظ بها داخل الشركة. لا تلجأ إلى نماذج لغة عامة كبيرة قد تنقلب وتسرب هذه البيانات إلى الإنترنت الأوسع.

كيف يمكن للمؤسسات تأمين البيانات الحساسة بشكل فعال عند اختبار أو تنفيذ أنظمة الذكاء الاصطناعي في الإنتاج؟

عند اختبار أنظمة الذكاء الاصطناعي في الإنتاج، ينبغي للمؤسسات أن تتبنى عقلية هجومية (بدلاً من عقلية دفاعية). وأعني بذلك أن فرق الأمن ينبغي لها أن تختبر وتتحقق من أمان أنظمة الذكاء الاصطناعي الخاصة بها بشكل استباقي، بدلاً من الاستجابة للتهديدات الواردة. ويمكن أن يساعد الرصد المستمر للهجمات والتحقق من أنظمة الأمن في ضمان حماية البيانات الحساسة وعمل حلول الأمن على النحو المقصود.

كيف يمكن للمؤسسات الدفاع بشكل استباقي ضد الهجمات التي تعتمد على الذكاء الاصطناعي والتي تتطور باستمرار؟

في حين يستخدم الجهات الفاعلة في مجال التهديد الذكاء الاصطناعي لتطوير تهديداتها، يمكن لفرق الأمن أيضًا استخدام الذكاء الاصطناعي لتحديث أدوات محاكاة الاختراق والهجوم (BAS) لضمان حمايتها من التهديدات الناشئة. تقوم أدوات، مثل موجز التهديدات اليومي من Cymulate، بتحميل أحدث التهديدات الناشئة في برنامج محاكاة الاختراق والهجوم من Cymulate يوميًا لضمان قيام فرق الأمن بالتحقق من صحة أمن مؤسساتهم السيبراني ضد أحدث التهديدات. يمكن للذكاء الاصطناعي المساعدة في أتمتة العمليات مثل هذه، مما يسمح للمؤسسات بالبقاء نشطة وجاهزة لمواجهة حتى أحدث التهديدات.

ما هو الدور الذي تلعبه منصات التحقق الأمني ​​الآلية، مثل Cymulate، في التخفيف من المخاطر التي تشكلها التهديدات السيبرانية المدعومة بالذكاء الاصطناعي؟

يمكن أن تساعد منصات التحقق من الأمان الآلية المؤسسات على البقاء على اطلاع دائم بالتهديدات السيبرانية الناشئة التي يقودها الذكاء الاصطناعي من خلال أدوات تهدف إلى تحديد التهديدات والتحقق منها وإعطائها الأولوية. مع عمل الذكاء الاصطناعي كعامل مضاعف للقوة للمهاجمين، من المهم ليس فقط اكتشاف نقاط الضعف المحتملة في شبكتك وأنظمتك، ولكن التحقق من أي منها يشكل تهديدًا فعليًا للمؤسسة. عندها فقط يمكن تحديد أولويات التعرضات بشكل فعال، مما يسمح للمؤسسات بتخفيف أخطر التهديدات أولاً قبل الانتقال إلى عناصر أقل إلحاحًا. يستخدم المهاجمون الذكاء الاصطناعي لاستكشاف البيئات الرقمية بحثًا عن نقاط ضعف محتملة قبل شن هجمات مصممة خصيصًا، مما يعني أن القدرة على معالجة نقاط الضعف الخطيرة بطريقة آلية وفعالة لم تكن أكثر أهمية من أي وقت مضى.

كيف يمكن للمؤسسات دمج أدوات محاكاة الخروقات والهجمات للتحضير للهجمات التي تعتمد على الذكاء الاصطناعي؟

يعد برنامج BAS عنصرًا مهمًا في إدارة التعرض، حيث يسمح للمؤسسات بإنشاء سيناريوهات هجومية واقعية يمكنهم استخدامها للتحقق من صحة عناصر التحكم الأمنية ضد أكثر التهديدات إلحاحًا اليوم. يتم تطبيق أحدث المعلومات الاستخباراتية حول التهديدات والأبحاث الأولية من مجموعة أبحاث التهديدات Cymulate (جنبًا إلى جنب مع المعلومات حول التهديدات الناشئة والمحاكاة الجديدة) يوميًا على أداة BAS من Cymulate، مما ينبه قادة الأمن إذا لم يتم حظر تهديد جديد أو اكتشافه بواسطة عناصر التحكم الأمنية الحالية. باستخدام BAS، يمكن للمؤسسات أيضًا تخصيص عمليات محاكاة مدفوعة بالذكاء الاصطناعي لبيئاتها الفريدة وسياساتها الأمنية مع إطار عمل مفتوح لإنشاء حملات مخصصة وسيناريوهات هجوم متقدمة وأتمتتها.

ما هي أهم ثلاث توصيات تقدمها لفرق الأمن للبقاء في صدارة هذه التهديدات الناشئة؟?

تزداد التهديدات تعقيدًا كل يوم. والمنظمات التي لا تمتلك برنامجًا فعالًا لإدارة التعرض معرضة لخطر التخلف عن الركب بشكل خطير، لذا فإن توصيتي الأولى هي تنفيذ حل يسمح للمنظمة بتحديد أولويات التعرض بشكل فعال. بعد ذلك، تأكد من أن حل إدارة التعرض يتضمن قدرات BAS التي تسمح لفريق الأمن بمحاكاة التهديدات الناشئة (الذكاء الاصطناعي وغير ذلك) لقياس أداء عناصر التحكم الأمنية في المنظمة. أخيرًا، أوصي بالاستفادة من الأتمتة لضمان إمكانية التحقق والاختبار على أساس مستمر، وليس فقط أثناء المراجعات الدورية. مع تغير مشهد التهديد على أساس كل دقيقة، من الأهمية بمكان الحصول على معلومات محدثة. بيانات التهديد من الربع الماضي أصبحت قديمة بشكل ميؤوس منه.

ما هي التطورات التي تتوقعها في تكنولوجيا الذكاء الاصطناعي في السنوات الخمس المقبلة والتي قد تؤدي إلى تفاقم أو تخفيف مخاطر الأمن السيبراني؟

وسوف يعتمد الكثير على مدى إمكانية الوصول إلى الذكاء الاصطناعي. فاليوم، يستطيع المهاجمون من المستوى المنخفض استخدام قدرات الذكاء الاصطناعي لرفع مستوى هجماتهم، ولكنهم لا يبتكرون تكتيكات جديدة غير مسبوقة ــ بل إنهم يجعلون التكتيكات القائمة أكثر فعالية. وفي الوقت الحالي، يمكننا (في الغالب) التعويض عن ذلك. ولكن إذا استمر الذكاء الاصطناعي في النمو بشكل أكثر تقدما وظل متاحا بدرجة كبيرة، فقد يتغير هذا. وسوف تلعب اللوائح التنظيمية دورا هنا ــ فقد اتخذ الاتحاد الأوروبي (وإلى حد أقل الولايات المتحدة) خطوات لتنظيم كيفية تطوير الذكاء الاصطناعي واستخدامه، لذا سيكون من المثير للاهتمام أن نرى ما إذا كان ذلك سيؤثر على تطوير الذكاء الاصطناعي.

هل تتوقع حدوث تحول في كيفية تحديد أولويات المنظمات لتهديدات الأمن السيبراني المتعلقة بالذكاء الاصطناعي مقارنة بتحديات الأمن السيبراني التقليدية؟

لقد بدأنا بالفعل في ملاحظة إدراك المؤسسات لقيمة الحلول مثل BAS وإدارة التعرض. تسمح الذكاء الاصطناعي للجهات الفاعلة في مجال التهديدات بإطلاق حملات متقدمة ومستهدفة بسرعة، وتحتاج فرق الأمن إلى أي ميزة يمكنها الحصول عليها للمساعدة في البقاء في المقدمة. ستتمتع المؤسسات التي تستخدم أدوات التحقق بوقت أسهل بكثير في الحفاظ على رأسها فوق الماء من خلال إعطاء الأولوية للتهديدات الأكثر إلحاحًا وخطورة وتخفيفها أولاً. تذكر أن معظم المهاجمين يبحثون عن نتيجة سهلة. قد لا تتمكن من إيقاف كل هجوم، لكن يمكنك تجنب جعل نفسك هدفًا سهلاً.

شكرا لك على المقابلة الرائعة ، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا سيمولات.