ديفيد كيلرمان، رئيس قسم التكنولوجيا في سيمليت – سلسلة المقابلات

ديفيد كيلرمان هو رئيس قسم التكنولوجيا في سيمليت، وهو chuyên家 تقني كبير في مجال المعلومات والأمن السيبراني. يقود ديفيد العملاء إلى النجاح والمعايير الأمنية العالية.

سيمليت هي شركة أمن سيبراني توفر التحقق من التعرض للتهديدات للأrganizations التي تبحث عن إغلاق الفجوات الأمنية قبل أن يستغلها المهاجمون. منصة الشركة تمكن المنظمات من تحديد وضعها الأمني وتعزيز متانتها السيبرانية من خلال اكتشاف مستمر، وتحقق، وتحديد الأولويات، وتوجيه إصلاح الثغرات الأمنية. من خلال التأتمتة والذكاء الاصطناعي، توفر سيمليت اختبارات أمنية هجومية متقدمة لتحقق السيطرات والتهديدات ومسارات الهجوم. كمنصة مفتوحة، تدمج سيمليت مع البنية التحتية الأمنية والتقنية الحالية لتشغيل سير عمل إدارة التعرض وتحسين الدفاعات في الوقت الفعلي. من خلال تقديم محاكاة الاختراق والهجوم، وإدارة التعرض، وإدارة الوضع الأمني، تساعد سيمليت الشركات على تحديد الضعف.

ما هي العوامل الرئيسية التي تقف وراء زيادة التهديدات الأمنية المرتبطة بالذكاء الاصطناعي في عام 2025؟

التهديدات الأمنية المرتبطة بالذكاء الاصطناعي تزداد بسبب زيادة إمكانية الوصول إلى الذكاء الاصطناعي. المهاجمون الآن لديهم أدوات ذكاء اصطناعي يمكنهم من خلالها تحسين البرامج الضارة، وإنشاء رسائل بريد إلكتروني للمخادعة أكثر واقعية، وتحسين هجماتهم لزيادة نطاقها. هذه الأساليب ليست جديدة، ولكن السرعة والدقة التي يتم بها تنفيذها أضافت بشكل كبير إلى قائمة طويلة من التهديدات السيبرانية التي يتعين على فرق الأمن التعامل معها. المنظمات تسرع في تنفيذ تقنية الذكاء الاصطناعي، دون فهم كامل أن التحكمات الأمنية يجب وضعها حولها، لضمان عدم استغلالها بسهولة من قبل المهاجمين.

هل هناك قطاعات أو صناعات معينة أكثر عرضة لهذه التهديدات المرتبطة بالذكاء الاصطناعي، ولماذا؟

القطاعات التي تشارك بانتظام البيانات عبر القنوات بين الموظفين أو العملاء أو الزبائن أكثر عرضة للتهديدات المرتبطة بالذكاء الاصطناعي لأن الذكاء الاصطناعي يجعل من السهل على المهاجمين المشاركة في مخادع اجتماعية. عمليات الاحتيال بالبريد الإلكتروني هي في الأساس لعبة الأرقام، وإذا كان المهاجمون يمكنهم الآن إرسال رسائل بريد إلكتروني أكثر واقعية إلى عدد أكبر من المستلمين، فإن معدل نجاحهم سيزداد بشكل كبير. المنظمات التي تعرض خدماتها القائمة على الذكاء الاصطناعي للجمهور قد تدعو المهاجمين لمحاولة استغلالها. على الرغم من أن هذا هو خطر موروث من جعل الخدمات العامة، إلا أنه من المهم القيام بذلك بشكل صحيح.

ما هي النقاط الضعف الرئيسية التي تواجهها المنظمات عند استخدام نماذج اللغة الكبيرة العامة لأغراض الأعمال؟

ربما يكون تسرب البيانات هو الشاغل الأول. عند استخدام نموذج لغة عام كبير (LLM)، من الصعب أن تحدد على وجه اليقين أين ستذهب هذه البيانات – وآخر شيء تريد القيام به هو تحميل معلومات حساسة عن طريق الخطأ إلى أداة ذكاء اصطناعي يمكن الوصول إليها بشكل عام. إذا كنت بحاجة إلى تحليل البيانات السرية، فاحتفظ بها داخل الشركة. لا تلجأ إلى LLMs العامة التي قد تنقلب وتسرب تلك البيانات إلى الإنترنت على نطاق أوسع.

كيف يمكن للمؤسسات تأمين البيانات الحساسة بشكل فعال عند اختبار أنظمة الذكاء الاصطناعي أو تنفيذها في الإنتاج؟

عند اختبار أنظمة الذكاء الاصطناعي في الإنتاج، يجب على المؤسسات اعتماد عقلية هجومية (بدلاً من العقلية الدفاعية). أعني بذلك أن فرق الأمن يجب أن تقوم باختبار أمان أنظمة الذكاء الاصطناعي الخاصة بهم والتحقق من صحتها بشكل استباقي، بدلاً من الرد على التهديدات الواردة. يمكن أن تساعد المراقبة المستمرة للهجمات والتحقق من صحة أنظمة الأمان في ضمان حماية البيانات الحساسة وأن الحلول الأمنية تعمل على النحو المنشود.

كيف يمكن للمؤسسات الدفاع بشكل استباقي ضد الهجمات التي يقودها الذكاء الاصطناعي والتي تتطور باستمرار؟

بينما تستخدم الجهات الفاعلة في مجال التهديد الذكاء الاصطناعي لتطوير تهديداتها، يمكن لفرق الأمن أيضًا استخدام الذكاء الاصطناعي لتحديث أدوات محاكاة الاختراق والهجوم (BAS) الخاصة بها لضمان حمايتها ضد التهديدات الناشئة. تقوم الأدوات، مثل موجز التهديدات اليومي لـ Cymulate، بتحميل أحدث التهديدات الناشئة في برنامج محاكاة الاختراق والهجوم الخاص بـ Cymulate يوميًا لضمان قيام فرق الأمان بالتحقق من الأمن السيبراني لمؤسستهم ضد أحدث التهديدات. يمكن أن يساعد الذكاء الاصطناعي في أتمتة مثل هذه العمليات، مما يسمح للمؤسسات بالبقاء مرنًا وجاهزًا لمواجهة حتى أحدث التهديدات.

ما هو الدور الذي تلعبه منصات التحقق من الأمان الآلية، مثل Cymulate، في التخفيف من المخاطر التي تشكلها التهديدات السيبرانية المعتمدة على الذكاء الاصطناعي؟

يمكن لمنصات التحقق من الأمان المؤتمتة أن تساعد المؤسسات على البقاء على اطلاع على التهديدات السيبرانية الناشئة التي تعتمد على الذكاء الاصطناعي من خلال أدوات تهدف إلى تحديد التهديدات والتحقق من صحتها وترتيب أولوياتها. نظرًا لأن الذكاء الاصطناعي يعمل كمضاعف للقوة للمهاجمين، فمن المهم ليس فقط اكتشاف نقاط الضعف المحتملة في شبكتك وأنظمتك، ولكن التحقق من صحة الثغرات الأمنية التي تشكل تهديدًا فعليًا للمؤسسة. عندها فقط يمكن تحديد أولويات التعرضات بشكل فعال، مما يسمح للمؤسسات بالتخفيف من التهديدات الأكثر خطورة أولاً قبل الانتقال إلى العناصر الأقل إلحاحًا. يستخدم المهاجمون الذكاء الاصطناعي لاستكشاف البيئات الرقمية بحثًا عن نقاط الضعف المحتملة قبل إطلاق هجمات مصممة خصيصًا، مما يعني أن القدرة على معالجة نقاط الضعف الخطيرة بطريقة آلية وفعالة لم تكن أكثر أهمية من أي وقت مضى.

كيف يمكن للمؤسسات دمج أدوات محاكاة الاختراق والهجوم للتحضير للهجمات التي تعتمد على الذكاء الاصطناعي؟

يعد برنامج BAS عنصرًا مهمًا في إدارة التعرض، مما يسمح للمؤسسات بإنشاء سيناريوهات هجوم حقيقية يمكنهم استخدامها للتحقق من صحة الضوابط الأمنية ضد التهديدات الأكثر إلحاحًا في يومنا هذا. يتم تطبيق أحدث المعلومات المتعلقة بالتهديدات والأبحاث الأولية الصادرة عن Cymulate Threat Research Group (جنبًا إلى جنب مع معلومات حول التهديدات الناشئة وعمليات المحاكاة الجديدة) يوميًا على أداة BAS الخاصة بـ Cymulate، لتنبيه قادة الأمن إذا لم يتم حظر تهديد جديد أو اكتشافه بواسطة ضوابط الأمان الحالية. باستخدام BAS، يمكن للمؤسسات أيضًا تصميم عمليات محاكاة تعتمد على الذكاء الاصطناعي لتناسب بيئاتها الفريدة وسياساتها الأمنية من خلال إطار عمل مفتوح لإنشاء وأتمتة الحملات المخصصة وسيناريوهات الهجوم المتقدمة.

ما هي أهم ثلاث توصيات يمكنك تقديمها لفرق الأمان للبقاء في صدارة هذه التهديدات الناشئة؟

التهديدات أصبحت أكثر تعقيدا كل يوم. إن المنظمات التي ليس لديها برنامج فعال لإدارة التعرض تتعرض لخطر التخلف بشكل خطير، لذا فإن توصيتي الأولى ستكون تنفيذ حل يسمح للمؤسسة بتحديد أولويات تعرضاتها بشكل فعال. بعد ذلك، تأكد من أن حل إدارة التعرض يتضمن إمكانات BAS التي تسمح لفريق الأمان بمحاكاة التهديدات الناشئة (الذكاء الاصطناعي وغيره) لقياس كيفية أداء ضوابط الأمان في المؤسسة. وأخيرا، أوصي بالاستفادة من الأتمتة لضمان إمكانية التحقق من الصحة والاختبار على أساس مستمر، وليس فقط أثناء المراجعات الدورية. مع تغير مشهد التهديدات من دقيقة إلى دقيقة، من المهم جدًا الحصول على معلومات محدثة. لقد أصبحت بيانات التهديد من الربع الأخير قديمة بالفعل.

ما هي التطورات في تكنولوجيا الذكاء الاصطناعي التي تتوقعها في السنوات الخمس المقبلة والتي يمكن أن تؤدي إلى تفاقم مخاطر الأمن السيبراني أو التخفيف منها؟

سيعتمد الكثير على مدى استمرارية الوصول إلى الذكاء الاصطناعي. اليوم، يمكن للمهاجمين ذوي المستوى المنخفض استخدام قدرات الذكاء الاصطناعي لرفع مستوى هجماتهم والارتقاء بها، لكنهم لا يبتكرون تكتيكات جديدة غير مسبوقة – إنهم فقط يجعلون التكتيكات الحالية أكثر فعالية. في الوقت الحالي، يمكننا (في الغالب) التعويض عن ذلك. ولكن إذا استمر الذكاء الاصطناعي في النمو بشكل أكثر تقدمًا وظل متاحًا بشكل كبير، فقد يتغير ذلك. وسوف تلعب القواعد التنظيمية دورا هنا ــ فقد اتخذ الاتحاد الأوروبي (وبدرجة أقل الولايات المتحدة) خطوات للتحكم في كيفية تطوير الذكاء الاصطناعي واستخدامه، لذلك سيكون من المثير للاهتمام معرفة ما إذا كان ذلك له تأثير على تطوير الذكاء الاصطناعي.

هل تتوقع حدوث تحول في كيفية قيام المؤسسات بإعطاء الأولوية لتهديدات الأمن السيبراني المتعلقة بالذكاء الاصطناعي مقارنة بتحديات الأمن السيبراني التقليدية؟

نحن نرى بالفعل أن المؤسسات تدرك قيمة الحلول مثل BAS وإدارة التعرض. يسمح الذكاء الاصطناعي للجهات الفاعلة في مجال التهديد بإطلاق حملات متقدمة ومستهدفة بسرعة، وتحتاج فرق الأمان إلى أي ميزة يمكنها الحصول عليها للمساعدة في البقاء في المقدمة. سيكون لدى المؤسسات التي تستخدم أدوات التحقق وقتًا أسهل بكثير في إبقاء رؤوسها فوق الماء من خلال تحديد أولويات التهديدات الأكثر إلحاحًا وخطورة وتخفيفها أولاً. تذكر أن معظم المهاجمين يبحثون عن نتيجة سهلة. قد لا تتمكن من إيقاف كل هجوم، لكن يمكنك تجنب جعل نفسك هدفًا سهلاً.

شكرًا لك على المقابلة الرائعة، وعلى القراء الذين يرغبون في معرفة المزيد زيارتها Cymulate.