بول ريد، نائب الرئيس للاستخبارات المعادية في AttackIQ – سلسلة مقابلات

بول ريد، نائب الرئيس للاستخبارات المعادية في AttackIQ، هو محترف خبير في عالم الأمن السيبراني السريع. مع أكثر من عقدين من الخبرة كاستراتيجي تقني لشركات التكنولوجيا الرائدة، قاد بول العملاء والشركاء والanalysts والصحفيين خلال المناظر الأمنية المتغيرة. وتشمل خبرته الأمن السيبراني والبيومترية وأمان الشبكة والتشفير.

最近، قاد فريقًا من صيادو التهديدات السيبرانية الذين يركزون على استخدام التحليلات السلوكية لاكتشاف التهديدات الناشئة في بيئات العملاء. بول هو مؤلف منشور في سلسلة Prentice Hall في شبكات الكمبيوتر والنظم الموزعة ويمتلك براءات اختراع متعددة في الأمن السيبراني.

AttackIQ هي شركة رائدة في الأمن السيبراني متخصصة في محاكاة الاختراق والهجوم (BAS) والتحقق المستمر من الأمن. منصة التحقق من التعرض المعادي تستخدم محاكاة MITRE ATT&CK لاختبار التحكم في الأمان، وتحديد الثغرات الأمنية، وتحديد الأولويات للتصحيح. تأسست AttackIQ في عام 2013، وتساعد المنظمات على تحسين وضعها الدفاعي، وتحسين كفاءة مركز العمليات الأمنية، وتقليل المخاطر.

لقد شغلت مناصب قيادية في مجموعة من المجالات الأمنية لما يزيد عن عقدين. ما هو الشيء الذي أثار اهتمامك لأول مرة بالبحث عن الاستخبارات المعادية، وكيف أدى ذلك إلى رحلتك إلى AttackIQ؟

بدأت رحلتي في الأمن السيبراني قبل أكثر من 25 عامًا، حيث قمت بإنشاء شبكات Novell و العمل في عالم خدمات الدليل — Novell، Microsoft Active Directory، LDAP. تلك الخبرة المبكرة علمتني أهمية الهوية، والتحقق، والوصول، أسس أي استراتيجية أمنية.

من هناك، انتقلت إلى مصادقة بطاقة الذكية، حيث كان لدي فرصة لكتابة مكتبات PKCS #11 والغمر في البنية التحتية العامة للمفتاح (PKI) خلال صعودها السريع. العمل مع التشفير المتماثل وغير المتماثل خلال تلك الحقبة أعطاني تقديرًا حقيقيًا لكيفية تشكيل التشفير الثقة في البيئات الرقمية.

في وقت لاحق من مسيرتي، تحولت إلى تصنيف البيانات، حيث ساعدت المنظمات على فهم قيمة بياناتها حتى يمكنها حماية ما يهمها أكثر. تلك الخبرة أدت بشكل طبيعي إلى العمل في تحليلات السلوك للمستخدم والكيان (UEBA)، حيث حصلت على تعرض عملي للعلوم البيانات والتعلم الآلي، بما في ذلك البرمجة في R.

في النهاية، كنت محظوظًا بقيادة فريق صيد التهديدات العالمي حيث قمنا بتتبع التهديدات المعادية للدولة في الوقت الفعلي. تلك كانت فترة مكثفة ومثيرة. لا توجد طريقة أفضل لفهم التكتيكات والتقنيات والإجراءات (TTPs) للمعاديين أكثر من المشاركة في العمليات اليومية ضدهم.

خلال ذلك الوقت، ظهرت إحباط متكرر: كنا نقول غالبًا، “لو فقط فعلوا X أو كان لديهم التحكم Y في المكان…” هناك فجوة بين الوعي بالتهديد والاستعداد الدفاعي التشغيلي.

ذلك ما أbrachtني في النهاية إلى AttackIQ. الفرصة لتطبيق ما تعلمته — لمحاكاة المعاديين الحقيقيين من خلال محاكاة الاختراق والهجوم، والتحقق من WHETHER الدفاعات هي فعلا فعالة — كانت أكثر من أن أتجاهلها. هنا، لا ننظر فقط إلى التهديدات؛ نختبر، ونقيس، ونحسن منهم كل يوم.

يتحرك فريقنا تحت مبدأ توجيهي: “فكر سيئًا، افعل خيرًا.” نفكر مثل المعاديين ليس لإيذاء، ولكن لمساعدة عملائنا على التحضير لهزمهم.

بعد قيادة الفرق في TITUS و Interset و Micro Focus، كيف أثرت خبرتك في استخبارات التهديدات وتمكين الشركاء على نهجك الحالي لتشغيل محاكاة المعادي؟

بعد العمل في الأدوار الفنية والتسويقية في شركات مثل TITUS و Interset و Micro Focus، طورت فهمًا شاملاً لكيفية ترجمة استخبارات التهديدات إلى نتائج تشغيلية، وليس فقط رؤى. تمكين الشركاء، على وجه الخصوص، علمني كيفية التواصل مع مشاكل الأمن السيبراني المعقدة بطريقة يمكن للجمهور المتنوع، من مسؤولي الأمن إلى محللي SOC في الخط الأمامي، أن يفهموها ويتخذوا إجراءات.

في AttackIQ، لا تمثل محاكاة المعادي فقط إعادة تشغيل سلوكيات التهديد. إنها حول محاكاة المعاديين بدقة، ومساعدة المنظمات على اختبار ما إذا كانت دفاعاتها ستحمل في سيناريو حقيقي. ذلك يتطلب أكثر من الدقة الفنية؛ إنه يتطلب التثقيف، والتعاون، وتمكين أصحاب المصلحة عبر النظام البيئي الأمني.

مساعدتي السابقة ساعدتني على فهم كيفية جسر الفجوة بين الاستخبارات والتنفيذ — كيفية تشغيل المناظر الأمنية بطريقة استباقية، وقابلة للقياس، ودفاعية. ذلك هو جوهر مهمتنا في AttackIQ.

الآن تقود البحث عن المعادي في وقت يعتمد فيه المهاجمون على الذكاء الاصطناعي على نطاق واسع. كيف رأيت تكتيكات الهجوم بالذكاء الاصطناعي تتطور في السنوات الأخيرة — وكيف يجد المدافعون صعوبة في مواكبةهم؟

المهاجمون يستخدمون الذكاء الاصطناعي لزيادة سرعة و دقة و نطاق عملياتهم. نشهد المزيد من الإغراء الشخصي والمصداقية، والهندسة الاجتماعية التي تم توليدها بواسطة الذكاء الاصطناعي، وزيادة نطاق و كفاءة الهجمات. تقلل هذه القدرات من الوقت بين الاستطلاع والتعرض، مما يضغط على نافذة المدافعين للرد. لا تزال العديد من المنظمات تعتمد على العمليات الاستجابة والقواعد الكاشفة الثابتة، والتي لم يتم تصميمها لمواجهة مهاجمين يتعلمون ويتطورون. المدافعون بحاجة إلى اعتماد التحقق المستمر من التعرض وإدارة التعرّض لتغطية هذه الفجوة، واختبار دفاعاتهم في ظروف واقعية وتكرارها بسرعة استجابةً لسلوكيات معادية جديدة.

ما يميز الهجمات المعادية بالذكاء الاصطناعي عن التهديدات السيبرانية التقليدية، ولماذا تعتقد أن تغييرًا في العقلية — وليس فقط الأدوات — مطلوب للاستجابة بشكل فعال؟

التهديدات التقليدية غالبًا ما تتبع أنماطًا معروفة يمكن للمدافعين تتبعها وتخفيفها من خلال الكشف القائم على القواعد. تكتيكات الهجمات المعادية بالذكاء الاصطناعي تطرح مستوى جديد من المتغيرية والتكيف ي挑ّي تلك الافتراضات. يمكنها توليد مسارات هجوم جديدة وتجنب الدفاعات بشكل ديناميكي. لمواجهة هذا التحول، يتطلب أكثر من نشر أدوات جديدة. إنه يتطلب تغييرًا استراتيجيًا في كيفية تفكير المنظمات في الدفاع. بدلاً من الاستجابة للحوادث بعد وقوعها، يجب على فرق الأمن أن تكون محاكاة التهديدات المتطورة باستخدام تكتيكات و تقنيات و إجراءات (TTPs) معروفة، والتحقق المستمر من التحكم في اختبار أنظمتها استجابةً للتغيرات.

يمكنك أن تفسر كيف يترجم AttackIQ استخبارات التهديدات إلى دفاع عملي من خلال محاكاة المعادي، وكيف تغيرت هذه العملية مع صعود الذكاء الاصطناعي التوليدي؟

التحدي التقليدي مع استخبارات التهديدات هو التشغيل. محاكاة المعادي تحل ذلك من خلال أخذ المعلومات حول سلوكيات التهديد المعروفة وتحويلها إلى اختبارات قابلة للتنفيذ لتقييم ما إذا كانت الدفاعات الحالية قادرة على تحمل تلك السلوكيات. مع الذكاء الاصطناعي التوليدي، يصبح منظر التهديد أكثر سائلة، مع سلوكيات أكثر تغيرًا. يجب أن تعكس محاكاة الآن ليس فقط التقنيات الثابتة ولكن أيضًا السلوك التكيفي والسياق الحسас.

أصبحت إدارة التعرض المستمرة للتهديد (CTEM) مكونًا أساسيًا من استراتيجيات الصلابة الأمنية. كيف يجب على المنظمات أن تتعامل مع CTEM عندما تواجه تهديدات مدعومة بالذكاء الاصطناعي سريعة التكيف؟

تمثل CTEM تحولًا من التقييمات المخاطر الثابتة إلى التحقق الأمني القائم على الاستخبارات الديناميكية. عند مواجهة تهديدات مدعومة بالذكاء الاصطناعي، يجب على المنظمات أن تعامل التعرض على أنه هدف متحرك. ذلك يعني تحديد وتحديد الأولويات للتعرضات بناءً على الاختبار النشط، وليس فقط المخاطر النظرية.

فرق الحمر والزرقاء تحتاج إلى التعاون في محاكاة المعاديين التكيفيين واختبار مستمر لقدرات الكشف والاستجابة. المنظمات التي تتبنى هذا النهج تكون أكثر قدرة على التكيف بسرعة، والتحقق من استثماراتها وضبطات الأمان، والحفاظ على الصلابة في منظر متغير بسرعة.

يدرس دورة “أساسيات أمن الذكاء الاصطناعي” من AttackIQ إطارات مخاطر مثل MITRE ATLAS و إطار إدارة المخاطر للذكاء الاصطناعي (AI RMF). أي جوانب من هذه الإطارات تجدها أقل استخدامًا أو مفهومة بشكل خاطئ في البيئات المؤسسية؟

من أكثر المفاهيم الخاطئة الشائعة التي نشاهدها هو میل إلى معاملة الإطارات مثل MITRE ATLAS و إطار إدارة المخاطر للذكاء الاصطناعي (AI RMF) كمراجع معزولة، وليس كأدوات تشغيلية لبناء الصلابة في الأنظمة المدعومة بالذكاء الاصطناعي.

MITRE ATLAS، مثل ATT&CK في أيامها الأولى، غالبًا ما يُعتبر كatalogًا ثابتًا لتقنيات الهجوم التي تستهدف أنظمة الذكاء الاصطناعي / التعلم الآلي. في الواقع، ATLAS هو إطار محاكاة معادي تكتيكي مصمم لمساعدة فرق الأمن على محاكاة تهديدات محددة بالذكاء الاصطناعي — من تسميم البيانات وتجنب النموذج إلى تحرير الاستدلال — والتحقق من قدرات الكشف والتسجيل والاستجابة. المشكلة هي أن معظم المؤسسات لم تبني بعد الرؤية أو التحكم اللازمين لاكتشاف الهجمات على خط أنابيب التعلم الآلي، مما يجعل استخدام ATLAS من خلال استراتيجيات محاكاة الاختراق والهجوم حاسمًا.

من ناحية أخرى، يُفهم إطار إدارة المخاطر للذكاء الاصطناعي (AI RMF) من NIST بشكل شائع على أنه قائمة مراجعة الامتثال. في الواقع، إنه إطار حوكمة استراتيجي — يدعم المنظمات في رسم خرائط لاستخدامات الذكاء الاصطناعي، وقياس المخاطر (بما في ذلك تلك التي تطرحها المعاديون)، وإدارتها من خلال تحديد الأولويات والتخفيف، وتضمين الرقابة على مدار دورة حياة النظام. حيث يعتبر ATLAS تكتيكيًا، يعتبر إطار إدارة المخاطر للذكاء الاصطناعي استراتيجيًا. الإطاران مکملان للغاية: يتيح ATLAS التحقق من المخاطر من خلال محاكاة العالم الحقيقي، بينما يوفر إطار إدارة المخاطر للذكاء الاصطناعي الهيكل لإدارة تلك المخاطر، ووضع الملكية، وترجمة ضمانات الذكاء الاصطناعي مع الأولويات التجارية.

في دورة أساسيات أمن الذكاء الاصطناعي، نعلم أن أحد أهم الجوانب الأقل استخدامًا هو وظائف “خريطة” و “قياس” — خاصة في التطبيقات الأولية. هذه الوظائف تشجع المنظمات على نمذجة ليس فقط سيناريوهات الاستخدام والاستخدام الخاطئ للنظام، ولكن أيضًا تحديد التهديدات المعادية في السياق. زوج هذا مع ATLAS يمنح المنظمات القدرة على التحرك أبعد من القلق النظري وبدء تشغيل أمن الذكاء الاصطناعي بطريقة ذات معنى ويمكن اختبارها.

في النهاية، الفرصة المفقودة تكمن في معاملة هذه الإطارات على أنها أكاديمية. عند استخدامها معًا، يتيح إطار إدارة المخاطر للذكاء الاصطناعي و ATLAS نهجًا مستنيرًا بالتهديد، ومدفوعًا بالمخاطر، لتأمين الذكاء الاصطناعي، مما يتحول من الحوكمة على مستوى cao إلى ضمان حقيقي.

من بين التهديدات الجديدة التي تبرزها قائمة OWASP Top 10 للنماذج اللغوية الكبيرة، أيهما تعتقد أن مسؤولي الأمن السيبراني أقل استعدادًا لها — ولماذا؟

LLM03: 2025 ثغرات سلسلة التوريد تкспلویت أعمى حاسم في الحوكمة والافتراضات الثقة المؤسسية من خلال التسلل عبر التحكمات التي لم يتم تصميمها في الأصل لأنظمة الذكاء الاصطناعي / التعلم الآلي. البرامج التقليدية للأمن تركز على حزم البرامج واعتماديات الشفرة، ولكن نماذج الذكاء الاصطناعي، التي تعامل معها غالبًا كموارد بيانات، تفتقر إلى نفس الفحص. ذلك يسمح بنماذج مدربة مسبقًا مُخترقة، أو محولات LoRA مُسممة، أو دمج Hugging Face مُخترق، أو دمجها في بيئات الإنتاج دون التحقق، أو التوقيع على الشفرة، أو التقييم السلوكي. لأن هذه النماذج لا تثير تحليلًا ثابتًا أو توقيعات البرامج الخبيثة، فإنها تعمل كتهديدات نائمة، تنشط فقط عند ظروف أو محفزات معينة تتجنب الكشف.

افتراض المؤسسة أن النظم البيئية أو السجلات الموثوقة تفرض معايير موثوقة يزيد من المشكلة. قد يعتقد فرق الأمن أن أنابيب DevSecOps وبرامج إدارة الموردين (TPRM) تغطي مخاطر الذكاء الاصطناعي، ولكن في الواقع، لا يفحص معظمهم سلالة مجموعة البيانات، أو يفرض إثبات النموذج، أو يطبق ضوابط SBOM-المعادل لنماذج الذكاء الاصطناعي. المهاجمون يستغلون هذا الثقة الخاطئة، ويعملون على أدوات النموذج المفتوح، أو يخترقون المحولات، أو يسممون البيانات المستخدمة في التعلم الدقيق، لدمج السلوك الخبيث بشكل صامت. بدون اختراق红 و حوكمة تضع في الاعتبار هذه الفجوات بشكل صريح، حتى المنظمات الأمنية جيدًا تتعرض لخطر التعرض التشغيلي من خلال نماذج الذكاء الاصطناعي الموثوقة غير المحدقة.

随着 بدء فرق الحمر والزرقاء في محاكاة معاديين مدعومين بالذكاء الاصطناعي، كيف تتطور محاكاة المعادي؟ هل ندخل عصرًا جديدًا من التحقق الأمني القائم على المحاكاة؟

随着 اعتماد المهاجمين للذكاء الاصطناعي في عملياتهم، يجب أن تتطور محاكاة المعادي خطوة تلو الأخرى، متجاوزة الكتب المحددة. يجب على فرق الحمر محاكاة سلوكيات ديناميكية شبيهة بالذكاء الاصطناعي: التحرك، وترقية الامتيازات، وتقنيات و إجراءات معادية (TTPs) مدروسة لتعكس كيفية تصرف مهاجم مدعوم بالذكاء الاصطناعي.

نحن ندخل عصرًا حيث تصبح المحاكاة مستمرة وقادرة على إدارة التهديدات. لم تعد تمارين فترة، ولكنها دمجت استخبارات التهديدات في الوقت الفعلي وتكررت في بيئات تشبه الإنتاج، واختبار التحكم تحت ظروف متطورة وغامضة. مع إدارة التعرض المستمرة للتهديد (CTEM)، يضمن هذا النهج أن يصبح التحقق الأمني وظيفة تشغيلية استراتيجية وليس مجرد مربع للتحقق.

نظرًا إلى المستقبل، ما هي المخاطر الناشئة للذكاء الاصطناعي التي تقلقك أكثر؟ وأين ترى أكبر فرصة للمدافعين للبقاء أمام المنحنى؟

المخاطر الأكثر قلقًا هي كيف يقلل الذكاء الاصطناعي من حاجز الدخول للهجمات المتطورة على نطاق واسع. ما كان يتطلب مهارات تقنية عميقة أصبح الآن متاحًا بشكل متزايد من خلال أدوات الذكاء الاصطناعي المُ_COMMERCIALIZED. يمكن للذكاء الاصطناعي تلقين استطلاع، وتوليد شفرة khai thác، وتصميم حملات phishing مخصصة، ويعمل بسرعة أكبر من الدفاعات التقليدية يمكنها التكيف.

من ناحية أخرى، للمدافعين فرصة موازية: لاستخدام الذكاء الاصطناعي والتشغيل الآلي للدفاع الاستباقي. من خلال تلقين المحاكاة، وتسريع الكشف، وprioritizing التعرضات بناءً على المخاطر الحقيقية، يمكن لفرق الأمن أن تتوقع تحركات المعاديين بدلاً من مجرد الاستجابة لها.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا AttackIQ.