كارل فروجيت، مدير المعلومات في ديب إنستينكت – سلسلة المقابلات

كارل فروجيت، هو مدير المعلومات (CIO) في ديب إنستينكت، وهي شركة تأسست على فرضية بسيطة: أن التعلم العميق، وهو فرع متقدم من الذكاء الاصطناعي، يمكن تطبيقه على الأمن السيبراني لمنع المزيد من Threats، بشكل أسرع.

السيد فروجيت لديه سجل حافل في بناء الفرق، وهندسة الأنظمة، وتنفيذ برامج المؤسسات على نطاق واسع، بالإضافة إلى محاذاة العمليات والأدوات مع متطلبات الأعمال. كان فروجيت سابقًا رئيس الدفاع العالمي، ومدير الأمن السيبراني في سيتي.

خلفيتك في صناعة المالية، هل يمكنك مشاركة قصتك عن كيف انتقلت إلى الأمن السيبراني؟

بدأت العمل في الأمن السيبراني في أواخر التسعينيات عندما كنت في سيتي، انتقلت من دور في تكنولوجيا المعلومات. انتقلت بسرعة إلى منصب قيادي، وتطبيق خبرتي في عمليات تكنولوجيا المعلومات على عالم الأمن السيبراني المتطور والمتحدي. في العمل في الأمن السيبراني، كان لدي فرصة التركيز على الابتكار، بالإضافة إلى نشر وتشغيل حلول الأمن السيبراني لمتطلبات الأعمال المختلفة. خلال فترتي في سيتي، شملت مسؤولياتي الابتكار، والهندسة، والتسليم، والتشغيل لمنصات عالمية لأعمال سيتي و عملائها على مستوى العالم.

كنت جزءًا من سيتي لمدة أكثر من 25 عامًا وقضيت معظم هذه الفترة في قيادة فرق مسؤولة عن استراتيجيات الأمن و جوانب الهندسة. ما هو الشيء الذي جذبك للانضمام إلى شركة ديب إنستينكت الناشئة؟

انضممت إلى ديب إنستينكت لأنني أردت أن آخذ تحديًا جديدًا وأستخدم خبرتي بطريقة مختلفة. لمدة 15 عامًا، كنت متورطًا بشكل كبير في شركات الأمن السيبراني والفينتك، وتوجيه ونمو الفرق لدعم نمو الأعمال، واختراق بعض الشركات إلى الاكتتاب العام. كنت على دراية بديب إنستينكت وشاهدت تقنية التعلم العميق الفريدة والمبتكرة تنتج نتائج لا يستطيع أي مورد آخر تحقيقها. أردت أن أكون جزءًا من شيء سيجلب عصرًا جديدًا من حماية الشركات من Threats الخبيثة التي نواجهها كل يوم.

يمكنك مناقشة لماذا تطبيق ديب إنستينكت للتعلم العميق على الأمن السيبراني هو مبدع؟

عندما تشكلت ديب إنستينكت في البداية، وضعت الشركة هدفًا طموحًا لثورة صناعة الأمن السيبراني، وتقديم فلسفة منع أولًا بدلاً من أن تكون في المؤخرة مع نهج “اكتشف، استجب، احتوِ”. مع زيادة الهجمات السيبرانية، مثل الفدية، واستغلالات يوم الصفر، وتهديدات غير معروفة أخرى، فإن نموذج الأمن التفاعلي الحالي لا يعمل. الآن، مع استمرارنا في رؤية Threats تزيد في الحجم والسرعة بسبب الذكاء الاصطناعي التوليدي، واعادة اختراع المهاجمين، والابتكار، والتجاوز، تحتاج المنظمات إلى قدرة تنبؤية ومنع لتبقى خطوة واحدة أمام الفاعلين السيئين.

الذكاء الاصطناعي العدائي يزداد مع استغلال المهاجمين لبرامج مثل WormGPT، و FraudGPT، وبرامج ملتوية، وغيرها. دخلنا وقتًا حاسمًا، وهو الوقت الذي يتطلب من المنظمات محاربة الذكاء الاصطناعي بالذكاء الاصطناعي. ولكن ليس كل الذكاء الاصطناعي متساوٍ. يتطلب الدفاع ضد الذكاء الاصطناعي العدائي حلولًا مدعومة bởi شكل أكثر تطورًا من الذكاء الاصطناعي، وهو التعلم العميق. معظم أدوات الأمن السيبراني تعتمد على نماذج التعلم الآلي التي تظهر عدة عيوب لأفرقة الأمن عند منع Threats. على سبيل المثال، يتم تدريب هذه العروض على مجموعات بيانات محدودة (عادة 2-5٪)، وتقدم دقة 50-70٪ مع Threats غير معروفة، وتقدم العديد من الإيجابيات الكاذبة. حلول التعلم الآلي تتطلب أيضًا تدخلًا بشريًا كبيرًا، ويتدربن على مجموعات بيانات صغيرة، مما يجعلهم عرضة للتحيز والخطأ البشري. إنهم بطيئون، وغير مستجيبين حتى على النقطة النهائية، مما يسمح للتهديدات بالبقاء حتى التنفيذ، بدلاً من التعامل معها أثناء الخمول. ما يجعل التعلم العميق فعالًا هو قدرته على التعلم الذاتي أثناء استهلاك البيانات والعمل بشكل مستقل لتحديد واكتشاف ومنع Threats المعقدة.

كيف يمكن للتعلم العميق أن يمنع بشكل تنبؤي Threats غير معروفة التي لم تُ遇َ من قبل؟

Threats غير معروفة يتم إنشاؤها بطرق مختلفة. أحد الطرق الشائعة هو تغيير الهاش في الملف، والذي يمكن أن يكون صغيرًا مثل إضافة بايت. حلول أمن النقطة النهائية التي تعتمد على قوائم سوداء الهاش تكون عرضة لهذه “الطفرات” لأن توقيعات الهاش الحالية لن تتطابق مع هاشات الطفرات الجديدة. التعبئة هي تقنية أخرى يتم فيها تعبئة الملفات الثنائية مع حزمة توفر طبقة عامة على الملف الأصلي – يمكن اعتبارها كماسك. يتم إنشاء متغيرات جديدة عن طريق تعديل الملف الثنائي الأصلي نفسه. يتم ذلك على الميزات التي قد يوقع عليها موردو الأمن، بدءًا من السلاسل الثابتة، وأسماء IP / المجال للخادم C&C، ومفاتيح السجل، و مسارات الملفات، وبيانات التعريف، أو حتى الشهادات، ومتحولات، وامتدادات الملفات المرتبطة بالملفات المشفرة بواسطة الفدية. يمكن تغيير أو إضافة الأكواد أو أجزاء منها، مما يتجاوز تقنيات الكشف التقليدية.

التعلم العميق مبني على شبكة عصبية، ويتدرب باستمرار على البيانات الخام. النقطة المهمة هنا هي أن التعلم العميق يستهلك جميع البيانات المتاحة، دون تدخل بشري في التدريب – هذا هو السبب في دقته. هذا يؤدي إلى معدل فعالية عالي جدًا ومعدل إيجابيات كاذبة منخفض جدًا، مما يجعله مقاومًا جدًا ل Threats غير معروفة. مع إطارنا للتعلم العميق، لا نعتمد على التوقيعات أو الأنماط، لذلك منصتنا غير متأثرة بالتغييرات في الهاش. نحن أيضًا نصنف بنجاح الملفات المعبأة – سواء كانت بسيطة ومعروفة أو حتى FUDs.

منظور منع أولًا غالبًا ما يكون مفتاح الأمن السيبراني، كيف تركز ديب إنستينكت على منع الهجمات السيبرانية؟

البيانات هي العصب الحياتي لكل منظمة، وควร أن تكون حماية البيانات أولوية قصوى. كل ما يلزم هو ملف خبيث واحد لاختراقه. لسنوات، كان “افتراض الاختراق” هو العقلية الأمنية الافتراضية، وقبول حتمية أن البيانات سوف يتم الوصول إليها بواسطة ممثلي التهديد. ومع ذلك، فإن هذه العقلية والأدوات المبنية على هذه العقلية فشلت في تقديم حماية بيانات كافية، والمهاجمون يستفيدون تمامًا من هذا النهج السلبي. أظهرت أبحاثنا 最近 أن هناك المزيد من حوادث الفدية في النصف الأول من عام 2023 أكثر من عام 2022 بأكمله. لمواجهة هذا التهديد المتغير لا يتطلب فقط التحرك بعيدًا عن عقلية “افتراض الاختراق”، بل يتطلب أيضًا نهجًا جديدًا تمامًا وأسلحة منع جديدة. التهديد جديد ومجهول، وسريع، لذلك نرى هذه النتائج في حوادث الفدية. تمامًا مثل توقيعات لا يمكن أن تتبقّى مع التهديد المتغير، لا يمكن لأي حل موجود مبني على التعلم الآلي أن يبقى.

في ديب إنستينكت، نستخدم قوة التعلم العميق لتوفير نهج منع أولًا للأمن البياناتي. منصة ديب إنستينكت للتنبؤ والمنع هي الحل الأول والوحيد مبني على إطار التعلم العميق الفريد المصمم خصيصًا للأمن السيبراني. إنه الحل الأمني الأكثر كفاءة وفعالية وموثوقية في السوق، ويمنع أكثر من 99٪ من Threats يوم الصفر والفدية و Threats غير معروفة أخرى في أقل من 20 مللي ثانية بمعدل إيجابيات كاذبة أقل من 0.1٪. لقد طبقنا بالفعل إطار التعلم العميق الفريد لحماية التطبيقات و النقاط النهائية، وأخيرًا مددنا القدرات إلى حماية التخزين مع إطلاق ديب إنستينكت للتنبؤ والمنع للتخزين.

التحرك نحو منع تنبؤي للأمن البياناتي مطلوب للبقاء أمام الثغرات، وحدود الإيجابيات الكاذبة، وتخفيف ضغط فريق الأمن. نحن في طليعة هذه المهمة، وتبدأ في الحصول على زخم حيث يتبنى الموردين التقليديون الآن قدرات منع أولًا.

يمكنك مناقشة ما نوع بيانات التدريب التي يتم استخدامها لتدريب نماذجك؟

مثل نماذج الذكاء الاصطناعي والتعلم الآلي الأخرى، يتدرب نموذجنا على البيانات. ما يجعل نموذجنا فريدًا هو أنه لا يحتاج إلى بيانات أو ملفات من العملاء ليتعلم وينمو. هذا الجانب الفريد من الخصوصية يعطي عملائنا شعورًا إضافيًا بالأمان عند نشر حلولنا. ننضم إلى أكثر من 50 تغذية ونحمل الملفات منها لتدريب نموذجنا. من هناك، نقوم بالتحقق والتصنيف البيانات بأنفسنا باستخدام الخوارزميات التي طوّرناها داخليًا.

بسبب نموذج التدريب هذا، нам فقط أن ننشئ 2-3 “أدمغة” جديدة في السنة في المتوسط. يتم推ّ هذه الأدمغة الجديدة بشكل مستقل، مما يقلل بشكل كبير من أي تأثير تشغيلي على عملائنا. كما لا يتطلب ذلك تحديثات مستمرة للاستمرار مع التهديد المتغير. هذا هو ميزة المنصة التي تعمل بالتعلم العميق، وتمكّننا من تقديم نهج منع أولًا، بينما تقدم حلول أخرى مدعومة بالذكاء الاصطناعي والتعلم الآلي قدرات تفاعلية.

مرة واحدة عندما تكون قاعدة البيانات جاهزة، ننشئ مجموعات بيانات باستخدام جميع أنواع الملفات مع تصنيفات خبيثة وبريئة بالإضافة إلى بيانات أخرى. من هناك، نتدرب دماغًا على جميع البيانات المتاحة – لا نستخدم أي بيانات أثناء عملية التدريب، مما يساهم في معدل إيجابيات كاذبة منخفض ومعدل فعالية عالي. هذه البيانات تتعلم باستمرار دون تدخلنا. نضبط النتائج لتعليم الدماغ، ثم يستمر في التعلم. إنه مشابه جدًا لطريقة عمل الدماغ البشري وطريقة تعلمنا – كلما كنا متعلمين أكثر، كنا أكثر دقة وذكاء.

مرة واحدة عندما نحصل على مستوى فعالية عالي جدًا، ننشئ نموذج استدلال يتم توزيعه على العملاء. عندما يتم نشر النموذج في هذه المرحلة، لا يمكنه تعلم أشياء جديدة. ومع ذلك، لديه القدرة على التفاعل مع بيانات جديدة وتهديدات غير معروفة وتحديد ما إذا كانت خبيثة. أساسًا، يتخذ “قرار يوم الصفر” على كل ما يراه.

ديب إنستينكت يعمل في بيئة حاوية العميل، لماذا هذا الأمر مهم؟

إحدى حلول منصتنا، ديب إنستينكت للتنبؤ والمنع للتطبيقات (DPA)، يقدم القدرة على استغلال قدرات التعلم العميق من خلال واجهة برمجة التطبيقات / واجهة iCAP. هذه المرونة تمكّن المنظمات من دمج قدراتنا الثورية داخل التطبيقات والبنية التحتية، مما يعني أننا يمكن أن نوسع نطاقنا لمنع Threats باستخدام استراتيجية أمن عميق. هذا هو ميزة فريدة. DPA يعمل في حاوية (نحن نقدمها)، ويتوافق مع استراتيجيات التحديث الرقمي الحديثة التي يتبعها عملاؤنا، مثل chuyển إلى بيئات حاوية على الموقع أو في السحابة لتطبيقاتهم وخدماتهم. بشكل عام، هذه العملاء يتبنون أيضًا “الانتقال إلى اليسار” مع DevOps. نموذج خدمتنا الموجهة بالواجهة البرمجية يكمّل ذلك من خلال تمكين التطوير والخدمات المتنقلين لمنع Threats.

من خلال هذا النهج، تندمج ديب إنستينكت بشكل متجانس في استراتيجية التكنولوجيا للمنظمة، مستفيدة من الخدمات الحالية دون أي قلق بشأن الأجهزة أو اللوجستيات الجديدة أو العبء التشغيلي الجديد، مما يؤدي إلى تكوين التكلفة الإجمالية منخفض جدًا. نستفيد من جميع الفوائد التي تقدمها الحاويات، بما في ذلك التوسيع التلقائي الضخم عند الطلب، ومقاومة الأعطال، ووقت تأخر منخفض، وترقيات سهلة. هذا يسمح ب استراتيجية أمن سيبراني منع أولًا، ودمج منع Threats في التطبيقات والبنية التحتية بمقياس ضخم، مع كفاءات لا يمكن حلول تقليدية تحقيقها. بسبب سمات التعلم العميق، لدينا ميزة التأخير المنخفض، ومعدل الفعالية / معدل الإيجابيات الكاذبة المنخفض، مع الحساسية للخصوصية – لا يغادر الملف أو البيانات الحاوية أبدًا، وهو دائمًا تحت سيطرة العميل. منتجنا لا يحتاج إلى مشاركة مع السحابة، أو القيام بالتحليلات، أو مشاركة الملفات / البيانات، مما يجعله فريدًا مقارنة بأي منتج موجود.

الذكاء الاصطناعي التوليدي يقدم إمكانية توسيع الهجمات السيبرانية، كيف تحافظ ديب إنستينكت على السرعة المطلوبة لصد هذه الهجمات؟

إطار التعلم العميق لدينا مبني على الشبكات العصبية،所以 “دماغه” يستمر في التعلم والتدريب على البيانات الخام. السرعة والدقة التي يعمل بها الإطار هي نتيجة لدماغ مدرب على مئات الملايين من العينات. مع نمو مجموعات بيانات التدريب، يصبح الشبكة العصبية أكثر ذكاءً، مما يسمح لها بالتعرف على المكونات الأساسية للملفات الخبيثة بمستوى أكثر تفصيلًا من أي حل آخر. بسبب ذلك، يمنع التعلم العميق Threats المعروفة والغير معروفة و Threats يوم الصفر بأكثر دقة وسرعة من المنتجات الأمنية التقليدية. هذا، بالإضافة إلى حقيقة أن “دماغنا” لا يحتاج إلى تحليلات سحابية أو عمليات بحث، يجعله فريدًا. التعلم الآلي بمفرده لم يكن كافياً، لذلك لدينا تحليلات سحابية لدعم التعلم الآلي – ولكن هذا يجعلها بطيئة وتفاعلية. التعلم العميق ببساطة لا يملك هذا القيد.

ما هي بعض أكبر Threats التي تزيد مع الذكاء الاصطناعي التوليدي التي يجب على الشركات أن يأخذنها في الاعتبار؟

البريد الإلكتروني الخبيث أصبح أكثر تطورًا بفضل تطور الذكاء الاصطناعي. في السابق، كان البريد الإلكتروني الخبيث عادة ما يكون سهل التمييز لأنه كان يحتوي على أخطاء نحوية. ولكن الآن، يستخدم ممثلو التهديد أدوات مثل ChatGPT لإنشاء رسائل بريد إلكتروني أكثر تعقيدًا وصحية نحويًا وباللغات المختلفة التي يصعب على مرشحات البريد العشوائي والقارئين اكتشافها.

مثال آخر هو التزوير العميق الذي أصبح أكثر واقعية ومصداقية بفضل تطور الذكاء الاصطناعي. أدوات الذكاء الاصطناعي الصوتية cũng تستخدم لمحاكاة أصوات التنفيذيين داخل الشركة، وترك رسائل صوتية مخادعة للموظفين.

كما هو مذكور أعلاه، يستخدم المهاجمون الذكاء الاصطناعي لإنشاء Threats غير معروفة يمكنها تعديل سلوكها لتجاوز حلول الأمن، وتجنب الكشف، وانتشارها بشكل أكثر فعالية. سوف يستمر المهاجمون في استغلال الذكاء الاصطناعي لا فقط لإنشاء Threats جديدة ومبتكرة وفريدة من نوعها التي تتجاوز حلول موجودة، ولكن أيضًا لتحسين سلسلة الهجوم من النهاية إلى النهاية. هذا سوف يقلل من تكاليفهم، ويزيد من نطاقهم، وفي الوقت نفسه، يؤدي إلى حملات أكثر تطورًا ونجاحًا. صناعة الأمن السيبراني تحتاج إلى إعادة التفكير في الحلول الحالية، والتدريب، وبرامج الوعي التي اعتمدناها خلال 15 عامًا الماضية. كما نرى في اختراقات هذا العام وحده، أنها فشلت بالفعل، وسوف يزداد الأمر سوءًا.

يمكنك تلخيص أنواع الحلول التي تقدمها ديب إنستينكت فيما يتعلق بالتطبيقات والنقاط النهائية والتخزين؟

منصة ديب إنستينكت للتنبؤ والمنع هي الحل الأول والوحيد مبني على إطار التعلم العميق الفريد المصمم لحل تحديات الأمن السيبراني اليوم – وهي منع Threats قبل أن تتمكن من التنفيذ والهبوط على بيئتك. المنصة لها ثلاثة ركائز:

1. بدون وكلاء، في بيئة حاوية، متصلة عبر واجهة برمجة التطبيقات أو ICAP: ديب إنستينكت للتنبؤ والمنع للتطبيقات هو حل بدون وكلاء يمنع الفدية و Threats يوم الصفر و Threats غير معروفة أخرى قبل وصولها إلى تطبيقاتك، دون التأثير على تجربة المستخدم.
2. الوكلاء على النقطة النهائية: ديب إنستينكت للتنبؤ والمنع للنقاط النهائية هو منصة منع أولًا مستقلة قبل التنفيذ – وليس بعد التنفيذ مثل معظم الحلول اليوم. أو يمكنه تقديم طبقة منع حقيقية لمكمل أي حلول EDR موجودة. يمنع Threats المعروفة والغير معروفة و Threats يوم الصفر والفدية قبل التنفيذ، قبل أي نشاط خبيث، مما يقلل بشكل كبير من حجم التنبيهات ويقلل من الإيجابيات الكاذبة بحيث يمكن لفريق الأمن التفاعلي التركيز فقط على Threats حقيقية وذات جودة عالية.
3. نهج منع أولًا لحماية التخزين: ديب إنستينكت للتنبؤ والمنع للتخزين يقدم نهجًا تنبؤيًا لمنع الفدية و Threats يوم الصفر و Threats غير معروفة أخرى من اختراق بيئات التخزين – سواء كانت البيانات مخزنة على الموقع أو في السحابة. يوفر حلًا سريعًا وفعالية عالية على التخزين المركزي للعملاء، ويتجنب أن يصبح التخزين نقطة انتشار وتوزيع لأي Threats.

شكرًا على المراجعة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا ديب إنستينكت.