مقابلات
كيث ستيوارت، المؤسس والرئيس التنفيذي لشركة Humanix – سلسلة المقابلات
كيث ستيوارت، المؤسس والرئيس التنفيذي لشركة Humanix، هو خبير أمن سيبراني مع أكثر من 25 عامًا من الخبرة في إدارة المنتجات، والهندسة، وتطوير الأعمال، والقيادة التنفيذية في بعض الشركات الأكثر شهرة في الصناعة، بما في ذلك Cisco و Brocade و Riverbed و vArmour. قبل تأسيس Humanix في عام 2023، شغل منصب الرئيس التنفيذي المؤقت ونائب الرئيس لمنتجات الهندسة في vArmour، حيث ساعد في إرشاد الشركة خلال عملية الاستحواذ وانتقالها إلى نموذج أعمال قائم على البرامج كخدمة. على مدار مسيرته المهنية، قاد ستيوارت فرق عالمية، وأطلق مبادرات أمنية هامة، وشارك في أنشطة التمويل والاستحواذ، ولعب دورًا رئيسيًا في تطوير تقنيات الأمن الجيل التالي. وقد أدت خلفيته الواسعة في أمن الشركات وفهمه العميق لكيفية استغلال المهاجمين لسلوك الإنسان إلى تأسيس Humanix بهدف حماية الناس من الهجمات الاجتماعية المتطورة بشكل متزايد.
Humanix هي شركة أمن سيبراني رائدة في ما يسمى بتحديد وتحليل التهديدات البشرية (HTDR)، وهي فئة جديدة تركز على حماية “طبقة الإنسان” في أمن الشركات. بدلاً من التركيز فقط على النقاط النهائية والشبكات والبنية التحتية، تستخدم Humanix الذكاء الاصطناعي المحادثي المدرب على علم النفس البشري وأنماط الهجمات اللغوية لاكتشاف التلاعب والخداع والتقليد وغيرها من أساليب الهندسة الاجتماعية عبر التفاعلات الصوتية والمراسلة الفورية والبريد الإلكتروني والفيديو وتفاعلات مكتب الدعم. تم تصميم المنصة لتحديد الهجمات في الوقت الفعلي، مما يساعد المنظمات على وقف الهجمات قبل أن يستغل المهاجمون الموظفين أو المتعاقدين أو العملاء. تعكس نهج Humanix الاعتراف المتزايد بأن معظم الهجمات الناجحة على السيبرانية تستهدف الأشخاص وليس الأنظمة، وتهدف الشركة إلى تزويد فرق الأمن بدرجة من الرؤية والاستجابة لتهديدات موجهة للإنسان مثل تلك الموجودة لتهديدات السيبرانية التقليدية.
لقد قادت تحولات كبيرة عبر شركات مثل vArmour، بما في ذلك انتقالات SaaS وتوسيع فرق الهندسة والملاحة في عمليات الاستحواذ. ما هو الفراغ أو النقطة التحولية التي أدت بك إلى تأسيس Humanix، ولماذا التركيز بشدة على حماية البشر بدلاً من الأنظمة؟
أكبر تحدي في موقف أمني لأي منظمة هو المخاطر البشرية. البشر هم أكثر أصول الدفاع قوة وأكبر منطقة من المخاطر المستمرة. ومع ذلك، فإن هذا هو مشكلة لم يتم حلها بشكل مستمر. وقد كانت إجابة الصناعة هي التدريب – بشكل فعال محاولة تحويل الموظف العادي إلى خبير أمن سيبراني في جلسة مدتها ساعة واحدة. نعرف أن هذا لا يعمل، ولكننا لم نمتلك حلًا أفضل.
لقد تغيرت أمورتان مؤخرًا، واحدة للأسوأ وواحدة للأفضل. أولاً، الأسوأ: يجعل الذكاء الاصطناعي الهجمات التي تستهدف البشر مباشرة أكثر سهولة. يمكنك الآن أن تكون مراهقًا على الجانب الآخر من العالم، ولا تتحدث كلمة إنجليزية، ولا تعرف شيئًا عن عمل معين، وفجأة يخبرك نموذج اللغة بالكثير من المعلومات ويبدو مثل أي شخص.
ثانيًا، تغيير للأفضل: لدينا الآن التكنولوجيا لاكتشاف هذه الهجمات. النماذج اللغوية هي جيدة جدًا في فهم دقة وتعقيد التفاعلات البشرية. مع الذكاء الاصطناعي المحادثي، يمكننا تحديد أنماط في هذه التفاعلات والاستجابة في الوقت الفعلي تقريبًا.
لم نعد بحاجة إلى الاعتماد فقط على استراتيجيات قديمة تركز على التدريب. لأول مرة، لدينا طريقة لحل مشكلة المخاطر البشرية بشكل مباشر. هذا هو السبب في بناء Humanix.
عملك طويل الأمد يركز على البيانات الكبيرة وتحليل السلوك والنمذجة الأمنية القائمة على الرسوم. كيف شكلت هذه الخبرات نهج Humanix لاكتشاف الهجمات التي لا تبدو مثل الهجمات التقليدية؟
على السطح، يبدو اكتشاف هجمات الهندسة الاجتماعية التفاعلية محاولة مرعبة. كل شخص مختلف. اللغة الطبيعية لها أبعاد عالية جدًا. النماذج السلوكية التقليدية القائمة على التعلم الآلي لا تفهم السياق، وبالتالي تفشل بشكل متكرر.
然而، عندما نغوص قليلًا، يمكننا رؤية أن هذه الفئة من الهجمات لها أنماط مثل أي هجمات أخرى. بدلاً من تجاوز الحدود أو اليوم الصفري، يستغل المهاجمون فجوات في العمليات التجارية والثقة البشرية. لدى المهاجمين كتيبات يتبعونها بشكل متسق ضد المنظمات، مما يعني أننا يجب أن نكون قادرين على اكتشاف واستجابة لهذه الهجمات كما نفعل على النقاط النهائية أو الشبكات أو السحاب أو الهوية.
تسمح لنا هذه الرؤية بدمج الأنماط الكلاسيكية لاكتشاف والاستجابة التي نعرف أنها فعالة – بما في ذلك تحليل السلوك ونظرية الرسوم – مع قدرات التفكير الدلالي للنماذج اللغوية. تستخدم Humanix هذا المزيج لفهم الكيانات والعلاقات والسلوك والمخاطر والتفاعل نفسه. هذا هو كيف ننشئ فئة جديدة من منتجات اكتشاف والاستجابة: تحديد وتحليل التهديدات البشرية.
تستخدم مجموعات جديدة مثل BlackFile هجمات احتيال صوتي وتلاعب اجتماعي في الوقت الفعلي بدلاً من تكتيكات مليئة بالبرامج الخبيثة. ماذا يخبرنا هذا التحول عن تغييرات المنظر الأمني؟
BlackFile هي جزء من تحول أوسع نحو هجمات أقل تركيزًا على إدخال البرامج الخبيثة إلى بيئة ما وأكثر تركيزًا على استخدام اللغة الطبيعية لفتح الباب.
لقد اكتشف هذه المجموعات أن مكالمة هاتفية مقنعة وسرد مبرر مقنع وكمية كافية من الضرورة يمكن أن تكون بنفس القدر من الفعالية مثل الاستغلال الفني، وأحيانًا أكثر صعوبة على فرق الأمن لرصدها. لم تتغير سطح الهجوم كثيرًا، ولكن ما تغير هو تركيز المهاجم.
الناس كانوا دائمًا جزءًا من سطح الهجوم. ما تغير هو نضج وتنظيم وتنفيذ كتاب الهجمات. الهندسة الاجتماعية يتم نسخها وتحسينها وتصنيعها لأنها تعمل.
نحن نشهد مهاجمين يتصيدون موظفي الدعم الفني ويستغلون الموظفين بشكل مباشر لتحقيق الوصول. لماذا تصبح تقنيات مثل vishing وتلاعب الدعم الفني نقاط دخول أولية فعالة؟
تكون تقنيات مثل vishing وتلاعب الدعم الفني فعالة جدًا لأنها تستغل مزيج الثقة والضرورة والوصول الموجود في العديد من تدفقات العمل الإدارية.
إذا كنت أريد الدخول إلى بيئتك، يمكنني قضاء أسابيع في البحث عن استغلال فني. أو يمكنني الاتصال بشخص مدرب على المساعدة، وإنشاء قصة معقولة، والحصول على ما أحتاجه، سواء كان ذلك إعادة تعيين كلمة المرور أو تسجيل عامل التحقق متعدد أو تغيير صلاحية أو موافقة على طلب.
الشخص على الطرف الآخر من المكالمة غالبًا ما يحاول حل مشكلة حقيقية تحت ضغط زمني، مع معلومات غير كاملة. هذا هو ما يجعل الدعم الفني هدفًا جذابًا. إنه أحد الأماكن القليلة التي يمكن أن تتحول فيها المحادثة مباشرة إلى وصول. بمجرد منح الوصول، يمكن أن يحدث الباقي بسرعة.
استثمرت الصناعة بشكل كبير في تدريب الموظفين، ومع ذلك، تستمر الهجمات التي تستهدف الأشخاص في الارتفاع. أين تقع نقاط الضعف في الوعي الأمني التقليدية، وماذا يحتاج إلى التغيير؟
لقد تم التعامل مع تدريب الوعي الأمني على أنه الدفاع الرئيسي ضد الهندسة الاجتماعية، على الرغم من أن النتائج تظهر بوضوح حدوده. تواصل المنظمات الاستثمار بشكل كبير في التدريب، ومع ذلك، يستمر المهاجمون في النجاح لأنهم يستهدفون الأشخاص في التفاعلات الحية، وليس في اختبار ما إذا كان الموظفون يتذكرون المواد من دورة.
هجوم الهندسة الاجتماعية ليس اختبارًا. إنه شخص على الطرف الآخر من مكالمة هاتفية أو سلسلة دردشة يخلق الضرورة والثقة ويحاول الحصول على شخص ما لاتخاذ إجراء لا ينبغي له أن يأخذه.
عندما يحدث شيء خاطئ، غالبًا ما يكون الاستجابة للاشتباه في الموظف وتحديده لتدريب إضافي. لكن الموظف كان يحاول المساعدة، وهو ما يطلبونه من الأعمال كل يوم. نحن بحاجة إلى停止 معاملة الهندسة الاجتماعية كمشكلة في الوعي فقط. إنها فئة هجوم، وينبغي لنا اكتشافها والاستجابة لها أثناء حدوث التفاعل.
تتمحور Humanix حول اكتشاف الهجمات على الأشخاص في الوقت الفعلي. ما هو شكل رؤية المخاطر البشرية في الممارسة؟
رؤية المخاطر البشرية تعني إعطاء فرق الأمن رؤية في التفاعلات الحية حيث يحاول المهاجمون التلاعب بالبشر لتحويل الوصول أو تجاوز إجراء مطلوب أو اتخاذ إجراء غير آمن آخر من behalf المهاجم.
اليوم، هذه التفاعلات غير مرئية بشكل فعال لأمان. شخص ما يتصل بالدعم الفني، أو يفتح تذكرة، أو يبدأ دردشة. يتم إعادة تعيين كلمة المرور، أو يتم تسجيل عامل التحقق متعدد، أو يتم تغيير صلاحية، أو يتم الموافقة على استثناء. هذه تدفقات عمل حساسة للغاية، ومع ذلك، لا تملك فرق الأمن أي رؤية أو رصد.
تغير هذا Humanix. نحن نربط أنفسنا بنظم الاتصالات الداخلية التي تستخدمها الشركات بالفعل – Microsoft 365 و ServiceNow و Zoom و Slack وغيرها. يراقب Humanix الإجراءات والتفاعلات عبر هذه القنوات، ويقارنها بالتكتيكات الهجومية والإجراءات الشركية.
هل تم التحقق من هوية المتصل بشكل صحيح؟ هل تحدثوا حول التحقق؟ هل كان هناك ضرورة أو تقليد أو ضغط لتفادي خطوة مطلوبة؟ هل كان الوكيل على وشك اتخاذ إجراء مخاطر عالي؟ كيف تغيرت صورة المخاطر مع تقدم المكالمة؟ توفر Humanix اكتشاف الأمان والاستجابة أثناء حدوث التفاعل، وتخبر فريق الأمان إذا كان شيء يبدو مشبوهًا.
الهدف النهائي لهذه التحليلات ليس معاقبة الضحايا بعد الحادث. إنه حمايةهم في اللحظة. إذا أصبحت المحادثة هجومًا، فإن فريق الأمان يحتاج إلى معرفة ذلك.
مع تحسين تقنيات الصوت والصوت المزيف التي تم إنشاؤها بواسطة الذكاء الاصطناعي، كم نحن قريبون من النقطة التي تصبح فيها الثقة البشرية أضعف سطح هجوم؟
لقد كانت الثقة البشرية واحدة من أسوأ أسطح الهجوم منذ فترة طويلة. يجعل الذكاء الاصطناعي الهجمات التي تستهدف الثقة بشكل مباشر أكثر سهولة.
然而، يجب أن نكون حذرين من الانحراف الزائد حول حالة “الصوت المزيف” المحددة. الصوت المزيف هو مجرد واحد من وسائل الإعلام التي يمكن للمهاجمين استخدامها لخداع شخص ما. في الواقع، إذا نظرنا إلى غالبية هجمات الهندسة الاجتماعية الناجحة على مدار السنوات القليلة الماضية، فإن معظمها لم يكن صوتًا مزيفًا – بل مهاجمين بشريين ومخادعين يرفعون الهاتف.
يجب على فرق الأمان التركيز على الرسالة، وليس الوسيلة. شخص ما يتم الضغط عليه لانتهاك السياسة أو الموافقة على استثناء في ظروف مشبوهة – هذه هي السلوكيات الخطرة الحقيقية. توجد المخاطر في التفاعل نفسه والإجراء الذي يهدف إليه.
الثقة ليست شيئًا يمكننا إزالته من الأعمال. الناس يجب أن يردوا على المكالمات، ويحُلّوا المشاكل، ويوافقوا على الطلبات، ويساعدوا بعضهم البعض. لا يمكن أن تكون الإجابة جعل الجميع أقل بشرية. يجب أن يكون حماية اللحظات التي تستغل فيها الثقة.
ما هو الدور الذي يجب أن يلعبه الذكاء الاصطناعي في الدفاع ضد الهندسة الاجتماعية التي ي驱ها الذكاء الاصطناعي، وما هي أكبر التحديات الفنية في اكتشاف التلاعب في الوقت الفعلي؟
يفتح الذكاء الاصطناعي المحادثي الفرصة لتحويل الهندسة الاجتماعية التي ي驱ها الذكاء الاصطناعي من مشكلة تدريب إلى مشكلة اكتشاف واستجابة. النماذج اللغوية تسمح لنا بتطبيق كل ما تعلمناه من مجالات مثل النقاط النهائية أو الشبكات وتطبيقه على الطبقة البشرية.
هناك العديد من التحديات الفنية في جعل هذا الرؤية حقيقة. اللغة الطبيعية لها أبعاد عالية جدًا، مما يعني هناك طرقًا لا حصر لها لنقل نفس المعنى. قول “أنا مغلق من نظامي” هو بيان وظيفي متساوي مع قول “أحتاج إلى إعادة تعيين كلمة المرور”، حتى لو لم يتم استخدام كلمات “كلمة المرور” و “إعادة تعيين” أبدًا.
هناك أيضًا أهمية السياق. التفاعلات البشرية هي سياقية وتراكمية، وبالتالي التلاعب البشري أيضًا. يمكن للمتصل أن يبدو هادئًا ومحترمًا ومقنعًا بينما يوجه شخصًا حول التحقق أو نحو إجراء غير آمن. نحن بحاجة إلى دمج إشارات متعددة وبيانات سياقية معًا لفصل البيانات الحقيقية عن الخبيثة بدقة.
أخيرًا، كل منظمة مختلفة. لديها إجراءات وnorms مختلفة، ومعظمها غير قابل للقراءة آليًا. هذا هو مجال آخر حيث يمكن للذكاء الاصطناعي أن يكون مساعدًا كبيرًا – فهم هذه السياسات ومقارنتها بالسلوكيات الملاحظة في العالم الحقيقي.
ما هو التوجيه الذي يجب على مسؤولي الأمن الرئيسيين اتباعه لإعادة التفكير في هيكلتهم إذا انتقلت ساحة المعركة الأساسية إلى سلوك الإنسان؟
أولاً، يجب على مسؤولي الأمن الرئيسيين الاعتراف正式ًا بما نعرفه جميعًا بinstinct – رأس المال البشري لمنظمة ما هو فئة أصول تحتاج إلى إدارة. يجب نمذجة التهديدات والمخاطر بدقة وضبطها.
إطار الأمن السيبراني في NIST يوفر إرشادات حول كيفية القيام بذلك. “التحديد” و “الإدارة” للأشخاص هما جزء من مجموعة إدارة الأصول (ID.AM) من تحديد المخاطر. ومع ذلك، يحدد العديد من المنظمات مشكلة المخاطر البشرية كمشكلة تدريب، ويتحكمون فيها فقط من خلال متطلبات تدريب الوعي الأمني. هذا يحتاج إلى التغيير.
عندما نعتبر رأس المال البشري كفئة أصول خاصة به، يفتح هذا اللعب القياسي الذي ننفذه لكل فئة أصول أخرى. ما هي المخاطر الرئيسية (ID.RA)? كيف أدافع بشكل منهجي ضد них (الحماية)? ما هي أنظمتنا والعمليات لاكتشاف ما إذا كان المهاجم على وشك اختراق دفاعاتنا، أو أسوأ، قد فعل ذلك بالفعل (اكتشاف)? كيف يستجيب المنظمة لاحتواء التهديد وإعادة تشغيل الخدمات (استجابة واستعادة)? من خلال اتباع نهج منهجي متساوٍ لرأس المال البشري كما نفعل لأي فئة أصول أخرى، يمكننا تحديد المخاطر بشكل أكثر وضوحًا وتحديد الأولويات بشكل أكثر فعالية للموارد لإدارة تلك المخاطر.
متطلعًا إلى الأمام، هل تتوقع أن تهيمن هجمات الطبقة البشرية على الجريمة الإلكترونية، أو سنرى نموذجًا هجينًا حيث تتقارب التutomatization والهندسة الاجتماعية التي ي驱ها الذكاء الاصطناعي لتصبح أكثر صعوبة في الدفاع عنها؟
من المحتمل أن يكون نموذجًا هجينًا. لدينا أمورًا تحدث بشكل متزامن. أولاً، المهاجمون يتعلمون كيفية توسيع هجماتهم بالذكاء الاصطناعي، وزيادة الوصول وتقليل تكلفة هذه الفئة من الهجمات. ثانيًا، الشركات نفسها تمر بتحول في الذكاء الاصطناعي بقيادة الخدمات التجارية التي يتم مهاجمتها من قبل BlackFile وأقرانها.
خدمات الدعم الفني، وخدمة الدعم، وعمليات المالية، والدعم الداخلي يتم تحويلها جميعًا من خدمات بشرية إلى خدمات مدعومة بالذكاء الاصطناعي. هذا يعني أننا سوف نشهد انفجارًا في سطح الهجوم اللغوي مع إزالة الحس البشري. تم تدريب النماذج اللغوية الكبيرة على الاستجابة للتعليمات وكونها مفيدة. الشكوك أو “الانفعالات” البشرية التي كانت بعض أفضل دفاعاتنا ضد هجمات الهندسة الاجتماعية تم إزالتها عمدًا من استجابات النموذج.
نتيجة لذلك، فإن تعرض الشركات لهذه الفئة من الهجمات سيزداد几乎 بالتأكيد على مدار السنوات القليلة القادمة. البشر والوكلاء كلاهما معرضان للهجمات اللغوية. فرق الأمن بحاجة إلى البدء في التخطيط اليوم لخطة دفاع واستجابة منهجية لهذه الواقع الجديد.
شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد Humanix.
