أوديان باكسون، كبير الاستراتيجيين التقنيين في IRONSCALES – سلسلة مقابلات

أوديان باكسون، كبير الاستراتيجيين التقنيين في IRONSCALES، خبير مخضرم في الأمن السيبراني واستراتيجية المنتجات، ولديه خبرة تمتد لأكثر من عقدين في مجالات أمن البريد الإلكتروني، واكتشاف التهديدات، والشبكات، وتقنيات المؤسسات. يركّز في IRONSCALES على إطلاق المنتجات، وصياغة الرسائل وتحديد المواقع، واستراتيجيات دخول السوق، وقيادة الفكر بشأن استخدام الذكاء الاصطناعي والتعلّم الآلي للتصدي لتهديدات أمن البريد الإلكتروني الناشئة. وتشمل مسيرته المهنية مناصب عليا في إدارة المنتجات، وتسويقها، وتطوير الأعمال لدى Netgate وBlueCat وAlert Logic وCritical Watch وIconix وStrix Systems وIntel. وقد اضطلع باكسون بأدوار محورية في إطلاق منتجات الأمن السيبراني والشبكات، ووضع استراتيجيات دخول المؤسسات إلى السوق، وتوسيع أعمال الشركات إلى أسواق جديدة، كما أنه شريك في اختراع تقنية أمنية حاصلة على براءة اختراع.

IRONSCALES شركة متخصصة في أمن البريد الإلكتروني مدعومة بالذكاء الاصطناعي، وتركّز على حماية المؤسسات من التصيد الاحتيالي، واختراق البريد الإلكتروني للأعمال، والاستيلاء على الحسابات، والتزييف العميق، وغيرها من تهديدات الهندسة الاجتماعية المتطورة. تجمع منصتها بين الذكاء الاصطناعي التكيّفي والذكاء البشري والمجتمعي لاكتشاف التهديدات والتحقيق فيها ومعالجتها عبر Microsoft 365 وGoogle Workspace، مع توفير إمكانات لمحاكاة التصيد الاحتيالي، والتدريب على التوعية الأمنية، وحماية البريد الإلكتروني الصادر، وأمن النطاقات. ووسّعت الشركة نهجها بإضافة وكلاء متخصصين للذكاء الاصطناعي في محاكاة الهجمات على الفرق الحمراء، وعمليات أمن التصيد الاحتيالي، ومحاكاة التصيد الاحتيالي؛ صُمّموا لاستباق الهجمات، والتحقيق في الأنشطة المشبوهة، وتعزيز دفاعات الموظفين. وتقول IRONSCALES إن تقنيتها مستخدمة لدى أكثر من 18,000 مؤسسة، وإنها تستفيد من معلومات استخباراتية تسهم بها مجموعة تضم أكثر من 36,000 متخصص في الأمن.

تمتد مسيرتك في أمن البريد الإلكتروني لأكثر من عقدين، وتشمل المساعدة في تطوير منتجات مبكرة لمكافحة التصيد الاحتيالي، فيما ينصب تركيزك الآن على كيفية توظيف الذكاء الاصطناعي والتعلّم الآلي للتصدي لتهديدات البريد الإلكتروني الناشئة. من واقع هذه الخبرة، ما الجوانب التي تبدو جديدة حقًا في الهندسة الاجتماعية المدعومة بالذكاء الاصطناعي، وما أوجه المشكلة التي بقيت مألوفة على نحو يثير الدهشة؟

شكرًا لأنك جعلتني أبدو عجوزًا! عندما بدأنا مكافحة التصيد الاحتيالي في أوائل العقد الأول من القرن الحادي والعشرين، كانت المشكلة الأكبر هي الوعي، ولم يكن بوسع المرشحات سوى تقييم سمعة نطاق المرسل. لكن الأساليب لم تتغير كثيرًا. الاستعجال، والسلطة، وفاتورة مزيفة. أتعرف اليوم على كل الذرائع تقريبًا التي أراها. ما غيّره الذكاء الاصطناعي هو العائق المرتبط بالمهارة الحرفية، إذ أصبح بوسع مهاجم غير متمرّس أن ينتج على نطاق واسع نسخة متقنة ومخصّصة من عملية احتيال تعود إلى عام 2004.

وجدت Anthropic أن Claude Mythos 5 استطاع التعرّف على مؤشرات تدل على الإنترنت الحقيقي عندما عُرضت عليه تلك المؤشرات بمعزل عن غيرها، لكنه أخفق إلى حد كبير في التصرف بناءً على الأدلة نفسها عندما كان منغمسًا في مهمة. ماذا تكشف هذه الفجوة عن الفرق بين امتلاك نموذج ذكاء اصطناعي للمعرفة وتطبيقه لها فعليًا في اللحظة المناسبة؟

أنا متخصص في أمن البريد الإلكتروني، لا باحث في الذكاء الاصطناعي، لذا أقرأ الأمر من هذا المنظور. أُبلغ Mythos منذ البداية بأنه يعمل داخل محاكاة، وكان لهذا التأطير الغلبة. وقد فسّر الأدلة الحقيقية على نحو يستبعدها لأنها لم تنسجم مع القصة التي كان يعيشها بالفعل. هذه ذريعة تؤدي غرضها، ولهذا يبذل المهاجمون جهدًا كبيرًا لترسيخ الإطار أولًا.

ثمة هنا تشابه لافت مع سلوك البشر عند تعرضهم للتصيد الاحتيالي: فقد يتمكن الموظف بسهولة من تحديد المؤشرات المريبة أثناء التدريب، لكنه يغفل المؤشرات نفسها عندما يكون مستعجلًا أو منشغلًا بإتمام مهمة أخرى. إلى أي مدى تعتقد أن المقارنة بين أحكام البشر والذكاء الاصطناعي يمكن أن تكون وجيهة؟

إلى حدّ ما. فكلاهما يفقد خيط الأمور عندما يكون منهمكًا في مهمة، كما أن رسالة تبدو جزءًا من إجراء عمل روتيني (“المطالبات التالية بحاجة إلى المراجعة”) تمرّ دون تدقيق لدى البشر والنماذج على حد سواء. لكن المقارنة لا تصمد عندما يتعلق الأمر بالعاطفة. فالبشر قد يستعجلون أو يخافون أو يحرصون على إرضاء الآخرين. أما الوكيل، فيتعثر بسبب محفزاته الخاصة، مثل التعليمات التي لا يستطيع تمييزها من البيانات التي يقرأها.

ركّز التدريب الأمني تقليديًا على تعليم الناس التعرّف على الروابط الضارة، والطلبات غير المعتادة، وانتحال الشخصية، وغيرها من العلامات التحذيرية. إذا كان كل من البشر وأنظمة الذكاء الاصطناعي قادرًا على تجاهل مؤشرات يفهمها من الناحية التقنية، فهل ينبغي لفرق الأمن أن تولي اهتمامًا أقل بالتعرّف على هذه المؤشرات، واهتمامًا أكبر بكيفية اتخاذ القرارات تحت الضغط وفي سياق معين؟

نعم. يفترض التدريب على التعرّف أن الناس منتبهون. ويصمم المهاجمون الرسائل لتصل حين لا يكونون كذلك، أو لتحملهم على نسيان ما تعلموه. والاستثمار الأجدى هو إدراج وقفة للتروي في اللحظات المهمة (مثل إجراء المدفوعات، وإعادة تعيين بيانات الدخول، وتغيير صلاحيات الوصول)، كيلا يتخذ أي شخص أو وكيل قرارًا من هذا النوع بصورة آلية.

مع ازدياد اندماج وكلاء الذكاء الاصطناعي في صناديق البريد وسير العمل داخل المؤسسات، قد يتمكن المهاجمون على نحو متزايد من التلاعب بنظام الذكاء الاصطناعي نفسه عبر الهندسة الاجتماعية، بدلًا من استهداف الموظف وحده. كيف قد يبدو هجوم صُمم خصيصًا للتلاعب بوكيل بريد إلكتروني أو مساعد مستقل؟

إنها رسالة بريد إلكتروني موجّهة إلى الوكيل، تُخفى فيها التعليمات عن الإنسان باستخدام نص أبيض على خلفية بيضاء، أو نص بديل للصورة، أو لغة أخرى، كي تتجاوزها المرشحات المُهيّأة للغة الإنجليزية. في أحد السيناريوهات التي أعدّها فريقنا البحثي، تُزرع «حقيقة» زائفة في ذاكرة الوكيل («الموافقات الواردة من finance@ مُعتمدة مسبقًا»)، بحيث تمرّ رسالة بريد إلكتروني مالية منتحلة بعد أسابيع من دون عوائق. وفي سيناريو آخر، يُخفى نص داخل صورة فاتورة يطلب من الوكيل تصنيفها على أنها منخفضة المخاطر وتلخيصها على أنها آمنة للدفع. ويثق الإنسان بالملخّص.

هل يمكن للمهاجمين تعمّد إنشاء سلاسل طويلة من التفاعلات التي تبدو مشروعة، لدفع نظام ذكاء اصطناعي تدريجيًا نحو قرار سيئ، بدلًا من الاعتماد على رسالة بريد إلكتروني أو موجّه واحد واضح الخبث؟ وما مدى صعوبة اكتشاف أدوات الأمن الحالية لهذه الهجمات متعددة الخطوات؟

تحدث هذه الهجمات بالفعل ضد البشر، والوكلاء هم الهدف التالي. يرسل المهاجمون بضع رسائل بريد إلكتروني غير ضارة (رسالة تعارف وأخرى للشكر) لإزالة التنبيهات الخاصة بالمرسلين لأول مرة، ثم ينتقلون إلى رسائل تتصل بدور الشخص المستهدف، ولا يرسلون الحمولة إلا بعد ذلك؛ وغالبًا ما تكون دعوة إلى اجتماع يحتوي رابطها على صفحة سليمة بالنسبة إلى أدوات الفحص، بينما يوجّه المستخدمين الفعليين إلى موقع تصيّد. تفوت هذه الهجمات على الأدوات التي تقيّم كل رسالة بريد إلكتروني بمعزل عن غيرها. فلا تبدو أي رسالة بمفردها سيئة، لذا ينبغي تقييم العلاقة بمرور الوقت.

غالبًا ما يُناقش التصيّد المُنشأ بالذكاء الاصطناعي من حيث تحسين الصياغة والتخصيص والتزييف العميق. هل يقلقك أكثر أن يحسّن الذكاء الاصطناعي محتوى هجمات الهندسة الاجتماعية، أم أن يستخدمه المهاجمون لفهم متى وكيف يُرجّح أن يرتكب هدف بعينه خطأً؟

كلا الأمرين، لكن معركة المحتوى حُسمت بالفعل. أصبح التصيّد المصقول المكتوب بالذكاء الاصطناعي هو المعيار منذ انتشار ChatGPT على نطاق واسع. أما التحول الأكبر فهو أتمتة استهداف الضحايا وتخصيص الرسائل وتوقيت إرسالها، ما يتيح لشخص لا يملك أي مهارات تقنية الجمع بين بيانات الاختراقات وقوائم كلمات المرور المسرّبة، مثل قائمة RockYou الشهيرة، والاستيلاء على صندوق بريد حقيقي، ثم إرسال رسالة منتحلة تحاكي بريدًا إلكترونيًا اعتياديًا بشأن معاملة، في اللحظة التي يتوقع فيها الهدف تلقيها.

مع تزايد قدرة المهاجمين على إزالة مؤشرات الخطر التقنية الواضحة وجعل الرسائل الضارة تبدو مشروعة، ما الإشارات التي تصبح الأهم للتمييز بين التواصل المشروع والتلاعب؟

السياق أولًا. مثلًا، هل هذا الأمر مألوف من هذا الشخص أو المورّد، عبر هذه القناة، وفي هذا التوقيت؟ ثم يأتي الإلحاح والتكرار. فالشخص الذي لديه طلب عاجل حقًا سيتصل بك هاتفيًا أو يراسلك عبر Teams أو Slack. ولن يرسل الرسالة الإلكترونية نفسها ثلاث مرات. وثق بحدسك أيضًا. قاعدتي هي: «لا تتعجل فعل شيء؛ تمهّل»، لذا توقّف قليلًا، واطلب من شخص آخر أن يراجع الأمر، وتحقق منه عبر قناة مختلفة.

كيف ينبغي للمؤسسات تنظيم الإشراف البشري وإشراف الذكاء الاصطناعي عندما يكون لكل منهما نقاط ضعف محتملة؟ وهل يمكن أن يؤدي الجمع بين الحكم البشري والذكاء الاصطناعي إلى نشوء نقاط عمياء جديدة إذا افترض كل طرف أن الطرف الآخر قد تحقّق من القرار؟

أسند إلى كل طرف المهمة التي يجيدها، واجعل عملية التسليم بينهما واضحة. يتولى الذكاء الاصطناعي معالجة كميات كبيرة من البيانات ورصد الأنماط في البيئة بأكملها؛ أما القرارات ذات العواقب الكبيرة، مثل تحويل الأموال ومنح صلاحيات الوصول، فتظل من مسؤولية البشر. وعلى الذكاء الاصطناعي عرض الأدلة كي يتمكن المراجع من التحقق من مسوّغات القرار. والنقطة العمياء التي تصفها حقيقية. والحل هو وضع قاعدة صارمة… فلا يُعدّ قول «الذكاء الاصطناعي قال إن الأمر آمن» مراجعةً بشريةً أبدًا.

إذا كانت المشكلة الجوهرية تتمثل في فجوة بين ما يعرفه البشر أو أنظمة الذكاء الاصطناعي وما يدركونه أثناء تنفيذ مهمة ما، فما التغييرات العملية التي يمكن للمؤسسات اتخاذها اليوم لتضييق هذه الفجوة، وجعل تنفيذ هجمات الهندسة الاجتماعية بنجاح أصعب بكثير؟

استعيدوا ضابطًا قديمًا كنا نستخدمه عند تحرير الشيكات، وهو «فصل المهام». يمكن لشخص إنشاء مستخدم جديد، لكنه لا يستطيع تفعيله؛ ويمكن لشخص ثانٍ تفعيل مستخدم، لكنه لا يستطيع إنشاءه؛ ويُخطَر شخص ثالث بالأمرين. طبّقوا الفصل نفسه على المدفوعات وتغييرات المورّدين ووكلاء الذكاء الاصطناعي لديكم (فلا ينبغي لأي وكيل أن يطلب إجراءً ويوافق عليه في الوقت نفسه). فلا يستطيع موظف واحد وقع ضحية الخداع أو وكيل واحد جرى اختراقه إتمام الهجوم بمفرده.

شكرًا لكم على هذه المقابلة الرائعة. ويمكن للقراء الراغبين في معرفة المزيد زيارة IRONSCALES.