مقابلات
آرتى سامانى، المؤسس والرئيس التنفيذى لشركاء نمو شريم – سلسلة المقابلات
آرتى سامانى، المؤسس والرئيس التنفيذى لشركاء نمو شريم، هو قائد تقني و استراتيجى فى مجال الذكاء الاصطناعى مع أكثر من عقدين من الخبرة فى قيادة النمو عبر الذكاء الاصطناعى، والهوية الرقمية، وأمان البصمات البيولوجية. شغل مناصب عليا فى شركة آى بروف وشركة جراحة رقمية (التي تم الاستحواذ عليها من قبل شركة ميدترونيك)، وقاد استراتيجيات المنتج والتسويق العالمية وضمن جولات تمويل كبرى. وهو معلق متكرر فى البى بى سى ومتحدث رئيسى فى الفعاليات العالمية بما فى ذلك مؤتمر موني 20/20 ومهرجان كوج اكس، ويكون مستشارًا للboards والتنفيذيين فى أخلاقيات الذكاء الاصطناعى والحوكمة والمخاطر، مما يساعد المنظمات على بناء الثقة والقدرة على الصمود فى عصر الذكاء الاصطناعى.
تساعد شركاء نمو شريم المنظمات على الحماية من عمليات الاحتيال بالصور المزيفة والتعريف الذاتى القائم على الذكاء الاصطناعى من خلال التركيز على طبقة الدفاع البشرية. من خلال التدريبات المخصصة وبرامج الإطلاع التنفيذية وتقييمات الضعف والاستشارات الاستراتيجية، تجهيز الفرق والقادة للتعرف على محاولات التلاعب والاستجابة لها ومنعها. من خلال تعزيز الوعى والاستعداد والقدرة على الصمود الثقافية، تمكن شريم المنظمات من حماية هويتها وسمعتها وقوتها العاملة من التهديدات المتطورة للذكاء الاصطناعى.
لقد أسست شركاء نمو شريم بعد شغل مناصب عليا فى شركة آى بروف وشركة جراحة رقمية ميدترونيك وشركات أخرى تعتمد على الذكاء الاصطناعى. ما هو الذى ألهمك لتأسيس شركة مخصصة بشكل خاص لتحمل مخاطر الاحتيال بالصور المزيفة؟
بعد إطلاق تشات جى بى تى فى أواخر عام 2022، شهدنا انفجارًا فى أدوات الإعلام القائم على الذكاء الاصطناعى القادرة على استنساخ الأصوات والوجوه فى دقائق. رأت معظم المنظمات أنها معززات إبداعية للتصميم والتسويق. ولكن الجناة رأوا فرصة جديدة للهندسة الاجتماعية أكثر تأثيرًا.
أصبحت الصور المزيفة سلاح الجناة المختار لخداع الناس. استجابت فرق الأمن من خلال الاستثمار فى تكنولوجيا الكشف، ولكن الكشف وحده لا يمكن أن يحل مشكلة تتمثل فى الثقة البشرية. كانت علم النفس هو نقطة عمى الصناعة.
أدى ذلك إلى تأسيسى لشركاء نمو شريم، شركة مخصصة لبناء قدرة تحمل مخاطر الاحتيال بالصور المزيفة من خلال الوعى والتحاكى والقدرة على الصمود المعرفية. تعزيز قدرة الناس على التفكير بشكل نقدي ومقاومة التلاعب هو المفتاح لتخفيف هذا النوع من الاحتيال.
فى شركة آى بروف، عملت فى طليعة البصمات البيولوجية للوجه وتحقق الهوية. كيف كشفت تلك الخبرة عن التهديد المتزايد الذى تشكله الصور المزيفة لأنظمة التحقق؟
كما رئيس المنتج والتسويق فى شركة آى بروف، ساعدت فى جلب تحقق الهوية البيومترية للوجه إلى المنظمات الحساسة للأمن فى كل من القطاعين العام والخاص. هذه المؤسسات هي أهداف دائمة للجريمة الإلكترونية المنظمة. أعداؤهم هم ذكى وممولون جيدًا ومجهزون بتكنولوجيا متقدمة.
بدنا نرى محاولات للتحايل على أنظمة البصمات البيومترية باستخدام صور مزيفة مبنية من هويات مسروقة. لأن شركة آى بروف تعمل كخدمة إدارية سحابية، يمكننا ملاحظة تلك الهجمات فى الوقت الفعلي وتحليل كيف تتطور كل نسخة. أصبح من الواضح أن الجناة يتعلمون أسرع من سرعة سوق التكيف.
أعطت تلك الخبرة وجهة نظر داخلية لتطور الاحتيال المدعوم بالصور المزيفة وفهمًا عميقًا لكيفية قيادة الإبداع وعلم النفس الجريمة الإلكترونية. نفس الفهم للعقلية الإجرامية ي告ى عملى الآن فى مجال قدرة تحمل مخاطر الاحتيال بالصور المزيفة.
تستخدم الصور المزيفة بشكل متزايد فى التقليد التنفيذى واختراق الصوت والهجمات الهندسية الاجتماعية. ما هي السيناريوهات التى ترى أكثرها شيوعًا فى الميدان اليوم؟
من الأسهل دائمًا الحصول على الوصول من خلال الهندسة الاجتماعية أكثر من كسر أنظمة الأمن.随着 زيادةawareness الناس عن الاحتيال التقليدى، يتحول الجناة إلى طرق جديدة لخداع الثقة.
أصبحت تكنولوجيا الصور المزيفة الأداة الهندسية الاجتماعية الأكثر قوة التى رأيناها على الإطلاق. تمكن المخادعين من إنشاء إشارات ثقة عالية الجودة: وجوه وآصوات وسردية تتفادى الحكم البشرى.
لا يقتصر الفوائد الإجرامية على التقليد التنفيذى أو المدفوعات. يتزايد الهدف من الممتلكات الفكرية والبيانات الحساسة وأدلة الوصول. من خلال تدريب وكلاء الذكاء الاصطناعى وتزويدهم بأصوات مزيفة، يمكن تنفيذ الاحتيال الآن بسرعة وضبط ودقة لا يمكن لمهاجم بشرى أن يطابقها.
ما يميز برنامج قدرة تحمل مخاطر الاحتيال بالصور المزيفة عن التدريب الأمنى التقليدى أو التدريب ضد الاحتيال؟
تم إنشاء التدريب الأمنى كما نعرفه فى بداية عام 2000، عندما كان الإنترنت والحوسبة التجارية لا تزال فى طور التكوين. منذ ذلك الحين، تطور المحتوى لتلائم احتياجات الامتثال، مع التركيز على منصات LMS والتحفيز من خلال الألعاب. ولكن المنظر الأمنى تحرك.
الاحتيال اليوم ذكى ومبتكر ومدروس نفسيا. يستخدم الجناة الذكاء الاصطناعى بنفس الذكاء مثل الأكاديميين أو الشركات. يجب أن يتجاوز التدريب الامتثال ويدخل فى المعرفة.
لا يمكن تقليص تدريب قدرة تحمل مخاطر الاحتيال بالصور المزيفة إلى ما إذا كان شخص ما ي点击 على رابط. يجب أن يعلّم الناس التفكير بشكل نقدي، وطرح تساؤلات حول صحة الوجوه والأصوات التى يتفاعلون معها، والتعرف على كيفية التلاعب بالتصور بسهولة.
يجب وضع نفس التركيز على القدرة على الصمود المعرفية. تضع العواطف المرتفعة، والأذهان المنشغلة، والتنفيذ المتعدد المستمر الضعف فى التفكير بشكل نقدي. تطور القدرة على الصمود المعرفية موظفين لتحفيز التوازن العاطفى، والبقاء تحليليا، واليقظة. هو بالضبط العقلية المطلوبة لمقاومة التلاعب.
تقدم شركتك تقييمات ضعف الصور المزيفة وتدريبات طاولة. يمكنك أن تشرح لنا ما يشبه واحد من تلك المحاكات؟ وما هي المعلومات التى يكتسبها العملاء عادة؟
فى تقييمات ضعف الصور المزيفة وتدريبات الطاولة، نمثل أحدث متجهات الهجوم المدعومة بالصور المزيفة المستمدة من الحوادث الحقيقية. تشمل السيناريوهات الشائعة متقدم وظيفى مزيف يستخدم هوية مستنسخة، أو مكتب دعم تقنى مخترق لإعادة تعيين بيانات اعتماد التحقق المزدوج، أو مكالمة فيديو مع شخصية مولدة بالذكاء الاصطناعى تؤدى إلى إقناع الموظفين بتحميل برنامج ضار.
تكشف تلك المحاكات عن كيفية استجابة الناس فى ظل الضغط وتكشف عن النقاط العمياء فى الاتصالات والعمليات واستجابة الحوادث. غالبًا ما يكتشف التنفيذيون نقصًا فى الخبرة وملكية القرار غير واضحة. عادة ما تؤدى النتائج إلى برنامج صمود مستدام. واحد يngthenes أدبيات الاحتيال، وتغيير العملية والثقافة، والاستعداد للأزمات فى جميع أنحاء المنظمة.
غالبا ما تتحدث عن إدارة المخاطر المركزة على البشر. كيف يمكن للشركات تمكين موظفيهامكافحة التلاعب بالصور المزيفة بدلا من الاعتماد فقط على الأدوات الفنية؟
تستغل الصور المزيفة نفس الدوائر العصبية التى تساعدنا على تقييم الثقة والعاطفة. أدمغتنا موجهة لتأتى الأولوية للإشارات البصرية والسمعية، لأنها أول الحواس التى نتطورها. ولكننا لم نتطور بعد للشك فى تلك الإشارات بشكل غريزى، لذلك يجب أن نتعلم ونعزز تلك المهارة باستمرار.
يمكن للشركات تمكين موظفيهامعاملات التفاعل الرقمى بحذر وفتور. عندما نكون فى مكالمة صوتية أو فيديو، نحن نتعامل مع أثر. ذلك الأثر قد يكون شخصًا حقيقيا يتم إسقاطه على الشاشة أو قد يكون اصطناعيا. لا يمكننا تحديد ذلك بصرى.
الدواء الوحيد هو التحقق الفعال: طرح الأسئلة الصحيحة، ومراجعة التفاصيل، وملاحظة عدم الاتساق فى السرد. يجب أن يكون الشعار الجديد بسيطًا – لا ثقة، دائمًا تحقق.
تضيف الصور المزيفة خطًا بين المعلومات الخاطئة والاحتيال. كيف يمكن للمديرين التنفيذيين الاستعداد لآثار الأزمات التى تسببها حوادث وسائل الإعلام المزيفة على السمعة التشغيلية؟
يجب على فرق القيادة معاملات حوادث الصور المزيفة كخطر أساسى على الأعمال، وليس خياليا. يجب أن يعرف كل فريق تنفيذى دوره عند وقوع أزمة.
على نفس النحو الذى يراجع المجلس سجلات المخاطر، يجب أن يراجعوا أيضا خطط استجابة الحوادث، ويتطلب أن تكون تلك الخطط ديناميكية. المنظر الأمنى يتغير بسرعة كبيرة. تحتاج الخطط إلى أن تختبر وتحديث على الأقل مرتين فى السنة، افضل بعد تدريب طاولة ي模ثل حدثًا حقيقيا.
نادرًا ما تقع أزمات الصور المزيفة بشكل جيد فى وظيفة واحدة. تتطلب التنسيق بين الاتصالات والقانون والأمن و الموارد البشرية. المنظمات التى تستجيب بشكل أفضل هى تلك التى يمرر قادتها التأهب قبل وقوع الحادث.
هناك أيضًا تكلفة نفسية عندما يصبح الموظفون أو التنفيذيون أهدافًا لصور مزيفة مقنعة. ما الدعم أو البروتوكولات التى يجب أن تضعها المنظمات لمعالجة ذلك التأثير البشرى؟
يجب تجنب “خجل الاحتيال” فى جميع الأوقات. يجب على المنظمات بناء ثقافة السلامة النفسية قبل حدوث الحادث. عندما يصبح الموظفون أو التنفيذيون أهدافًا لصور مزيفة، يمكن أن يشعر الفرد بخسارة السيطرة على شبهه وصوته وهويته الرقمية.
يجب أن يكون الرد إجرائيا وإنسانيا. يجب أن تتوافق بروتوكولات الإبلاغ الواضحة مع دعم الصحة النفسية والاستجوابات السرية والوصول إلى التحقيقات الرقمية حتى يفهم الأفراد ما حدث.
يحدد القادة التون. عندما يتحدث التنفيذيون بصراحة عن محاولات التلاعب والتعافي، يزيلون الوصمة ويشجعون على الشفافية. تلك الشفافية هى ما يحول الضعف الفردي إلى صمود جماعى.
كما مؤسس لاستشارة فى هذا المجال، ما هي أكبر مخاوفك حول سرعة تطور الذكاء الاصطناعى التوليدى – وأين ترى الموجة القادمة من قدرات الصور المزيفة؟
يتطور الذكاء الاصطناعى التوليدى بسرعة استثنائية. ذلك فى حد ذاته ليس القلق. المخاطر الحقيقية تكمن فى تبنيه السريع واللصق عبر العمليات التجارية اليومية. لم يكن темп إدارة التهديد والوعى يتوافق مع ذلك. ذلك الفجوة بين التهديد والقدرة على الصمود هى بالضبط المكان الذى يزدهر فيه المخادعون، مع الصور المزيفة كأداة تمكينهم الأكثر فاعلية.
كل ابتكار جديد يصبح سطحًا آخر للاستغلال. حاليًا، تطرح وكلاء الذكاء الاصطناعى خطرًا متزايدًا. عند الجمع بين تكنولوجيا الصور المزيفة، يمكنهم تنفيذ الاحتيال بسرعة وضبط ودقة لا يمكن لمهاجم بشرى أن يطابقها.
عكس ذلك، ما التكنولوجيا أو الجهود التعاونية التى تمنحك التفاؤل بأننا يمكن أن نتجاوز الاحتيال المدعوم بالصور المزيفة والمعلومات المضللة؟
حقيقة أن هذا الحديث يحدث فى منشور محترم هو فى حد ذاته علامة على التقدم. يظهر أن المبتكرين والمنظمين والاعلام والشركات جميعًا يتأثرون بشكل كبير بالمعلومات المضللة.
ما يمنحنى التفاؤل هو زيادة الرغبة فى التعاون. لن تأتى صمود الصور المزيفة من أداة واحدة أو منظمة واحدة، ولكن من الذكاء المشترك. تعلم التبادل المعلومات وتثقيف المجتمع بنفس الكفاءة التى يفعلها المخادعون.
لا تزال بحاجة إلى تحسين كيفية حدوث ذلك التعاون، ولكن النية موجودة. وتلك النية الجماعية هى ما سيعيد فى النهاية الثقة.
شكراً على المقابلة الرائعة، القراء الذين يرغبون فى التعلم أكثر يجب أن يزوروا آرتى سامانى.
