تخيل ذلك: أنت في العمل، مركز تمامًا على موعد نهائي ضيق، عندما تتلقى مكالمة هاتفية من رقم هاتف يبدو أنه ل電話 أمك. الصوت على الطرف الآخر لا يخطئ في أنه hers، هادئ ومحبة، ولكن مع تلميح غير عادي من الاستعجال. تقول لك إنها واجهت مشكلة خطيرة أثناء إجازتها في باريس وتحتاج إلى مساعدتك المالية على الفور لترتيب الأمور. أنت تعرف أنها في باريس، والتفاصيل التي توفرها، حتى اسم فندقها، تجعل المكالمة أكثر اقناعًا. دون تفكير ثاني، تقوم بنقل الأموال، فقط لتحقق لاحقًا أن أمك لم تكن هي التي أجرت المكالمة؛ كانت نظامًا متقدمًا للذكاء الاصطناعي يقلد صوتها ويخترع سيناريو مفصلًا. يمر الرعب في عظامك عندما تدرك ما حدث.

هذا السيناريو، الذي كان في السابق خيالًا علميًا خالصًا، أصبح الآن حقيقة ناشئة. فجر تكنولوجيا الذكاء الاصطناعي مثل النماذج اللغوية الكبيرة (LLMs) جلب تقدمًا رائعًا. ومع ذلك، تلوح تهديدًا كبيرًا: الاحتيال المدعوم بالذكاء الاصطناعي. الإمكانية المتقدمة للاحتيال المدعوم بالذكاء الاصطناعي هي تهديد جديد على أفق التقدم التكنولوجي. بينما كانت عمليات الاحتيال الهاتفي مصدر قلق منذ اختراع الهاتف، فإن التكامل الواسع للنماذج اللغوية الكبيرة (LLMs) في كل جانب من جوانب الاتصالات الرقمية رفع الرهان بشكل كبير. مع تقدمنا في استغلال إمكانيات الذكاء الاصطناعي، من المهم أن نتعزز دفاعاتنا ضد هذه التهديدات المتزايدة التعقيدًا.

المنظر الحالي لعمليات الاحتيال الهاتفي

حاول المجرمون خداع الأفراد غير المتوقعين لتحويل الأموال أو إفشاء معلومات حساسة لسنوات، ولكن على الرغم من انتشار عمليات الاحتيال الهاتفي، فإن العديد من هذه الاحتيال لا يزال غير متقدم، ويعتمد على مشغلين بشريين يقرؤون النصوص. ومع ذلك، حتى مع هذه القيود، لا يزال الاحتيال الهاتفي مشروعًا جنائيًا رائعًا.

وفقًا لـ لجنة التجارة الفيدرالية الأمريكية، في عام 2022 وحده، خسر الأمريكيون أكثر من 8.8 مليار دولار بسبب الاحتيال، مع نسبة كبيرة منه يُعزى إلى عمليات الاحتيال الهاتفي، مما يعني أن العديد من هذه الأساليب لا تزال تعمل على الأفراد الأضعف حتى في شكلها الحالي الأقل تقدمًا. ماذا سيحدث عندما تتطور هذه العمليات؟

مستقبل الاحتيال المدعوم بالذكاء الاصطناعي

منظر عمليات الاحتيال الهاتفي على وشك أن يخضع لتغيير كبير مع ظهور عدة تكنولوجيات رئيسية:

النماذج اللغوية الكبيرة (LLMs)

يمكن لهذه الأنظمة الذكية توليد نصوص تشبه النصوص البشرية والتفاعل في محادثات طبيعية. عند تطبيقها على الاحتيال، يمكن للنماذج اللغوية الكبيرة إنشاء نصوص مقنعة ومتكيفة، مما يجعل من الصعب على ضحايا الاحتيال المحتملين تحديد الاحتيال.

توليد معزز بالاسترجاع (RAG)

تسمح هذه التكنولوجيا لأنظمة النماذج اللغوية الكبيرة بالوصول إلى كميات هائلة من المعلومات في الوقت الفعلي. يمكن للمخادعين بناء ملف تعريف لشخص ما بناءً على المعلومات المتاحة بشكل عام مثل حساباتهم على وسائل التواصل الاجتماعي. كما يمكنهم استخدام تقنيات الهندسة الاجتماعية على أصدقائهم وعائلاتهم لجمع معلومات أعمق. هذا سيعطيهم الوصول إلى معلومات مثل هوية الهدف، معلومات العمل، أو حتى الأنشطة الحديثة. يمكنهم بعد ذلك استخدام RAG لتزويد النماذج اللغوية الكبيرة بالسياق اللازم، مما يجعل مناهجهم تبدو شخصيًا ومشروعة بشكل لا يصدق.

توليد الصوت الاصطناعي

المنصات مثل Resemble AI و Lyrebird تقود الطريق في إنشاء أصوات واقعية生成ها الذكاء الاصطناعي. هذه التكنولوجيا قادرة على إنتاج صوت شخصي يشبه الصوت البشري، والذي يمكن استخدامه في تطبيقات مختلفة، من المساعدين الافتراضيين إلى خدمة العملاء الآلية وإنشاء المحتوى. الشركات مثل ElevenLabs تدفع حدود هذه التكنولوجيا إلى الأمام من خلال تمكين المستخدمين من إنشاء أصوات اصطناعية يمكنها التماثل بشكل وثيق مع أصواتهم الخاصة، مما يسمح بمستوى جديد من التخصيص والتفاعل في التفاعلات الرقمية.

توليد الفيديو الاصطناعي

الشركات مثل Synthesia تظهر بالفعل إمكانية إنشاء محتوى فيديو واقعي بأفاتار تولدها الذكاء الاصطناعي. في السنوات القادمة، يمكن لتكنولوجيا الفيديو الاصطناعي أن تمكن المخادعين من التمثيل بصدق بأصدقاء أو أفراد عائلة أو إنشاء شخصيات وهمية تمامًا لمكالمات الفيديو، مما يُدخل مستوى واقعية فيزيائي جديد إلى الاحتيال.

تزامن الشفاه بالذكاء الاصطناعي

الشركات الناشئة مثل Sync Labs تطور تكنولوجيا متقدمة لتزامن الشفاه يمكنها مطابقة الصوت المتولَد مع لقطات الفيديو. يمكن استخدام هذه التكنولوجيا لإنشاء فيديوهات وهمية مقنعة لشخصيات تاريخية، أو سياسيين، أو مشاهير، وبالتالي تزيد من تعقيد الخط الفاصل بين الواقع والخداع.

تجمع هذه التكنولوجيات يرسم صورة قلقة. تخيل مكالمة احتيال يمكن للذكاء الاصطناعي فيها التكيف مع المحادثة في الوقت الفعلي، ومسلحًا بمعلومات شخصية عن الهدف، وربما حتى الانتقال إلى مكالمة فيديو مع شخص يبدو حقيقيًا ويتحرك شفتاه بشكل متزامن مع الصوت المتولَد.

الحاجة إلى إجراءات أمنية محسنة

مع تطور الاحتيال المدعوم بالذكاء الاصطناعي، سيتعين على أساليب التحقق من الهوية والصحة أن تتنافس مع تقدم الذكاء الاصطناعي. سيتعين هناك تقدم تشريعي وتقني لجعل العالم الرقمي أكثر أمانًا.

تحسينات تنظيمية

قوانين خصوصية البيانات الأكثر صرامة: يمكن أن تقيد قوانين الخصوصية الأكثر صرامة كمية المعلومات الشخصية المتاحة للاستغلال من قبل المخادعين. يمكن أن تتضمن هذه القوانين متطلبات أكثر صرامة لجمع البيانات، بروتوكولات موافقة المستخدم المعززة، وغرامات أكثر صرامة لانتهاكات البيانات.

السحابة الخاصة لنمذجة الذكاء الاصطناعي الأكثر قوة: يمكن أن تتطلب اللوائح أن يتم استضافة النماذج الأكثر تقدمًا للذكاء الاصطناعي على بنية تحتية سحابية خاصة وأمنية بدلاً من إتاحتها بشكل مفتوح. هذا سوف يحد من الوصول إلى التكنولوجيا الأكثر تقدمًا، مما يجعل من الصعب على الجهات الفاعلة الخبيثة استخدامها في الاحتيال. (مثل: https://security.apple.com/blog/private-cloud-compute/)

التعاون الدولي على لوائح الذكاء الاصطناعي: نظرًا للطبيعة العالمية لتكنولوجيا الذكاء الاصطناعي، يمكن أن يكون التعاون الدولي على المعايير التنظيمية مفيدًا. يمكن إنشاء هيئة عالمية مسؤولة عن إنشاء وفرض لوائح دولية للذكاء الاصطناعي لمساعدة في مكافحة الجرائم المرتبطة بالذكاء الاصطناعي عبر الحدود.

حملات التوعية العامة: يجب على الحكومات والهيئات التنظيمية الاستثمار في حملات التوعية العامة لتثقيف المواطنين عن المخاطر المحتملة للاحتيال المدعوم بالذكاء الاصطناعي وكيفية حماية أنفسهم. الوعي هو الخطوة الأولى الحاسمة في تمكين الأفراد والمنظمات من تنفيذ الإجراءات الأمنية اللازمة.

اللوائح الحالية للذكاء الاصطناعي غير كافية لمنع الاحتيال، وتتضاعف تحدي التنظيم في المستقبل بسبب الطبيعة المفتوحة للمعرفة للعديد من التكنولوجيات القوية. هذه المفتوحية تسمح لأي شخص بالوصول إلى هذه التكنولوجيات وتنقيحها لأغراضه الخاصة. وبالتالي، إلى جانب اللوائح الأقوى، هناك حاجة إلى تقدم في تكنولوجيا الأمان.

كشف البيانات الاصطناعية

كشف الصوت الاصطناعي: كما يستخدم المخادعون الذكاء الاصطناعي، كذلك يجب أن نطور دفاعاتنا. الشركات مثل Pindrop تطور أنظمة مدعومة بالذكاء الاصطناعي يمكنها كشف الصوت الاصطناعي في الوقت الفعلي خلال المكالمات الهاتفية. تكنولوجيا الشركة تحليل أكثر من 1300 خاصية من سمات المكالمة الصوتية لتحديد ما إذا كان الصوت قادمًا من شخص حقيقي أو نظام ذكاء اصطناعي متقدم.

كشف الفيديو الاصطناعي: كشف الفيديو الاصطناعي: كما يمكن للذكاء الاصطناعي تحوير الصوت، يمكنه أيضًا تحوير الفيديو، مما يشكل تهديدات كبيرة في شكل فيديوهات وهمية وآخر محتوى فيديوي اصطناعي. الشركات مثل Deepware تطور تكنولوجيا لكشف الفيديو الاصطناعي. منصة Deepware تستخدم خوارزميات تعلم الآلة المتقدمة لتحليل عدم الاتساق الدقيق في بيانات الفيديو، مثل الحركات غير الطبيعية، الإضاءة غير المنتظمة، وشذوذ البكسل التي غالبًا ما تكون موجودة في المحتوى الذي تولده أنظمة الذكاء الاصطناعي. من خلال تحديد هذه التناقضات، يمكن لتكنولوجيا Deepware تحديد ما إذا كان الفيديو حقيقيًا أو تم تحويره، مما يساعد في حماية الأفراد والمنظمات من الاحتيال المتقدم والcampaigns التضليلية القائمة على الفيديو.

تحسينات في التحقق من الهوية

هناك عدة طرق قيد التطوير لتأكيد هوية المستخدم، وسوف تصبح واحدة أو أكثر من هذه الطرق شائعة في السنوات القادمة لجعل الإنترنت أكثر أمانًا.

التحقق بخطوتين للمكالمات عن بُعد: يبقى التحقق بخطوتين (2FA) مكونًا أساسيًا من الاتصالات الآمنة. في هذه الطريقة، كل مكالمة هاتفية أو بريد إلكتروني سوف يؤدي إلى رسالة نصية تحتوي على رمز تحقق فريد، مشابه لعمليات التسجيل الحالية بالبريد الإلكتروني. على الرغم من أن التحقق بخطوتين فعال في التحقق الأساسي، فإن حدوده تعني أنه لا يمكن الاعتماد عليه في جميع السياقات، مما ي đòiج開発 أساليب أكثر تقدمًا لضمان سلامة الإنترنت الشاملة التي يمكنها العمل في الخلفية.

التحقق القائم على السلوك لمكالمات متعددة العوامل: أبعد من مجرد التحقق من الهوية في بداية المكالمة، قد تحليل السلوك المستمر خلال التفاعل. الشركات مثل BioCatch تستخدم البيومترية السلوكية لإنشاء ملفات تعريف للمستخدمين بناءً على كيفية تفاعلهم مع أجهزتهم. يمكن لتكنولوجيا الشركة كشف الشذوذ في السلوك الذي قد يشير إلى مخادع يستخدم معلومات مسروقة، حتى لو نجح في اختبارات التحقق الأولية.

التحقق القائم على البيومترية: الشركات مثل Onfido في طليعة تكنولوجيا التحقق البيومتري، وتقدم أدوات تحقق الهوية مدعومة بالذكاء الاصطناعي يمكنها كشف الاحتيال المتقدم والتنكر في الهوية. نظام الشركة يستخدم مزيجًا من التحقق من الوثائق والتحليل البيومتري لضمان أن الشخص على الطرف الآخر من المكالمة أو دردشة الفيديو هو بالفعل من يزعم أنه.

التحقق القائم على المعرفة المتقدمة: قد تتضمن أنظمة التحقق المستقبلية أسئلة ديناميكية تولدها الذكاء الاصطناعي بناءً على بصمة رقمية للمستخدم وأنشطته الأخيرة. على سبيل المثال، Prove، شركة متخصصة في هوية الهاتف، تطور حلولًا تستخدم ذكاء الهاتف وتحليل السلوك لتحقق الهوية. تكنولوجيا الشركة يمكنها تحليل أنماط استخدام الشخص لجهازه لإنشاء “توقيع هوية” فريد يصعب على المخادعين تكراره.

التحقق القائم على بلوكتشين: تقنيات بلوكتشين توفر وسيلة لامركزية وآمنة للتحقق من الهوية. الشركات مثل Civic تطور أنظمة تحقق من الهوية باستخدام بلوكتشين تسمح للمستخدمين بالسيطرة على معلوماتهم الشخصية مع تقديم تحقق آمن. هذه الأنظمة تُنشئ سجلًا قابلًا للتحقق وثابتًا لهوية الشخص، وهو أمر رائع لإدارة المعاملات عالية الخطورة.

الختام

التلاقي بين النماذج اللغوية الكبيرة، و RAG، وتوليد الصوت الاصطناعي، وتوليد الفيديو الاصطناعي، وتزامن الشفاه، هو سيف ذو حدين. بينما تحمل هذه التطورات إمكانيات كبيرة للتطبيقات الإيجابية، فإنها تشكل أيضًا مخاطر كبيرة عندما تستخدمها المخادعون.

هذه الحرب المستمرة بين خبراء الأمان والمجرمين الإلكترونيين تؤكد الحاجة إلى الابتكار المستمر واليقظة في مجال الأمان الرقمي. يمكننا العمل على استغلال فوائد هذه الأدوات القوية مع التقليل من إمكانية ضررها فقط من خلال الاعتراف بالخطر والاستعداد له.

التنظيم الشامل، والتعليم حول هذه الأشكال الجديدة من الاحتيال، والاستثمار في إجراءات أمنية متقدمة، وربما أكثر من ذلك، جرعة صحية من الشك من كل واحد منا عند التعامل مع كيانات غير معروفة عبر الإنترنت أو الهاتف سوف يكون ضروريًا في التنقل في هذا المنظر الجديد.