هل تستعد البنوك لمكافحة الاحتيال الصوتي بواسطة الذكاء الاصطناعي؟

لقد غيرت الصوت المُنشأ بواسطة الذكاء الاصطناعي معادلة الاحتيال. ما كان يحتاج إلى ممثل ماهر أو سيناريو مقنع أو رقم هاتف مُخترق يمكن الآن محاولة القيام به على نطاق واسع باستخدام أدوات تُصدر أصواتاً بشعة.

والجدير بالذكر أن القطاع المالي في مرمى النظر. في بداية عام 2024، انضمت موظفة في شركة الهندسة أراب إلى ما بدا مكالمة فيديو روتينية مع مدير التمويل والزملاء. كانت الأصوات مألوفة، والوجوه معترف بها، والطلب يبدو معقولاً بما يكفي لعبور الفحص الأساسي. وبنهاية المكالمة، أذنت بنقل 25 مليون دولار. وتم الإبلاغ لاحقاً أن الأشخاص الذين اعتقدت أنها تتحدث معهم، بما في ذلك مدير التمويل، كانوا منشآت صوتية مُنشأة بواسطة الذكاء الاصطناعي.

المخاطر لا تقتصر على الموافقات الداخلية للتحويلات المالية. يمكن أن يلعب انهيار الثقة نفسه عبر عمليات التحقق من هوية العملاء، ومراكز الاتصال، وعمليات فحص الاحتيال، وعمليات استعادة الحسابات.

لقد استغل المحتالون عدم وجود هوية في المكالمات الهاتفية لارتكاب الاحتيال لعدة عقود. ومع الذكاء الاصطناعي، أصبح الجهد المطلوب الآن تافهاً، والنتائج أكثر إقناعاً. بالنسبة للبنوك وشركات التكنولوجيا المالية، يؤدي هذا التلاقي إلى خريطة غير مُختبرة من المخاطر.

هناك حقيقة أكثر انزعاجاً تحت هذا. حتى عندما يبحث المهاجمون عن طرق للوصول، فإن البنية التحتية للذكاء الاصطناعي التي تعتمدها المؤسسات المالية لتحديث دعم العملاء تجعل من السهل ارتكاب الاحتيال في وضح النهار.

المكالمة التي تُصدر صوتاً يبدو أنها تنتمي لها

قبل الذكاء الاصطناعي، كان من السهل التعرف على الاحتيال الصوتي. كانت المكالمات الترويجية مسطحة وتتبع سيناريو، وكانت محاولات الاحتيال الصوتي تعتمد على مشغلي بشرية يتبعون أوراق مكالمة. في معظم الحالات، كان النطاق محدوداً بجودة الاحتيال الذي يحاول الهندسة الاجتماعية. مع التدريب الكافي والمنطق الصحي، يمكن للموظفين عادةً تحديد العلامات.

لقد غير الذكاء الاصطناعي ذلك بتقليص الحاجز الفني للاستبدال. مع التوجيه الكافي، يمكن للذكاء الاصطناعي أن يبدو بشعاً، كاملاً مع النبرة والانفعال والعيوب التي تتوقعها من شخص حقيقي. ويجعل الأمور أسوأ، الأدوات التي يمكنها نسخ الأصوات متاحة على منصات تجارية ومخازن مفتوحة المصدر.

وجدت مختبرات مكافي أن ثلاث ثوان من الصوت كافية لآلة الذكاء الاصطناعي لإنتاج نسخة صوتية بدقة 85%. يمكن أن يضغط تسجيل لمدة عشر ثوان على هذا الرقم إلى ما فوق 95%. المادة المصدر موجودة في كل مكان: منشورات وسائل التواصل الاجتماعي، ورسائل الترحيب الصوتية، وتسجيلات المؤتمرات، ومكالمات الأرباح، أو مقاطع فيديو لينكد إن.

أصبحت أدوات التحويل الصوتي في الوقت الفعلي متاحة على نطاق واسع في عام 2024، مما يعني أن المهاجمين لا يحتاجون اليوم إلى شريطة مسجلة مسبقاً. يمكنهم ببساطة التحدث في الميكروفون، وستبدو الإخراج مثل الصوت الذي يحاولون التمثيل له.

حالة أراب تعليمية: كان لديها شكوك، ولكن وجود أصوات ووجوه مألوفة في المكالمة خففت من شكوكها، وقررت أن تثق بأعينها وأذنها. في نفس العام، كشف محققون في هونغ كونغ عن عملية منفصلة استخدمت نسخة من صوت مدير مالي لتشغيل 18.5 مليون دولار احتيال عملات مشفرة.

صوت مألوف، يبدو أن الثقة به قد أصبح أمراً خطيراً.

أصبحت حالات فشل التحقق من الهوية فرصاً للاحتيال

المؤسسات المالية تستجيب بالفعل للتهديدات الخارجية. من المتوقع أن ينمو الإنفاق على أدوات الحوكمة والامتثال للذكاء الاصطناعي في الشركات من 2.2 مليار دولار في عام 2025 إلى 9.5 مليار دولار بحلول عام 2035، وهو إشارة إلى كيفية أخذ السوق هذا الأمر على محمل الجد.

لكن المخاطر الأكثر أهمية لا تظهر خارج أسوارها. البنوك وشركات التكنولوجيا المالية تُضيف الذكاء الاصطناعي إلى نظام دعم العملاء، وبناء أنظمة اتصال صوتية مدعومة بالذكاء الاصطناعي، وتحقق صوتي، وعمليات مكالمة مدعومة بالوكلاء التي تتعامل مع المعاملات دون وكلاء بشريين. تهدف هذه الجهود إلى تحسين تجربة العملاء وتقليل العمل البشري، ولكن عندما تفشل هذه الأنظمة، تترك نقطة ضعف يجد المهاجمون صعوبة في استغلالها.

أخطاء التوجيه، والسياق المفقود بين عمليات التوجيه، وأنظمة التحقق من الهوية التي تتصرف بشكل غير متوقع تبدو وكأنها مشاكل في تجربة العملاء، وتُسجل على هذا النحو.

لكن هذه المشاكل في تجربة العملاء يمكن أن تتحول إلى شيء أسوأ فيما بعد. العملاء الذين يتم حظرهم بواسطة التحقق الصوتي لن يبلغوا عن ذلك غالباً. بدلاً من ذلك، من المحتمل أنهم سيعيدون الاتصال، وسيجدون طريقة للتحدث مع وكيل بشري، وسيضغطون علىهم لتحايل على البروتوكولات التي بنيت هذه الأنظمة لفرضها.

المشكلة الأكبر هي أن المهاجم الذي يقلد عميلاً يمكنه ذلك أيضاً. المؤسسات المالية على دراية جيدة بذلك. في الواقع، 91% من البنوك الأمريكية تقوم بإعادة النظر في استراتيجيات التحقق الصوتي في ضوء مخاطر نسخ الصوت بواسطة الذكاء الاصطناعي.

إعادة النظر لن تحل هذه المشاكل. المؤسسة التي يفشل نظام التحقق الصوتي بشكل منتظم العملاء الشرعيين قد أنشأت بالفعل الظروف التي يحتاجها المهاجم للاستغلال.

تحتاج الشركات إلى تغيير منظورها، لا حزمتها الأمنية

الأدوات التي يمكنها كشف الأصوات المُنشأة بواسطة الذكاء الاصطناعي تتحسن، ولكن المهاجم الذي يبحث عن نقاط الضعف في أنظمة البنك لا يبحث عن نقطة فشل واحدة. إنه يبحث عن المناطق التي تتعثر فيها الأنظمة وتفوت بعضها البعض، حيث تفشل أنظمة التحقق في تمرير الإشارات بوضوح. لا يمكن أن تغلق الكشف الأفضل على الحدود هذه الفجوة.

ما يمكن أن يساعد هو إعادة النظر في كيفية تعامل القادة مع البنية التحتية الصوتية. كما هو الحال مع أي جزء من حزمتك البرمجية، تتطلب البنية التحتية الصوتية نفس مستوى الفحص مثل دفاعات الحدود.

في الممارسة، سيتطلب هذا الموقف الأمني اختبارات وظيفية ومتانة عبر الظروف التي سيواجهها نظام الاتصال الصوتي، والتحقق الصوتي، والأنظمة الصوتية الأخرى في الإنتاج: صوت منخفض الجودة، ولهجات مختلفة، وضوضاء الخلفية، وعمليات توجيه الحواف، ومشاهد التحقق من الهوية حيث يكون المتصلون الشرعيون justo خارج عتبة قبول النظام.

الجواب ليس تمارين اختبار واحدة. تحتاج البنوك إلى التحقق المستمر من رحلة الصوت الكاملة، من توجيه نظام الاتصال الصوتي والتحقق الصوتي إلى عمليات التوجيه، والتحويل، وعمليات الإنهاء. مهما كان تكرار تحديث أنظمة الصوت، سيتطور تكتيكات الاحتيال بشكل طبيعي لfinding شقوق في أي دفاعات يتعرضون لها.

من الجدير بالذكر أن الاختبار المستمر على نطاق واسع سيأتي مع اعتبارات ميزانية. هناك أيضاً التوتر الداخلي بين الحركة السريعة (تطوير قدرات جديدة للبقاء التنافسي) والتحقق من الأنظمة بدقة قبل أن تتفاعل مع العملاء الحقيقيين وتواجه محاولات احتيال حقيقية.

من الصعب حل هذا التوتر بnettely، ولكنه يُظهر واضحاً تكلفة تجاوز التحقق: فشل في نظامك الذي وجدت العملاء المُحبطون بالفعل طريقة للتحايل عليه هو نقطة ضعف، بغض النظر عن كيفية تصنيفه.

تجارب العملاء الأفضل تصبح دفاعاً ضد الاحتيال

الأخطار الخارجية والداخلية الموصوفة أعلاه ليست مشاكل منفصلة مع حلول مختلفة. الشقوق التي تنتجها رحلات العملاء غير الموثوقة تُخلق فجوات سلوكية التي تُصمم الهندسة الاجتماعية لاستغلالها.

هذه مشكلة قابلة للحل، ولكن فقط إذا أدركت المؤسسات أن تأثير تجربة العملاء السيئة يمكن أن يمتد إلى ما هو أبعد من مجرد الاحتفاظ أو الإيرادات. لن تحل البنوك مشكلة الاحتيال الصوتي بواسطة الذكاء الاصطناعي بالتعامل معها كمسألة كشف فقط. كما أنها تحتاج إلى إزالة الغموض والاحتكاك ونقاط الفشل داخل رحلات الصوت الخاصة بهم. في عصر حيث لا يمكن الثقة بالصوت المألوف افتراضياً، تصبح موثوقية الرحلة نفسها جزءاً من نموذج الأمان.