سباق التسلح الاصطناعي: لماذا يتطلب السلامة الاستهلاكية دفاعًا في الوقت الفعلي

إذا كان يمكن لمحتال استخدام نموذج لغة كبير لإنشاء مليون رسالة بريد إلكتروني للمخادعة المثالية والفريدة في ساعة، فلماذا ما زلنا نقاتل حربًا اصطناعية بتحديثات التوقيع بسرعة الإنسان؟

ازدهار الذكاء الاصطناعي التوليدي لم يعد تهديدًا مجردًا؛ إنه واقع لا يمكن إنكاره أن الجماعات الإجرامية المنظمة استغلت أدوات التعلم العميق لتأتمتة وتحسين فن الهندسة الاجتماعية. بالنسبة للمستهلك، كان هذا التحول مدمرًا ماليًا: أفادت لجنة التجارة الفيدرالية الأمريكية (FTC) أن خسائر المستهلكين بسبب الاحتيال ارتفعت إلى أكثر من 12.5 مليار دولار في عام 2024، وهو ارتفاع بنسبة 25% عن عام 2023. يؤكد هذا الرقم المذهل على عهد جديد محزن حيث ت失败 التدابير الأمنية التقليدية التي تعتمد على الإنسان ضد التهديدات التي تدفعها الذكاء الاصطناعي.

تتطلب تعقيد هذه الاحتيال الجديدة استراتيجية战场 جديدة. يجب أن نتجاوز نموذج الأمان التفاعلي، وفحص التوقيعات، والمرشحات الكلمة البسيطة، وحلول الأمان “البولت-أون”، ون采用 نفس الذكاء الاصطناعي في الوقت الفعلي والسلوكي الذي يتم استخدامه بالفعل لحماية البنية الرقمية الحيوية لدينا.

الواقع الجديد للاحتيال المدعوم بالذكاء الاصطناعي

لقد خفض الذكاء الاصطناعي التوليدي عتبة الجريمة الإلكترونية في الوقت نفسه، ورفع مصداقية المحتوى الخبيث. يمكن للمحتالين الآن تنفيذ حملات عالية التخصيص وعالية الحجم تقلد الأفراد والمؤسسات الموثوقة بشكل مثالي.

أبرز الأمثلة على هذا التوسع تشمل:

التقليد بالعمق والاستنساخ الصوتي

لقد تم تحسين الاحتيال الكلاسيكي للمتسلل، حيث يتظاهر المجرم بأنه قريب في محنة أو مسؤول تنفيذي عالٍ، بواسطة الذكاء الاصطناعي.

• التقليد بالعمق للمديرين التنفيذيين: في حالات الاحتيال الشركات الكبيرة، تم استخدام التقليد بالعمق والصوتي لتمثيل المديرين التنفيذيين خلال مكالمات الفيديو، مما أقنع موظفي الشؤون المالية بتمكين تحويلات مالية بقيمة مليارات الدولارات. من خلال تدريب الذكاء الاصطناعي على مقطع قصير من صوت المسؤول أو فيديو عام، يمكن للمجرمين إنشاء صوت وفيديو حقيقيين في الوقت الفعلي يتجاوزان أكثر دفاعات الضحية موثوقية: عينيها وأذنيه.
• احتيال العملات المشفرة بالعمق: على منصات المستهلك، يتم استخدام التقليد بالعمق لمشاهير مثل إيلون ماسك بشكل متكرر في احتيال. يظهر الفيديو بالعمق، الذي يتم بثه بشكل شائع على منصة مخترقة، المشهورة “يدعم” الاحتيال في العملات المشفرة، مما أدى إلى خسائر كبيرة تم الإبلاغ عنها في الملايين. هذه التقليدات بالعمق इतन مقنعة أنها تخدع الضحايا من خلال الحفاظ على الاتصال بالعين خلال التماس.

التصيد بالبريد الإلكتروني التفاعلي المتخصص

لقد قام الذكاء الاصطناعي التوليدي بإزالة علامات الاحتيال الكلاسيكية “أمير نيجيريا”: القواعد النحوية السيئة، والتركيبات الأجنبية، والتحيات العامة.

• التصيد بالبريد الإلكتروني المتغير الشكل على نطاق واسع: يستخدم المهاجمون نماذج اللغة الكبيرة (بما في ذلك تلك غير المشروعة مثل FraudGPT) لجمع البيانات العامة، وملفات تعريف LinkedIn، ومنشورات وسائل التواصل الاجتماعي، ومواقع الشركات لإنشاء ملف تعريف مفصل على الهدف. ثم يصمم الذكاء الاصطناعي بريدًا إلكترونيًا يقلد نبرة ومفردات زميل أو رئيس. يُطلق على هذا اسم التصيد بالبريد الإلكتروني المتغير الشكل لأن الذكاء الاصطناعي يمكن أن يولد ملايين رسائل بريد إلكتروني فريدة ومختلفة قليلاً ومثالية سياقيًا، مما يجعلها تقريبًا مستحيلة للكشف عنها بواسطة مرشحات البريد الإلكتروني التقليدية القائمة على التوقيع.
• احتيال الرومانسية القائمة على الذكاء الاصطناعي (التصنيع): يسمح استخدام بوتات الدردشة بالذكاء الاصطناعي للمحتالين بإدارة مئات من الملفات الشخصية الكاذبة في الوقت نفسه. يحافظ الذكاء الاصطناعي على محادثات متأنقة ومانعة عاطفية على مدى فترات طويلة لإنشاء الثقة، وهي تقنية تعرف باسم “التصنيع”. يسمح الاتصال المثالي وفرصة جسر الفجوات اللغوية للمحتالين بالتفاعل مع الضحايا بعمق أكبر قبل تحويل المحادثة إلى مخططات استثمارية احتيالية، مما يؤدي إلى بعض أكبر الخسائر المالية المتوسطة لكل ضحية.

الخطأ القاتل للأمان التقليدية

السبب في نجاح هذه الاحتيال المدعومة بالذكاء الاصطناعي هو أن التدابير الأمنية التقليدية لم يتم تصميمها لبيئة تهديدات عالية السرعة وواطئة الحجم. تعمل على مجموعة من الافتراضات القديمة:

1. الاعتماد على التوقيعات والتهديدات المعروفة

تعتمد البرامج التقليدية لمكافحة الفيروسات والأمان على قاعدة من التهديدات المعروفة، أو “التوقيعات”. عندما يستخدم المهاجم الذكاء الاصطناعي لإنشاء رسالة بريد إلكتروني جديدة فريدة، أو متغير جديد من البرامج الضارة، أو فيديو بالعمق لم يسبق رؤيته، لا يوجد للنظام توقيع موجود لتحديده. بحلول الوقت الذي يتم فيه إنشاء توقيع جديد وتوزيعه، يكون الاحتيال قد انتقل بالفعل إلى متغيره الشكلي التالي. هذا النموذج التفاعلي ببساطة بطيء جدًا لمواكبة وتيرة الذكاء الاصطناعي التوليدي.

2. نقص الوعي السلوكي والسياقي

تعامل معظم الأنظمة التقليدية مع الأمان كفحص معاملات معزول. على سبيل المثال، قد يتحقق مرشح أساسي من وجود كلمة “فاتورة” أو “عاجل” في البريد الإلكتروني. الاحتيال المدعوم بالذكاء الاصطناعي ناجح بالضبط لأنه يركز على السلوك، وليس فقط الكلمات الرئيسية. يبدو البريد الإلكتروني الاحتيالي شرعيًا، والفيديو بالعمق يبدو ويتصرف مثل الشخص الذي يزعم أنه هو. لا تملك الأدوات التقليدية القدرة على إنشاء قاعدة سلوكية لاستخدام المستخدم أو الشبكة، ما يشكل “الnormal” وبالتالي لا يمكنها تحديد السلوك غير العادي الخفي الذي يشير إلى احتيال قيد التقدم.

3. الخطأ البشري هو النقطة الضعيفة الأساسية

الدفاع النهائي في الأمان التقليدية غالبًا ما يكون المستخدم البشري، وهو ما يتم استغلاله بدقة من قبل جانب الهندسة الاجتماعية للاحتيال المدعوم بالذكاء الاصطناعي. التدريب على المستخدمين لتحديد الاحتيال هو وسيلة تخفيف فعالة، ولكنه ليس نظام كشف. عندما يتصل صوت بالعمق يبدو تمامًا مثل طفلهم يطلب المساعدة، أو يظهر بريد إلكتروني متقن النحو يبدو أنه يأتي من رئيسهم، فإن تدريب المستخدم لا يضاهي التلاعب العاطفي والسياقي الذي يخلقه الذكاء الاصطناعي.

البديل التفاعلي: الكشف عن التهديدات المدعومة بالذكاء الاصطناعي في الوقت الفعلي

الحل هو مكافحة الذكاء الاصطناعي بالذكاء الاصطناعي. كما تم دمج الذكاء الاصطناعي التوليدي في عملية الهجوم، يتم نشر ودمج نماذج التعلم الآلي في الوقت الفعلي في منصات المستهلك والشركات الرئيسية لاكتشاف الشذوذ السلوكي في الوقت الفعلي. يوفر هذا الدفاع المضمن في الوقت الفعلي خطة لجيل الأمان التالي للمستهلك.

تستخدم الشركات والمنصات الرئيسية هذه النماذج المدعومة بالذكاء الاصطناعي للكشف عن:

• كشف الاحتيال المالي: تستخدم المؤسسات المالية الكبيرة تحليلات السلوك المدعومة بالذكاء الاصطناعي لمراقبة أنماط تسجيل الدخول، وتناقضات المعاملات، وطابعات الأجهزة في الوقت الفعلي. إذا قام مستخدم بتمكين تحويل كبير غير عادي من جهاز أو موقع غير مسجل جديد، يحدد الذكاء الاصطناعي الشذوذ لمراجعة فورية، وغالبًا ما يوقف الاحتيال قبل خسارة الأموال.
• تصفية البريد الإلكتروني والمحتوى: على سبيل المثال، يعالج جيميل ملايين رسائل البريد الإلكتروني الاحتيالية يوميًا باستخدام نماذج التعلم الآلي لتحليل محتوى الرسالة، وتاريخ المرسل، وحتى أسلوب الكتابة. هذه النماذج ليست قائمة على التوقيعات؛ إنها تتعلم ما يبدو عليه البريد الإلكتروني شرعيًا ويتصرف، مما يجعلها فعالة جدًا في تحديد محاولات التصيد بالبريد الإلكتروني الموجهة والسياقية الحساسة.
• تحديد المحتوى على وسائل التواصل الاجتماعي: تستخدم منصات مثل ميتا معالجة اللغة الطبيعية والتعلم الآلي لاكتشاف واستجابة للمحتوى الضار والحسابات الكاذبة في الوقت الفعلي، متجاوزة البحث البسيط عن الكلمات الرئيسية لفهم السياق والنية Behind التواصل.

الخيط المشترك في هذه الأمثلة هو الانتقال من دفاع سلبي قائم على التوقيع إلى تحليل سلوكي في الوقت الفعلي. هذا هو الطبقة الحاسمة المفقودة للمستهلك والبيئة الأساسية للعائلة، والتي لا تزال تعتمد بشكل كبير على الأدوات القديمة.

الحل ليس قفلًا رقميًا إضافيًا يتم تثبيته بعد سرقة المنزل. إنه نظام الإنذار المتكامل الذي يتعلم صوت خطواتك. سيأتي من الأمان الذكي؛ الأنظمة التي تستخدم الذكاء الاصطناعي في الوقت الفعلي لإنشاء قاعدة “عادية” لسلوك المستخدم وأنماط الاتصالات والتفاعلات الرقمية. هذا هو السبيل الوحيد لتحديد الشذوذ الدقيق والحاسم الذي يخلقه التقليد بالعمق أو محاولة التصيد بالبريد الإلكتروني المخصصة قبل أن ينجح الاحتيال. من خلال دمج الذكاء الاصطناعي لتحليل مستمر في الوقت الفعلي، يمكننا بناء دفاع للمستهلك يتناسب مع التطور المخيف للهجمات التي تدفعها الذكاء الاصطناعي.