الأمن السيبراني

هل يستطيع الذكاء الاصطناعي كتابة رسائل تصيد احتيالي أكثر إقناعًا من البشر؟

Zac Amos
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةرسائل التصيد الاحتيالي المولدة بالذكاء الاصطناعي مقنعة بنفس درجة تلك التي يكتبها البشر،…
عرض المزيد
  • رسائل التصيد الاحتيالي المولدة بالذكاء الاصطناعي مقنعة بنفس درجة تلك التي يكتبها البشر، لكنها ليست أكثر خطورة.
  • يكتسب المخترقون كفاءة ووصولًا متعدد اللغات من الذكاء الاصطناعي، لكنهم يظلون مقيدين بإجراءات حماية المنصات.
  • يمكن للمستخدمين مواجهة التصيد الاحتيالي بالذكاء الاصطناعي باستخدام التخزين السحابي، ورموز التحقق، ونماذج الكشف بالذكاء الاصطناعي.

تجعل قدرات المعالجة اللغوية الطبيعية والترجمة المتقدمة الذكاء الاصطناعي التوليدي أداة لا تقدر بثمن للمخترقين. قد لا تكون رسائل التصيد الاحتيالي عبر البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي أكثر خطورة من محتوى الاحتيال الذي تم إنشاؤه بواسطة الإنسان. ما الذي يجب على المستخدمين ومهندسي الأمان معرفته حول دور الذكاء الاصطناعي في الاحتيال والهجمات الإلكترونية؟

كيف يكتب الذكاء الاصطناعي رسائل بريد إلكتروني احتيالية

زاد محتوى الاحتيال المبلغ عنه بنسبة 61٪ من عام 2021 إلى عام 2022. من الروابط الضارة إلى رسائل التصيد الاحتيالي عبر البريد الإلكتروني ، يصبح الاحتيال أكثر شيوعًا كل عام. الذكاء الاصطناعي هو أحدث أداة يعتمد عليها المخترقون لتطوير حملات التصيد الاحتيالي. ورغم فوائد معالجة اللغة الطبيعية، يمكن للمخترقين استغلالها لإنشاء محتوى تصيد أكثر فعالية.

تجعل توافر منصات الذكاء الاصطناعي كخدمة مثل ChatGPT من السهل على أي شخص إنشاء محتوى. يمكن للمخترق أن يعرض على نموذج لغة كبير آلاف الأمثلة على رسائل بريد إلكتروني شرعية ، ثم يطلب منه إنشاء رسائل أصلية بناءً على تلك. تتيح المعالجة اللغوية الطبيعية (NLP) للذكاء الاصطناعي فهم وإنشاء محتوى مكتوب واقعي – أداة مثالية في هجمات الاحتيال.

في الوضع المثالي ، يولد الذكاء الاصطناعي رسالة بريد إلكتروني أصلية تقلد رسالة مكتوبة بواسطة الإنسان. يمكن للمخترق أن يطلب منه تخصيص الرسالة لتشمل تفاصيل حول شركة أو شخص أو مكان معين. يمكن للذكاء الاصطناعي حتى ترجمة الرسالة إلى لغة أخرى. يمكن للمخترقين بفعالية إنشاء رسائل بريد إلكتروني احتيالية أصلية ومخصصة في لحظات ، مما يسمح لهم بالابتعاد عن إعادة استخدام رسالة بريد إلكتروني ضارة واحدة بين العديد من الأهداف.

هل رسائل التصيد الاحتيالي عبر البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي فعالة؟

قد تظهر إمكانيات الاحتيال القائم على الذكاء الاصطناعي مخيفة ، ولكن هل هي أكثر خطورة من محتوى الاحتيال الذي تم إنشاؤه بواسطة الإنسان؟ تتمثل مزايا رسائل التصيد الاحتيالي عبر البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل رئيسي في سير عمل أكثر كفاءة للمخترقين.

أظهرت الدراسات البحثية المبكرة أن رسائل التصيد الاحتيالي عبر البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي مقنعة بالقدر نفسه تقريبًا مثل رسائل التصيد الاحتيالي عبر البريد الإلكتروني التي تم إنشاؤها بواسطة الإنسان. كما أن المخترقين مقيدون في الوصول إلى منصات الذكاء الاصطناعي كخدمة. لدى معظم المطورين الكبار – بما في ذلك OpenAI – حماية لمنع تطبيقات النماذج القائمة على الذكاء الاصطناعي غير المشروعة.

تتمثل المزايا الرئيسية للذكاء الاصطناعي للمخترقين في الكفاءة واللغة. استخدام الذكاء الاصطناعي لإنشاء رسائل بريد إلكتروني احتيالية أسرع من كتابة رسائل يدويًا ، مما يسمح للمخترقين بإنشاء مجموعة أكبر من رسائل التصيد الاحتيالي عبر البريد الإلكتروني. بالإضافة إلى ذلك ، يمكنهم استهداف ضحايا في أي مكان في العالم بفضل أدوات الترجمة القائمة على الذكاء الاصطناعي سهلة الوصول إليها وقدرات NLP.

لذلك ، تزيد رسائل التصيد الاحتيالي عبر البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خطر هجمات الاحتيال ولكن قد لا تكون أكثر إقناعًا من المحتوى الذي تم إنشاؤه بواسطة الإنسان.

كيفية الدفاع ضد رسائل التصيد الاحتيالي عبر البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي

الذكاء الاصطناعي هو أداة مفيدة للمخترقين ، لكنه ليس معصومًا من الخطأ. يمكن للمستخدمين ومهندسي الأمان أيضًا تحسين استراتيجيات الدفاع مع تقدم هجمات الاحتيال. يجب على المستخدمين البدء بالبقاء على اطلاع حول العلامات الحمراء لمحتوى الاحتيال ، لأن هذه العلامات ستظل ذات صلة حتى مع رسائل البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

على الرغم من أن من الصعب اكتشاف رسائل التصيد الاحتيالي عبر البريد الإلكتروني بنظرة سريعة ، يمكن أن تقلل بعض خطوات الأمان من فرصة حدوث ضرر أو إيقافها. بالإضافة إلى ذلك ، يمكن لتقنيات الكشف الجديدة اكتشاف رسائل التصيد الاحتيالي عبر البريد الإلكتروني المكتوبة بواسطة الإنسان والذكاء الاصطناعي.

الانتقال إلى التخزين السحابي

تعتبر الانتقالة إلى التخزين السحابي وسيلة رائعة لتقليل تهديد رسائل التصيد الاحتيالي عبر البريد الإلكتروني والهجمات الإلكترونية. تجعل طبيعة التخزين التقليدية المعزولة أكثر عرضة للاستغلال من قبل المخترقين. كل ما يحتاجه المخترق هو السيطرة على قرص صلب أو خادم واحد ، ويمكنه الاحتفاظ بجميع بيانات شخص ما كرهينة.

يتجنب التخزين السحابي هذا التهديد. منذ أن لا ترتبط البيانات بأي جهاز معين ، فمن الصعب على المخترقين حذف أو تلف أي معلومات. يمكن أن تحسن أمان السحابة أيضًا من مقاومة محاولات الاختراق.

على سبيل المثال ، يمكن للمستخدمين تنفيذ فحوص آلية للثغرات لإيجاد نقاط الضعف في أمان السحابة. هذا رائع لمنع المخترقين من استخدام البوابات الخلفية أو بيانات الاعتماد المسروقة للوصول إلى البيانات في السحابة. حتى لو فعلوا ، فمن الصعب عليهم السيطرة الكاملة على أي بيانات لأن التخزين السحابي موزع للغاية.

إنشاء نظام التحقق المخصص

يمكن لنظام رموز متفق عليه بين المراسلين الموثوق بهم أن يساعد على ردع رسائل التصيد الاحتيالي بمختلف أنواعها. يمكن أن يشمل ذلك الأشخاص مثل العائلة والأصدقاء والزملاء. كل مرة يرسل فيها الأشخاص في المجموعة رسائل بريد إلكتروني إلى بعضهم البعض ، يمكنهم كتابة جملة تحقق معينة للتحقق من أن الرسالة حقيقية.

لا يحتاج نظام التحقق إلى أن يكون معقدًا. الفكرة هي ببساطة إضافة عامل إلى رسائل البريد الإلكتروني التي لا يمكن للمخترق أو الذكاء الاصطناعي معرفتها مسبقًا. اجعل جملة التحقق شيئًا غير عادي بحيث من غير المحتمل أن تظهر في رسائل البريد الإلكتروني المستخدمة لتدريب الذكاء الاصطناعي.

على سبيل المثال ، يمكن أن تكون جملة التحقق اسم مستوطنة وهمية ، مثل “Agloe ، نيويورك”. من غير المحتمل أن تظهر المستوطنات الوهمية في رسائل البريد الإلكتروني لأنها أماكن وهمية يتم إضافتها إلى الخرائط لأغراض حقوق النشر.

استخدام كشف الاحتيال القائم على الذكاء الاصطناعي

المخترقون ليسوا الوحيدون الذين يستخدمون الذكاء الاصطناعي لتحسين منهجياتهم. يمكن للمستخدمين ومهندسي الأمان أيضًا استخدام نماذج الذكاء الاصطناعي لاكتشاف محتوى الاحتيال ، سواء كان مكتوبًا بواسطة الإنسان أو الذكاء الاصطناعي.

على سبيل المثال ، يمكن للمطورين استخدام التعلم الآلي لمراقبة وتتبع أنماط التواصل الطبيعية لمرسلي البريد الإلكتروني الشرعيين. إذا كان الذكاء الاصطناعي يمكنه التعلم بسرعة نمط التواصل الفريد لأحد الأفراد ، فيمكنه التعرف على رسائل البريد الإلكتروني الزائفة التي لا تتوافق. هذا ينطبق بغض النظر عما إذا كان الإنسان أو الذكاء الاصطناعي كتب الرسالة.

أحد أكبر نقاط قوة الاحتيال القائم على الذكاء الاصطناعي هو أيضًا عيبه الرئيسي. يمكن للمخترقين بفعالية إنشاء رسائل بريد إلكتروني احتيالية مقنعة باستخدام الذكاء الاصطناعي ، ولكن لا يمكن تخصيص أسلوب التواصل في تلك الرسائل بكفاءة. عادةً ما لا يمتلك المخترق الخبرة الفنية أو الموارد لتدريب الذكاء الاصطناعي على تكرار نمط كتابة شخص ما بدقة. يمكن لنماذج كشف الاحتيال القائمة على الذكاء الاصطناعي الاستفادة من هذه النقطة الضعف للدفاع عن المستخدمين.

فهم مخاطر الاحتيال القائم على الذكاء الاصطناعي

يمكن للذكاء الاصطناعي أن يكون أداة قيمة للمخترقين عند إنشاء رسائل بريد إلكتروني احتيالية. ومع ذلك ، قد لا تكون رسائل البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي أكثر إقناعًا من محتوى الاحتيال الذي تم إنشاؤه بواسطة الإنسان. تظل العلامات الحمراء الرئيسية للاحتيال – مثل الدعوات العاجلة للعمل – ذات صلة بغض النظر عما إذا كان الشخص أو الذكاء الاصطناعي الذي يخترع رسالة الاحتيال. يمكن للمستخدمين ومهندسي الأمان تبنّي أساليب وتقنيات مبتكرة لحماية بياناتهم من حملات الاحتيال القائمة على الذكاء الاصطناعي.

زاك آموس كاتب تقني يركز على الذكاء الاصطناعي. وهو أيضًا محرر المقالات المعمقة في ReHack، حيث يمكنك قراءة المزيد من أعماله.