هل يمكن للذكاء الاصطناعي كتابة رسائل بريد إلكتروني احتيالية أكثر إقناعًا من البشر؟

تجعل قدرات المعالجة اللغوية الطبيعية والترجمة المتقدمة الذكاء الاصطناعي العامل أداة لا تقدر بثمن للمخترقين. قد لا تكون رسائل البريد الإلكتروني الاحتيالية التي تم إنشاؤها بواسطة الذكاء الاصطناعي أكثر خطورة من محتوى الاحتيال الذي تم إنشاؤه بواسطة الإنسان. ما الذي يجب على المستخدمين ومهندسي الأمان معرفته حول دور الذكاء الاصطناعي في الاحتيال والهجمات الإلكترونية؟

كيف يكتب الذكاء الاصطناعي رسائل بريد إلكتروني احتيالية

زاد محتوى الاحتيال المبلغ عنه بنسبة 61٪ من عام 2021 إلى عام 2022. من الروابط الضارة إلى رسائل البريد الإلكتروني الاحتيالية ، يصبح الاحتيال أكثر شيوعًا كل عام. الذكاء الاصطناعي هو الأداة الأخيرة التي يعتمد عليها المخترقون لتحسين حملات الاحتيال.

تجعل توافر منصات الذكاء الاصطناعي كخدمة مثل ChatGPT من السهل على أي شخص إنشاء محتوى. يمكن للمخترق أن يعرض على نموذج لغة كبير آلاف الأمثلة على رسائل بريد إلكتروني شرعية ، ثم يطلب منه إنشاء رسائل أصلية بناءً على تلك. تتيح المعالجة اللغوية الطبيعية (NLP) للذكاء الاصطناعي فهم وإنشاء محتوى مكتوب واقعي – أداة مثالية في هجمات الاحتيال.

في الوضع المثالي ، يولد الذكاء الاصطناعي رسالة بريد إلكتروني أصلية تقلد رسالة مكتوبة بواسطة الإنسان. يمكن للمخترق أن يطلب منه تخصيص الرسالة لتشمل تفاصيل حول شركة أو شخص أو مكان معين. يمكن للذكاء الاصطناعي حتى ترجمة الرسالة إلى لغة أخرى. يمكن للمخترقين بفعالية إنشاء رسائل بريد إلكتروني احتيالية أصلية ومخصصة في لحظات ، مما يسمح لهم بالابتعاد عن إعادة استخدام رسالة بريد إلكتروني ضارة واحدة بين العديد من الأهداف.

هل رسائل البريد الإلكتروني الاحتيالية التي تم إنشاؤها بواسطة الذكاء الاصطناعي فعالة؟

قد تظهر إمكانيات الاحتيال القائم على الذكاء الاصطناعي مخيفة ، ولكن هل هي أكثر خطورة من محتوى الاحتيال الذي تم إنشاؤه بواسطة الإنسان؟ تتمثل مزايا رسائل البريد الإلكتروني الاحتيالية التي تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل رئيسي في سير عمل أكثر كفاءة للمخترقين.

أظهرت الدراسات البحثية المبكرة أن رسائل البريد الإلكتروني الاحتيالية التي تم إنشاؤها بواسطة الذكاء الاصطناعي مثيرة للشك بنفس القدر مثل رسائل البريد الإلكتروني الاحتيالية التي تم إنشاؤها بواسطة الإنسان. كما أن المخترقين مقيدون في الوصول إلى منصات الذكاء الاصطناعي كخدمة. لديها معظم المطورين الكبار – بما في ذلك OpenAI – حماية لمنع تطبيقات النماذج القائمة على الذكاء الاصطناعي غير المشروعة.

تتمثل المزايا الرئيسية للذكاء الاصطناعي للمخترقين في الكفاءة واللغة. استخدام الذكاء الاصطناعي لإنشاء رسائل بريد إلكتروني احتيالية أسرع من كتابة رسائل يدويًا ، مما يسمح للمخترقين بإنشاء مجموعة أكبر من رسائل البريد الإلكتروني الاحتيالية. بالإضافة إلى ذلك ، يمكنهم استهداف ضحايا في أي مكان في العالم بفضل أدوات الترجمة القائمة على الذكاء الاصطناعي سهلة الوصول إليها وقدرات NLP.

لذلك ، تزيد رسائل البريد الإلكتروني الاحتيالية التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خطر هجمات الاحتيال ولكن قد لا تكون أكثر إقناعًا من المحتوى الذي تم إنشاؤه بواسطة الإنسان.

كيفية الدفاع ضد رسائل البريد الإلكتروني الاحتيالية التي تم إنشاؤها بواسطة الذكاء الاصطناعي

الذكاء الاصطناعي هو أداة مفيدة للمخترقين ، ولكنها ليست محصنة ضد الاختراق. يمكن للمستخدمين ومهندسي الأمان أيضًا تحسين استراتيجيات الدفاع مع تقدم هجمات الاحتيال. يجب على المستخدمين البدء بالبقاء على اطلاع حول العلامات الحمراء لمحتوى الاحتيال ، لأن هذه العلامات ستظل ذات صلة حتى مع رسائل البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

على الرغم من أن من الصعب اكتشاف رسائل البريد الإلكتروني الاحتيالية بنظرة سريعة ، يمكن أن تقلل بعض خطوات الأمان من فرصة حدوث ضرر أو إيقافها. بالإضافة إلى ذلك ، يمكن لتقنيات الكشف الجديدة اكتشاف رسائل البريد الإلكتروني الاحتيالية المكتوبة بواسطة الإنسان والذكاء الاصطناعي.

الانتقال إلى التخزين السحابي

تعتبر الانتقالة إلى التخزين السحابي وسيلة رائعة لتقليل تهديد رسائل البريد الإلكتروني الاحتيالية والهجمات الإلكترونية. تجعل طبيعة التخزين التقليدية المعزولة أكثر عرضة للاستغلال من قبل المخترقين. كل ما يحتاجه المخترق هو السيطرة على قرص صلب أو خادم واحد ، ويمكنه الاحتفاظ بجميع بيانات شخص ما كرهينة.

يتجنب التخزين السحابي هذا التهديد. منذ أن لا ترتبط البيانات بأي جهاز معين ، فمن الصعب على المخترقين حذف أو تلف أي معلومات. يمكن أن تحسن أمان السحابة أيضًا من مقاومة محاولات الاختراق.

على سبيل المثال ، يمكن للمستخدمين تنفيذ فحوصات للتخزين السحابي لإيجاد نقاط الضعف في أمان السحابة. هذا رائع لمنع المخترقين من استخدام البوابات الخلفية أو بيانات الاعتماد المسروقة للوصول إلى البيانات في السحابة. حتى لو فعلوا ، فمن الصعب عليهم السيطرة الكاملة على أي بيانات لأن التخزين السحابي من散ة للغاية.

إنشاء نظام التحقق المخصص

تعتبر إنشاء نظام تحقق مخصص وسيلة لمنع رسائل البريد الإلكتروني الاحتيالية. يمكن أن يشمل ذلك الأشخاص مثل العائلة والأصدقاء والزملاء. كل مرة يرسل فيها الأشخاص في المجموعة رسائل بريد إلكتروني إلى بعضهم البعض ، يمكنهم كتابة جملة تحقق معينة للتحقق من أن الرسالة حقيقية.

لا يحتاج نظام التحقق إلى أن يكون معقدًا. الفكرة هي ببساطة إضافة عامل إلى رسائل البريد الإلكتروني التي لا يمكن للمخترق أو الذكاء الاصطناعي معرفتها مسبقًا. اجعل جملة التحقق شيئًا غير عادي بحيث من غير المحتمل أن تظهر في رسائل البريد الإلكتروني التي تم تدريبها بواسطة الذكاء الاصطناعي.

على سبيل المثال ، يمكن أن تكون جملة التحقق اسم مستوطنة وهمية ، مثل “Agloe ، نيويورك”. من غير المحتمل أن تظهر المستوطنات الوهمية في رسائل البريد الإلكتروني لأنها أماكن وهمية يتم إضافتها إلى الخرائط لأغراض حقوق النشر.

استخدام كشف الاحتيال القائم على الذكاء الاصطناعي

المخترقون ليسوا الوحيدون الذين يستخدمون الذكاء الاصطناعي لتحسين منهجياتهم. يمكن للمستخدمين ومهندسي الأمان أيضًا استخدام نماذج الذكاء الاصطناعي لاكتشاف محتوى الاحتيال ، سواء كان مكتوبًا بواسطة الإنسان أو الذكاء الاصطناعي.

على سبيل المثال ، يمكن للمطورين استخدام التعلم الآلي لمراقبة وتتبع أنماط التواصل الطبيعية لمرسلي البريد الإلكتروني الشرعيين. إذا كان الذكاء الاصطناعي يمكنه التعلم بسرعة نمط التواصل الفريد لأحد الأفراد ، فيمكنه التعرف على رسائل البريد الإلكتروني الزائفة التي لا تتوافق. هذا ينطبق بغض النظر عما إذا كان الإنسان أو الذكاء الاصطناعي كتب الرسالة.

أحد أكبر نقاط قوة الاحتيال القائم على الذكاء الاصطناعي هو أيضًا عيبه الرئيسي. يمكن للمخترقين بفعالية إنشاء رسائل بريد إلكتروني احتيالية مقنعة باستخدام الذكاء الاصطناعي ، ولكن نمط التواصل في تلك الرسائل لا يمكن شخصيته بفعالية. عادةً ما لا يمتلك المخترق الخبرة الفنية أو الموارد لتدريب الذكاء الاصطناعي على تكرار نمط كتابة شخص ما بدقة. يمكن لنماذج كشف الاحتيال القائمة على الذكاء الاصطناعي الاستفادة من هذه النقطة الضعف للدفاع عن المستخدمين.

فهم مخاطر الاحتيال القائم على الذكاء الاصطناعي

يمكن للذكاء الاصطناعي أن يكون أداة قيمة للمخترقين عند إنشاء رسائل بريد إلكتروني احتيالية. ومع ذلك ، قد لا تكون رسائل البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي أكثر إقناعًا من محتوى الاحتيال الذي تم إنشاؤه بواسطة الإنسان. تظل العلامات الحمراء الرئيسية للاحتيال – مثل الدعوات العاجلة للعمل – ذات صلة بغض النظر عما إذا كان الشخص أو الذكاء الاصطناعي الذي يخترع رسالة الاحتيال. يمكن للمستخدمين ومهندسي الأمان تبني تقنيات وтехнологίες مبتكرة لحماية بياناتهم من حملات الاحتيال القائمة على الذكاء الاصطناعي.