قادة الفكر
الذكاء الاصطناعي التوليدي في الأمن السيبراني: ساحة المعركة والتهديد، والآن الدفاع

النقاط الرئيسيةالذكاء الاصطناعي التوليدي يمكّن من هجمات تصيد متطورة متعددة اللغات تتجاوز أمان البريد…
عرض المزيد
- الذكاء الاصطناعي التوليدي يمكّن من هجمات تصيد متطورة متعددة اللغات تتجاوز أمان البريد الإلكتروني التقليدي.
- المواجهة بين الآلات باستخدام منصات الكشف المتقدمة ضرورية لمواجهة الهندسة الاجتماعية المولدة بالذكاء الاصطناعي.
- إعلان مزيف على لينكد إن مزود بصور من دال-إي يُظهر أن الذكاء الاصطناعي التوليدي أصبح الآن مسلحًا لجرائم إلكترونية مستهدفة.
ساحة المعركة
ما بدأ كحماس حول قدرات الذكاء الاصطناعي التوليدي تحول بسرعة إلى قلق. أدوات الذكاء الاصطناعي التوليدي مثل ChatGPT و Google Bard و Dall-E لا تزال تتصدر العناوين بسبب مخاوف الأمن والخصوصية. بل إنها تؤدي إلى تساؤلات حول ما هو حقيقي وما هو غير حقيقي. يمكن للذكاء الاصطناعي التوليدي إنتاج محتوى يبدو واقعيًا للغاية، ومن ثم يكون مقنعًا. إلى حد أن مقدم برنامج «60 Minutes»، سكوت بيلي، اختتم فقرة حديثة عن الذكاء الاصطناعي بقوله للمشاهدين: «سنختتم بملاحظة لم ترد من قبل في برنامج „60 Minutes“، ولكنكم قد تسمعونها كثيرًا خلال ثورة الذكاء الاصطناعي: كل ما سبق أُنتج بالكامل بأيدي بشرية».
حرب الذكاء الاصطناعي التوليدي السيبرانية تبدأ مع هذا المحتوى المقنع والواقعي، وساحة المعركة هي حيث يستخدم المخترقون الذكاء الاصطناعي التوليدي، باستخدام أدوات مثل ChatGPT وغيرها. من السهل جدًا للمجرمين السيبرانيين، خاصة أولئك الذين لديهم موارد محدودة وبدون معرفة تقنية، أن يرتكبوا جرائمهم من خلال هجمات الهندسة الاجتماعية والتصيد الاحتيالي وانتحال الهوية.
التهديد
الذكاء الاصطناعي التوليدي لديه القدرة على تعزيز الهجمات السيبرانية المتطورة بشكل متزايد.
بسبب قدرة التكنولوجيا على إنتاج محتوى مقنع يشبه ما ينتجه البشر بسهولة، فإن عمليات الاحتيال السيبرانية الجديدة التي تستخدم الذكاء الاصطناعي أصبحت أكثر صعوبة على فرق الأمن لاكتشافها بسهولة. يمكن أن تأتي عمليات الاحتيال التي تستخدم الذكاء الاصطناعي في شكل هجمات الهندسة الاجتماعية مثل هجمات التصيد الاحتيالي المتعددة القنوات التي تُجرى عبر البريد الإلكتروني وتطبيقات المراسلة. يمكن أن يكون مثال حقيقي هو بريد إلكتروني أو رسالة تحتوي على مستند يتم إرساله إلى مدير تنفيذي للشركة من مورد طرف ثالث عبر أوتلوك (البريد الإلكتروني) أو سلاك (تطبيق المراسلة). يوجه البريد الإلكتروني أو الرسالة المدير التنفيذي إلى النقر عليه لعرض فاتورة. مع الذكاء الاصطناعي التوليدي، قد يصبح من شبه المستحيل التمييز بين بريد إلكتروني أو رسالة مزيفة وحقيقية. وهو ما يجعله خطرًا جدًا.
ومع ذلك، من أكثر الأمثلة إثارة للقلق أن المجرمين السيبرانيين يستطيعون، باستخدام الذكاء الاصطناعي التوليدي، إعداد هجمات بلغات متعددة – بغض النظر عما إذا كان المخترق يتحدث اللغة أم لا. الهدف هو رمي الشبكة على نطاق واسع، ولن يفرق المجرمون السيبرانيون بين الضحايا على أساس اللغة.
يشير تقدم الذكاء الاصطناعي التوليدي إلى أن حجم وكفاءة هذه الهجمات سيتزايدان.
الدفاع
كان الدفاع السيبراني في مواجهة الذكاء الاصطناعي التوليدي هو القطعة المفقودة من اللغز. أما الآن فقد تغير الوضع. من خلال استخدام الماكينة ضد الماكينة، أو وضع الذكاء الاصطناعي في مواجهة الذكاء الاصطناعي، يمكننا الدفاع ضد هذا التهديد الجديد والمتزايد. لكن كيف يجب تعريف هذه الاستراتيجية وكيف تبدو؟
أولاً، يجب على الصناعة أن تتصرف لوضع الحاسوب في مواجهة الحاسوب بدلاً من وضع الإنسان في مواجهة الحاسوب. لمواصلة هذا الجهد، يجب أن نعتمد منصات كشف متقدمة يمكنها اكتشاف التهديدات التي يولدها الذكاء الاصطناعي التوليدي، وتقليل الوقت اللازم لرصد هجوم الهندسة الاجتماعية الناشئ عن الذكاء الاصطناعي التوليدي والوقت اللازم لمعالجته. وهذا أمر لا يستطيع الإنسان القيام به.
قمنا مؤخرًا باختبار كيف يمكن أن يبدو هذا. طلبنا من ChatGPT إنشاء رسالة تصيد احتيالي بلغات متعددة، يعتمد نصها على إقناع المتلقي بالاتصال هاتفيًا، لمعرفة ما إذا كانت منصة لفهم اللغة الطبيعية أو منصة كشف متقدمة تستطيع اكتشافها. أعطينا ChatGPT التعليمة التالية: «اكتب رسالة بريد إلكتروني عاجلة تحث شخصًا على الاتصال بشأن إشعار نهائي يتعلق باتفاقية ترخيص برنامج». كما أمرناه بكتابة ذلك باللغة الإنجليزية واليابانية.
كانت منصة الكشف المتقدم قادرة على تحديد البريد الإلكتروني على الفور على أنه هجوم هندسة اجتماعية. ومع ذلك، لم تكن ضوابط الحماية المدمجة في البريد الإلكتروني مثل منصة الكشف عن التصيد الاحتيالي في أوتلوك قادرة على ذلك. حتى قبل إصدار ChatGPT، أثبتت هجمات الهندسة الاجتماعية التي تتم من خلال هجمات لغوية قائمة على المحادثة نجاحها لأنها يمكن أن تتجنب ضوابط الحماية التقليدية، وتصل إلى صناديق الوارد من دون رابط أو حمولة ضارة. نعم، إنه يتطلب قتال الماكينة ضد الماكينة للدفاع، ولكننا يجب أن نكون متأكدين من أننا نستخدم مدفعية فعالة، مثل منصة الكشف المتقدم. أي شخص لديه هذه الأدوات تحت تصرفه لديه ميزة في معركة ضد الذكاء الاصطناعي التوليدي.
عندما يتعلق الأمر بحجم هجمات الهندسة الاجتماعية ومدى إقناعها التي يوفرها ChatGPT وأشكال أخرى من الذكاء الاصطناعي التوليدي، يمكن تحسين الدفاع القائم على مواجهة الآلة بالآلة. على سبيل المثال، يمكن نشر هذا الدفاع في لغات متعددة. كما لا يحتاج إلى أن يقتصر على أمان البريد الإلكتروني، بل يمكن استخدامه لأي قناة اتصال أخرى مثل تطبيقات سلاك وواتساب وTeams وغيرها.
حافظوا على اليقظة
عندما كان أحد موظفينا يتصفح لينكد إن، وجد محاولة للهندسة الاجتماعية باستخدام الذكاء الاصطناعي التوليدي. ظهر إعلان غريب لتنزيل تقرير تحليلي، يحمل تصميمًا إعلانيًا لا يمكن وصفه، حتى بتساهل، إلا بأنه عجيب. عند الفحص الأقرب، رأى الموظف نمطًا لونيًا في الزاوية اليمنى السفلى على الصور التي أنتجها Dall-E، وهو نموذج للذكاء الاصطناعي يولد صورًا من المحفزات النصية.
كان العثور على هذا الإعلان المزيف على لينكد إن تذكيرًا مهمًا بالمخاطر الجديدة للهندسة الاجتماعية التي تظهر الآن مع الذكاء الاصطناعي التوليدي. من الأهمية بمكان أن نكون يقظين وأن نتعامل مع الرسائل المشبوهة بريبة.
لقد بدأ عصر استخدام الذكاء الاصطناعي التوليدي في الجرائم السيبرانية، ويجب أن نبقى على يقظة ومستعدين لمواجهة هذه التهديدات بكل أداة تحت تصرفنا.












