الذكاء الاصطناعي التوليدي في الأمن السيبراني: ساحة المعركة والتهديد والدفاع

ساحة المعركة

ما بدأ كحماس حول قدرات الذكاء الاصطناعي التوليدي تحول بسرعة إلى قلق. أدوات الذكاء الاصطناعي التوليدي مثل ChatGPT و Google Bard و Dall-E تستمر في جعل العناوين بسبب مخاوف الأمن والخصوصية. بل إنها تؤدي إلى تساؤلات حول ما هو حقيقي وما هو غير حقيقي. يمكن للذكاء الاصطناعي التوليدي إنتاج محتوى مقنع للغاية ومن ثم مقنع. لدرجة أن نهاية مقطع 60 دقيقة حول الذكاء الاصطناعي، تركت المضيف سكوت بيلي المشاهدين مع هذه العبارة؛ “سنهيي مع ملاحظة لم تظهر من قبل على 60 دقيقة، ولكن في ثورة الذكاء الاصطناعي، قد تسمعها كثيرًا: ما سبق كان من إنتاج 100% محتوى بشري.”

حرب الذكاء الاصطناعي التوليدي السيبرانية تبدأ مع هذا المحتوى المقنع والحقيقي، وساحة المعركة هي حيث يستخدم المخترقون الذكاء الاصطناعي التوليدي، باستخدام أدوات مثل ChatGPT وغيرها. من السهل جدًا للمجرمين السيبرانيين، خاصة أولئك الذين لديهم موارد محدودة وبدون معرفة تقنية، أن يرتكبوا جرائمهم من خلال هجمات الهندسة الاجتماعية والتصيد الاحتيالي والتقليد.

التهديد

الذكاء الاصطناعي التوليدي لديه القدرة على تعزيز الهجمات السيبرانية المتطورة بشكل متزايد.

بسبب قدرة التكنولوجيا على إنتاج محتوى مقنع وبشري مثل معظم الأحيان، فإن عمليات الاحتيال السيبرانية الجديدة التي تستخدم الذكاء الاصطناعي أصبحت أكثر صعوبة على فرق الأمن لاكتشافها بسهولة. يمكن أن تأتي عمليات الاحتيال التي تستخدم الذكاء الاصطناعي في شكل هجمات الهندسة الاجتماعية مثل هجمات التصيد الاحتيالي المتعددة القنوات التي تُجرى عبر البريد الإلكتروني وتطبيقات المراسلة. يمكن أن يكون مثال حقيقي هو بريد إلكتروني أو رسالة تحتوي على مستند يتم إرساله إلى مدير تنفيذي للشركة من مورد طرف ثالث عبر أوتلوك (البريد الإلكتروني) أو سلاك (تطبيق المراسلة). يوجه البريد الإلكتروني أو الرسالة المدير التنفيذي إلى النقر عليه لعرض فاتورة. مع الذكاء الاصطناعي التوليدي، يمكن أن يكون من الصعب التمييز بين بريد إلكتروني أو رسالة مزيفة وحقيقية. وهو ما يجعله خطرًا جدًا.

然而، واحدة من الأمثلة الأكثر إثارة للقلق هي أن الذكاء الاصطناعي التوليدي يمكن للمجرمين السيبرانيين إنتاج هجمات عبر لغات متعددة – بغض النظر عما إذا كان المخترق يتحدث اللغة أم لا. الهدف هو رمي الشبكة على نطاق واسع، ولن يفرق المجرمون السيبرانيون بين الضحايا على أساس اللغة.

تؤشر تقدم الذكاء الاصطناعي التوليدي إلى أن حجم وكفاءة هذه الهجمات سيتزايدان.

الدفاع

الدفاع السيبراني عن الذكاء الاصطناعي التوليدي كان قطعة النقص في اللغز. حتى الآن. من خلال استخدام الماكينة ضد الماكينة، أو ربط الذكاء الاصطناعي بالذكاء الاصطناعي، يمكننا الدفاع ضد هذا التهديد الجديد والمتزايد. لكن كيف يجب تعريف هذه الاستراتيجية وكيف تبدو؟

أولاً، يجب على الصناعة أن تتصرف لربط الكمبيوتر بالكمبيوتر بدلاً من الإنسان ضد الكمبيوتر. لمواصلة هذا الجهد، يجب أن نعتمد منصات كشف متقدمة يمكنها اكتشاف التهديدات التي يولدها الذكاء الاصطناعي التوليدي، وتقليل الوقت اللازم لتحديد الوقت اللازم لحل هجوم الهندسة الاجتماعية الذي نشأ من الذكاء الاصطناعي التوليدي. شيء لا يستطيع الإنسان القيام به.

قمنا مؤخرًا باختبار كيف يمكن أن يبدو هذا. لقد قمنا بتشغيل ChatGPT لإنشاء بريد إلكتروني للتصيد الاحتيالي القائم على اللغة في لغات متعددة لمعرفة ما إذا كان منصة فهم اللغة الطبيعية أو منصة الكشف المتقدم يمكنها اكتشافها. لقد قمنا بتشغيل ChatGPT لكتابة بريد إلكتروني عاجل يحث شخصًا على الاتصال بشأن إشعار نهائي بشأن اتفاقية ترخيص برمجية. كما أمرناه بكتابة ذلك باللغة الإنجليزية واليابانية.

كانت منصة الكشف المتقدم قادرة على تحديد البريد الإلكتروني على الفور على أنه هجوم هندسة اجتماعية. ومع ذلك، لم تكن التحكمات الأصلية للبريد الإلكتروني مثل منصة الكشف عن التصيد الاحتيالي في أوتلوك قادرة على ذلك. حتى قبل إصدار ChatGPT، أثبتت هجمات الهندسة الاجتماعية التي تتم من خلال هجمات لغة قائم على المحادثة نجاحها لأنها يمكن أن تتجنب التحكمات التقليدية، وتهبط في صناديق الوارد دون وجود رابط أو حمولة. نعم، إنه يتطلب قتال الماكينة ضد الماكينة للدفاع، ولكننا يجب أن نكون متأكدين من أننا نستخدم مدفعية فعالة، مثل منصة الكشف المتقدم. أي شخص لديه هذه الأدوات تحت تصرفه لديه ميزة في معركة ضد الذكاء الاصطناعي التوليدي.

عندما يتعلق الأمر بمقياس ومصداقية هجمات الهندسة الاجتماعية التي يوفرها ChatGPT و其他 أشكال من الذكاء الاصطناعي التوليدي، يمكن تحسين الدفاع الماكينة ضد الماكينة. على سبيل المثال، يمكن نشر هذا الدفاع في لغات متعددة. كما لا يحتاج إلى أن يقتصر على أمان البريد الإلكتروني، بل يمكن استخدامه لأي قناة اتصال أخرى مثل تطبيقات سلاك وواتساب وتيامز وغيرها.

البقاء على اليقظة

عندما كان أحد موظفينا يتصفح لينكد إن، وجد محاولة للاختراق الاجتماعي باستخدام الذكاء الاصطناعي التوليدي. ظهر إعلان لتحميل ورقة بيضاء غريب مع ما يمكن وصف فقط بـ “إبداع غريب” في الإعلان. عند الفحص الأقرب، رأى الموظف نمطًا لونيًا في الزاوية اليمنى السفلى على الصور التي أنتجها Dall-E، وهو نموذج للذكاء الاصطناعي يولد صورًا من المحفزات النصية.

التصادف مع هذا الإعلان الكاذب على لينكد إن كان تذكيرًا هامًا بالمخاطر الجديدة للهندسة الاجتماعية التي تظهر الآن مع الذكاء الاصطناعي التوليدي. من الأهمية بمكان أن نكون على يقظة ويشككون.

عصر استخدام الذكاء الاصطناعي التوليدي للجرائم السيبرانية هنا، ويجب أن نبقى على يقظة ومستعدين لمواجهة هذه التهديدات بكل أداة تحت تصرفنا.