الذكاء الاصطناعي التوليدي في الأمن السيبراني: ساحة المعركة والتهديد والدفاع الآن

ساحة المعركة

ما بدأ كحماس حول قدرات الذكاء الاصطناعي التوليدي تحول بسرعة إلى قلق. أدوات الذكاء الاصطناعي التوليدي مثل ChatGPT و Google Bard و Dall-E وما إلى ذلك تواصل إحراز العناوين الرئيسية بسبب مخاوف الأمن والخصوصية. بل إنها تؤدي إلى تساؤل عن ما هو حقيقي وما ليس كذلك. يمكن للذكاء الاصطناعي التوليدي إنتاج محتوى مقنع للغاية ومن ثم مقنع. لدرجة أن نهاية مقطع 60 دقيقة حول الذكاء الاصطناعي، تركت المضيف سكوت بيلي المشاهدين مع هذه العبارة؛ “سننهي مع ملاحظة لم تظهر من قبل على 60 دقيقة، ولكن واحدة، في ثورة الذكاء الاصطناعي، قد تسمعها كثيرًا: ما سبق تم إنشاؤه بمحتوى بنسبة 100٪ بشري”.

يبدأ حرب الذكاء الاصطناعي التوليدي السيبرانية مع هذا المحتوى المقنع والحياة الواقعية وساحة المعركة هي حيث يستخدم المخترقون الذكاء الاصطناعي التوليدي، باستخدام أدوات مثل ChatGPT وغيرها. من السهل للغاية للمجرمين السيبرانيين، خاصة ceux الذين لديهم موارد محدودة وبدون معرفة تقنية، تنفيذ جرائمهم من خلال الهندسة الاجتماعية والفساد والهجمات المتخلفة.

التهديد

يتمتع الذكاء الاصطناعي التوليدي بقدرة على تعزيز الهجمات السيبرانية المتطورة بشكل متزايد.

بسبب قدرة التكنولوجيا على إنتاج محتوى مقنع وبشري مثل بسهولة، تصبح عمليات الاحتيال الجديدة التي تستخدم الذكاء الاصطناعي أكثر صعوبة على فرق الأمن لاكتشافها بسهولة. يمكن أن تأتي عمليات الاحتيال التي تم إنشاؤها بواسطة الذكاء الاصطناعي في شكل هجمات هندسة اجتماعية مثل هجمات الفишينج متعددة القنوات التي تُجرى عبر البريد الإلكتروني وتطبيقات المراسلة. يمكن أن يكون مثال حقيقي هو بريد إلكتروني أو رسالة تحتوي على وثيقة يتم إرسالها إلى مسؤول تنفيذي شركات من مورد طرف ثالث عبر أوتلوك (البريد الإلكتروني) أو سلاك (تطبيق المراسلة). يوجه البريد الإلكتروني أو الرسالة إلى النقر عليه لعرض فاتورة. مع الذكاء الاصطناعي التوليدي، يمكن أن يكون من الصعب التمييز بين بريد إلكتروني أو رسالة مزيفة وحقيقية. وهو ما يجعله خطرًا.

أحد الأمثلة الأكثر إثارة للقلق، ومع ذلك، هو أن المخترقين يمكنهم مع الذكاء الاصطناعي التوليدي إنتاج هجمات عبر لغات متعددة – بغض النظر عما إذا كان المخترق يتحدث اللغة. الهدف هو رمي شبكة واسعة ولا يفرق المخترقون بين الضحايا بناءً على اللغة.

يدل تقدم الذكاء الاصطناعي التوليدي على أن حجم وكفاءة هذه الهجمات سوف تستمر في النمو.

الدفاع

كان الدفاع السيبراني عن الذكاء الاصطناعي التوليدي قطعة ناقصة في اللغز. حتى الآن. من خلال استخدام قتال الآلة بالآلة، أو تثبيت الذكاء الاصطناعي ضد الذكاء الاصطناعي، يمكننا الدفاع ضد هذا التهديد الجديد والمتزايد. ولكن كيف يجب تعريف هذه الاستراتيجية وكيف تبدو؟

أولاً، يجب على الصناعة أن تعمل على تثبيت الكمبيوتر ضد الكمبيوتر بدلاً من الإنسان ضد الكمبيوتر. لتلبية هذه الجهد، يجب أن ننظر في منصات الكشف المتقدمة التي يمكنها الكشف عن التهديدات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وتقليل الوقت الذي يستغرقه إشعار الوقت الذي يستغرقه حل هجوم الهندسة الاجتماعية الذي نشأ من الذكاء الاصطناعي التوليدي. شيء لا يستطيع الإنسان القيام به.

قمنا مؤخرًا بإجراء اختبار لما يمكن أن يبدو عليه. قمنا بتوجيه ChatGPT لكتابة بريد إلكتروني للاستدعاء القائم على اللغة في لغات متعددة لمعرفة ما إذا كان منصة فهم اللغة الطبيعية أو منصة الكشف المتقدمة يمكنها الكشف عنه. قمنا بتوجيه ChatGPT بالتوجيه “اكتب بريدًا إلكترونيًا عاجلاً يحث على الاتصال بشأن إشعار نهائي بشأن اتفاقية ترخيص برمجية”. كما أمرناه بكتابة ذلك باللغة الإنجليزية واليابانية.

كانت منصة الكشف المتقدمة قادرة على الكشف عن البريد الإلكتروني على الفور على أنه هجوم هندسة اجتماعية. ولكن، لم تتمكن سيطرات البريد الإلكتروني الأصلية مثل منصة الكشف عن الفيشينج في أوتلوك من الكشف عنه. حتى قبل إصدار ChatGPT، أثبتت الهندسة الاجتماعية التي تم إجراؤها عبر هجمات لغة محادثية أنها ناجحة لأنها يمكن أن تتجنب التحكمات التقليدية، وتهبط في صناديق الوارد دون وجود رابط أو حمولة. لذلك، نعم، يتطلب الدفاع قتال الآلة بالآلة، ولكن يجب أن نكون متأكدين من أننا نستخدم مدفعية فعالة، مثل منصة الكشف المتقدمة. أي شخص لديه هذه الأدوات في حوزته يمتلك ميزة في معركة ضد الذكاء الاصطناعي التوليدي.

عندما يتعلق الأمر بمقياس ومصداقية هجمات الهندسة الاجتماعية التي توفرها ChatGPT وأشكال أخرى من الذكاء الاصطناعي التوليدي، يمكن أن يتم توجيه الدفاع بالآلة بالآلة. على سبيل المثال، يمكن توجيه هذا الدفاع في لغات متعددة. كما أنه لا يتعين أن يقتصر على أمان البريد الإلكتروني فقط، بل يمكن استخدامه لأمان قنوات اتصال أخرى مثل تطبيقات مثل سلاك وواتساب وتييمز وما إلى ذلك.

البقاء متيقظًا

عندما كنت أتصفح لينكد إن، وجد أحد موظفينا محاولة هندسة اجتماعية بواسطة الذكاء الاصطناعي التوليدي. ظهر إعلان غريب لتحميل ورقة بيضاء مع ما يمكن وصفه باسم “غريب” إبداعي إعلاني. عند النظر إليه عن كثب، رأى الموظف نمطًا ملونًا في الزاوية اليمنى السفلى مطبوعًا على الصور التي أنتجها Dall-E، نموذج الذكاء الاصطناعي الذي يولد الصور من التوجيهات النصية.

التصادف مع هذا الإعلان الكاذب على لينكد إن كان تذكيرًا كبيرًا بمخاطر الهندسة الاجتماعية الجديدة التي تظهر الآن مع الذكاء الاصطناعي التوليدي. من الأهمية بمكان أن نكون متيقظين ومشككين.

عصر الذكاء الاصطناعي التوليدي المستخدم للجرائم السيبرانية هنا، ويجب علينا أن نبقى متيقظين ومستعدين لمواجهة كل أداة في حوزتنا.