هل تستعد الشركات لموجة جديدة من الهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي؟

يمكن للخبراء من خلال تحليل الاتجاهات الحالية توقع كيف سيستخدم المخترقون الذكاء الاصطناعي في المستقبل. وبذلك يمكنهم تحديد أكبر التحديات الناشئة وتحديد ما إذا كانت الشركات مستعدة. قد يكونون قادرين حتى على اكتشاف حل.

حالة التهديدات التي تعتمد على الذكاء الاصطناعي في السنوات الأخيرة

على الرغم من أن تكنولوجيا الذكاء الاصطناعي جديدة نسبيًا، إلا أنها أصبحت أداة بارزة للمخترقين. وتشير هذه الاتجاهات إلى أن الهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي في زيادة.

1. تخريب النماذج

من خلال استهداف نماذج اللغة الكبيرة (LLM) مباشرةً، يمكن للمخترقين تحريف سلوك النموذج، وتقليل دقة الإخراج أو كشف البيانات الشخصية المتعلقة بالتدريب. وتشمل تقنيات الهجوم الشائعة تسميم البيانات وتصميم البروتوكول.

تتم بعض الهجمات من قبل مخترقين ي寻ون إلى إحداث الفوضى أو سرقة المعلومات الحساسة. بينما يتم إدارة بعض الهجمات الأخرى من قبل فنانين غير راضين يرغبون في حماية أعمالهم الفنية من التخليص بواسطة الذكاء الاصطناعي. وعلى أي حال، يتم التأثير السلبي على الشركة ومستخدميها النهائيين.

2. هجمات التمثيل

في عام 2024، تلقى أحد مسؤولي شركة فيراري عدة رسائل على تطبيق WhatsApp من الرئيس التنفيذي، بنيديتو فيغنا. تحدث فيغنا عن إقتراب استحواذ وطلب من موظفيه التوقيع على اتفاقية عدم إفصاح، وأيضًا اتصل لمناقشة التمويل. ولكن هناك مشكلة واحدة — لم يكن هو.

كان التمثيل المزيف قريبًا جدًا من الكمال، حيث قام بتقليد لهجة فيغنا الإيطالية الجنوبية بشكل استثنائي. ومع ذلك، كانت هناك اختلافات طفيفة في الصوت أشار بها المسؤول إلى الاحتيال. سأل الموظف عن عنوان كتاب أوصى به فيغنا قبل أيام، وسؤال لا يعرف الجواب إلا الرئيس التنفيذي الحقيقي. ثم أغلق المخترق الهاتف.

يمكن للذكاء الاصطناعي أن يقلد صوت شخص، وسلوك التصفح، وأسلوب الكتابة، والتشابه. ومع تقدم هذه التكنولوجيا، يصبح من الصعب بشكل متزايد تحديد التمثيلات المزيفة. غالبًا ما يضع المخترقون الهدف في حالة استعجال لمنعهم من تساؤل حول اختلافات طفيفة.

3. صيد السمك الإلكتروني بواسطة الذكاء الاصطناعي

في الماضي، كان يمكن لشخص تحديد رسالة بريد إلكتروني مزيفة من خلال البحث عن قواعد نحوية سيئة، وروابط مشبوهة، ورسائل عامة، وطلبات غير مناسبة. الآن، مع تقنية المعالجة اللغوية الطبيعية، يمكن للمخترقين صياغة رسائل مقنعة ذات قواعد نحوية مثالية.

وجد الباحثون أن رسائل صيد السمك الإلكتروني المزودة بالذكاء الاصطناعي التي يتم تشغيلها بالكامل تلقائيًا تمتلك معدل نقرة بنسبة 54%، وهو ما يعادل معدل نقرة رسائل صيد السمك الإلكتروني التي كتبها البشر.由于 أن هذه الاحتيالات أكثر اقناعًا، فإنها تصبح أكثر شيوعًا. وقد وجدت الدراسات أن أكثر من 80% من رسائل صيد السمك الإلكتروني تظهر أدلة على مشاركة الذكاء الاصطناعي.

4. الهندسة الاجتماعية

تتضمن الهندسة الاجتماعية التلاعب بشخص ما لاتخاذ إجراء أو إفشاء معلومات. يمكن للذكاء الاصطناعي تمكين المخترقين من الاستجابة بشكل أسرع وتصميم رسائل أكثر اقناعًا. يمكن لأي نموذج معالجة لغوية طبيعية إجراء تحليل دلالي لتحديد حالة المستلم العاطفية، مما يجعله أكثر عرضة للامتثال.

إضافة إلى تعزيز تقنيات الهندسة الاجتماعية، تقلل تقنية التعلم الآلي من الحواجز التقليدية للدخول، مما يسمح للمبتدئين بتشغيل حملات متقدمة. إذا كان أي شخص يمكن أن يصبح مجرمًا إلكترونيًا، فإن أي شخص يمكن أن يصبح هدفًا.

الموجة القادمة من الهجمات الإلكترونية التي تعتمد على البيانات والذكاء الاصطناعي

في بداية عام 2026، من المتوقع أن تبقى الهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي على مستوى نضج منخفض. ومع ذلك، فإنها سوف تتقدم بشكل كبير مع تقدم العام، مما يسمح للمجرمين الإلكترونيين بالدخول إلى مراحل التحسين والتشغيل والتوسع. سوف يكونون قادرون قريباً على إطلاق حملات تلقائية بالكامل. لن تكون الأمثلة المؤكدة للهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي نادرة لمدة طويلة.

البرمجيات الخبيثة المتعدد الشكل هي فيروس مدعوم بالذكاء الاصطناعي يمكنه تغيير شفرته كل مرة يتكرر فيها لتفادي الكشف. يمكن للمهاجمين توصيل الحمولة من خلال أنظمة الذكاء الاصطناعي، أو استدعاء نماذج اللغة الكبيرة في وقت التشغيل لتوليد أوامر أو دمج الفيروس مباشرة في النموذج. اكتشف فريق استخبارات التهديدات في جوجل نشر هذا الفيروس لأول مرة في عام 2025.

أسراب الفيروسات هي PROMPTFLUX وPROMPTSTEAL. خلال التنفيذ، يستخدمون نماذج اللغة الكبيرة لطلب تقنيات التخفي والتجنب. يتجنبون الكشف القائم على التوقيع من خلال التمويه الخاص بكودهم عند الطلب.

تُظهر الأدلة أن هذه التهديدات لا تزال في مرحلة الاختبار — بعض الميزات غير المكتملة مُcommented out، والدعوات البرمجية محدودة. قد تكون عائلات الفيروسات التي تعتمد على الذكاء الاصطناعي لا تزال قيد التطوير، ولكن وجودها يمثل خطوة كبيرة إلى الأمام في اتجاه تقنيات الهجوم الذكية والمتكيفة.

تُظهر الأبحاث في جامعة نيويورك أن نماذج اللغة الكبيرة يمكنها تنفيذ هجمات الفدية بشكل مستقل، والتي تُعرف باسم Ransomware 3.0. يمكنها إجراء استكشاف، وتوليد حمولات، وتصميم ابتزاز دون تدخل بشري. يتطلب فقط توجيهات لغة طبيعية مدمجة في الثنائي. ينتج النموذج متغيرات متعددة الشكل التي تتكيف مع بيئة التنفيذ عن طريق توليد الشفرة الخبيثة بشكل ديناميكي في وقت التشغيل.

هل تستعد الشركات لمواجهة الهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي؟

على الرغم من إنفاق مليارات الدولارات على أمان السيبراني، لا تزال الشركات الخاصة تواجه صعوبات في مواكبة التطورات المتسارعة في مشهد التهديدات. يمكن لتكنولوجيا التعلم الآلي جعل البرامج الحالية للكشف والاستجابة أقل فاعلية، مما يزيد من تعقيد الدفاع. ولا يساعد أن العديد من الشركات لا تتوافق حتى مع المعايير الأمنية الأساسية.

أجرى تقرير النضج الأمني السيبراني DIB لعام 2024 استطلاعًا لما يقرب من 400 محترف في مجال تكنولوجيا المعلومات في قاعدة الصناعة الدفاعية الأمريكية (DIB). أكثر من نصف المستجيبين أبلغوا عن كونهم بعيدين عن الحصول على شهادة نضج الأمان السيبراني CMMC 2.0، على الرغم من أن معايير التوافق مع NIST 800-171 المطابقة قد تم تحديدها في عقود وزارة الدفاع منذ عام 2016. يعتقد العديد منهم أن وضعهم الأمني أفضل مما هو عليه في الواقع.

دخلت متطلبات CMMC الجديدة حيز التنفيذ في 10 نوفمبر 2025. في المستقبل، جميع عقود وزارة الدفاع ستتطلب مستوى معينًا من توافق CMMC كشرط للفوز بالعقد. تهدف القواعد الجديدة إلى تعزيز أمان قاعدة الصناعة الدفاعية، ولكن هل سوف تكون فعالة في عصر الذكاء الاصطناعي؟

هل يمكن أن يكون الذكاء الاصطناعي الدفاعي هو الحل؟

قد يكون القتال بالنار مع النار هو الطريقة الوحيدة لمواجهة الارتفاع الحتمي في الهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي. يمكن للشركات من خلال الذكاء الاصطناعي الدفاعي الاستجابة ديناميكيًا للتهديدات في الوقت الفعلي. ومع ذلك، يأتي هذا النهج مع عيوب أمنية خاصة به — سوف يتطلب تأمين النموذج من التخريب إشرافًا مستمرًا ومراجعة.

وفقًا لاستعراض هارفارد للأعمال، تترك الحلول التقليدية الشركات عرضة للهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي. لتحقيق متانة سيبرانية، يجب عليهم استخدام تكنولوجيا التعلم الآلي للتنبؤ والاستجابة تلقائيًا للتهديدات.

لا يوجد جواب بسيط حول ما إذا كان الذكاء الاصطناعي الدفاعي هو الحل لهذه المشكلة. هل يجب على الشركات إنفاق مواردها في نشر أدوات التعلم الآلي غير المثبتة أو توسيع فرق تكنولوجيا المعلومات؟ من المستحيل توقع أي استثمار سوف يؤتي ثماره في الأجل الطويل.

قد ترى الشركات الكبيرة عوائد كبيرة مع أمان السيبراني الآلي، بينما قد يجد الشركات الصغيرة صعوبة في تبرير التكلفة. قد تكون تقنية التأتمتة التقليدية قادرة على سد الفجوة بسعر أقل بكثير، ولكنها لن تكون قادرة على الاستجابة للتهديدات الديناميكية.

يصرح ستيف دوربين، الرئيس التنفيذي لمنتدى الأمن المعلوماتي، أن تبني الذكاء الاصطناعي له فوائد كبيرة، ولكنه يأتي أيضًا مع عيوب كبيرة. على سبيل المثال، غالبًا ما يختبر الشركات زيادة في تنبيهات الإيجابيات الكاذبة، مما يضيع وقت فرق الأمن. بالإضافة إلى ذلك، يمكن أن يؤدي الاعتماد المفرط على الذكاء الاصطناعي إلى جعل الفرق أكثر ثقة، مما يؤدي إلى ثغرات أمنية.

ملاحة مشهد التهديدات التي تعتمد على الذكاء الاصطناعي

من المستحيل تحديد مدى وجود الذكاء الاصطناعي في مشهد التهديدات بدقة، لأن المهاجمين يمكنهم استخدامه لإنشاء شفرة خبيثة أو صياغة رسائل بريد إلكتروني مزيفة، بدلاً من استخدامه في وقت التشغيل. يمكن لمجرمي السيبرانيات المنفردين أو مجموعات التهديد المدعومة من الدولة استخدامها على نطاق واسع.

استنادًا إلى المعلومات المتاحة، سوف تكون تخريب النماذج، و صيد السمك الإلكتروني بواسطة الذكاء الاصطناعي، و البرمجيات الخبيثة المتعددة الشكل من أكبر التهديدات السيبرانية في عام 2026. ومن المحتمل أن يستمر المخترقون في استخدام نماذج اللغة الكبيرة لتوليد وتوصيل وضبط حمولات خبيثة، مستهدفين قطاعات عالية القيمة مثل التمويل، بالإضافة إلى الأشخاص العاديين.