عندما تخترق الذكاء الاصطناعي الذكاء الاصطناعي: الجبهة الجديدة للتهديدات السيبرانية

في السنوات القليلة الأخيرة، تطورت تقنية الذكاء الاصطناعي بشكل ملحوظ. من الروبوتات الحوارية البسيطة التي يمكنها الإجابة على الأسئلة المتكررة والمكالمات الهاتفية إلى الجراحة الدقيقة والهجمات السيبرانية شبه الذاتية. الـ حادث على منصة Hugging Face في يناير 2026 أصبحت علامة فارقة مقلقة: أظهر وكلاء الذكاء الاصطناعي للمرة الأولى القدرة على اختراق منصات الذكاء الاصطناعي بشكل ذاتي. كشفت هذه الحالة عن مشكلة أساسية: الإجراءات الأمنية التقليدية لا تعمل ضد الذكاء الاصطناعي المهاجم. لكن ماذا يعني هذا لصناعة الذكاء الاصطناعي — وما الذي ينبغي أن نقلق بشأنه فعلاً؟

ما الذي يمكن للذكاء الاصطناعي أن يفعله للمهاجمين اليوم

لن تكون مفاجأة إذا أخبركم أن قدرات القراصنة باستخدام الذكاء الاصطناعي تعتمد على مهارات المهاجم وأهدافه. بدأ الفاعلون الذين يجرون حملات واسعة في استخدام الذكاء الاصطناعي بشكل متزايد للاستطلاع، وتطوير مواقع التصيد، وإنشاء الطعوم، وغيرها. كما يُستخدم الذكاء الاصطناعي كثيرًا من قبل المهاجمين لإنشاء الشفرات — ما يُسمى بـ vibe coding. 

خفضت تقنية vibe coding نفسها بشكل كبير حاجز الدخول ليس فقط إلى مهنة تكنولوجيا المعلومات بل سهلت أيضًا على القراصنة الانضمام إلى مجال الجريمة السيبرانية، حيث يستخدمون هذه التقنية لتطوير وتصحيح برامجهم الضارة.

خلال العام الماضي، أكدت العشرات من مجموعات APT أن الهجمات القائمة على الذكاء الاصطناعي لم تعد نظرية. علاوة على ذلك، أنا واثق أن الذكاء الاصطناعي يصبح أداة خطرة في أيدي المهاجمين — وهذا ليس مبالغة. هجمات APT المختلطة هي الواقع الحديث. أعني عملية موجهة من قبل الإنسان حيث يعمل الذكاء الاصطناعي كأداة رئيسية.

ما يهم هنا هو AIM3 (نموذج نضج البرمجيات الخبيثة بالذكاء الاصطناعي)، الذي يحدد خمسة مستويات من التعقيد للتهديدات المدعومة بالذكاء الاصطناعي، حيث يغطي المستوى L1 الهجمات التجريبية ويغطي المستوى L5 الهجمات ذاتية التحكم بالكامل.

في عام 2025، كان أول مثال معروف لهجوم من المستوى L4 هو تم اكتشاف — العملية التي نفذتها مجموعة GTG-1002. في هذه الحالة، كلف الفاعلون نسخًا من Claude Code بالعمل في مجموعات كمنسقين ووكلاء اختبار اختراق ذاتي، حيث تمكن الفاعل من استغلال الذكاء الاصطناعي لتنفيذ 80–90٪ من العمليات التكتيكية بشكل مستقل.

اتجاه ملحوظ آخر هو أن المهاجمين يستخدمون أكثر من حل ذكاء اصطناعي واحد خلال الهجوم. على سبيل المثال، TAT26-12 يستخدم نظامين ذكاء اصطناعي يعملان بأدوار مكملة. كما تم استخدام OpenAI للتحليل الجماعي الآلي عبر خوادم الضحايا الداخلية: قام المهاجم بتحليل تقارير OpenAI وأدخل النتائج ذات الصلة إلى جلسات Claude، التي بدورها عملت كمساعد تفاعلي للاستغلال.

تم الكشف عن حالة مماثلة أخرى في يوليو 2026، عندما استخدم فاعلون غير معروفون كل من Claude Code وDeepSeek-v4-pro في هجماتهم. يعمل Claude Code كمحرك تنفيذ، يدير استخدام الأدوات الوكيلة، وتنفيذ أوامر bash، واستمرار الجلسات، وتوازي المهام. بينما يعمل DeepSeek-v4-pro كنموذج التفكير الأساسي، يتعامل مع منطق الهجوم، وتوليد السكريبتات، واتخاذ القرارات.

يجب الإشارة إلى أنه لا يمكن ذكر أي حالات مؤكدة لهجمات AI من المستوى L5 في الواقع. أفترض أن الفاعلين المتقدمين سيسعون إلى المستوى L3–L4 من التعقيد للتهديدات المدعومة بالذكاء الاصطناعي، حيث يمكن أن يساعدهم ذلك على التوسع وإجراء عدد كافٍ من الهجمات. وبما أن هجمات المستوى L5 معقدة التنفيذ، فإنها ستظل نظرية على الأقل في المستقبل القريب.

الذكاء الاصطناعي في الويب المظلم

في المنتديات تحت الأرض، كان الذكاء الاصطناعي عادةً ذُكر في مناقشات حول القدرات العامة لكل حل وفي سياق إنشاء الأوامر. مع ذلك، كان جزء كبير من المشاركات مرتبطًا مباشرةً بنشاط خبيث. غطت المشاركات على منصات الجريمة السيبرانية المعروفة مواضيع مثل استخدام الذكاء الاصطناعي للعثور على إرشادات لتكوين بنية تحتية للمهاجم وطرق لتجنب الكشف من قبل حلول مكافحة الفيروسات الشهيرة؛ واستخدام الذكاء الاصطناعي لتجاوز إجراءات KYC على بورصات العملات الرقمية الشهيرة؛ ومناقشة هجمات معروفة مدعومة بالذكاء الاصطناعي؛ وتطوير وتوزيع البرمجيات الضارة؛ واستخدام الذكاء الاصطناعي لإنشاء صفحات تصيد تحاكي الخدمات عبر الإنترنت.

تطابق حلول الذكاء الاصطناعي الثلاثة الأكثر ذكرًا في المنتديات تلك التي تُلاحظ غالبًا في هجمات مجموعات الجريمة السيبرانية: Gemini، أدوات OpenAI، وClaude Code. اُستخدم Gemini بشكل أكثر تكرارًا في الهجمات الكبرى، بينما نُوقش ChatGPT بشكل أكثر في المنتديات. 

صناعة الذكاء الاصطناعي كهدف

بالإضافة إلى استخدام الذكاء الاصطناعي لتنفيذ الهجمات، يستهدف الفاعلون حلول الذكاء الاصطناعي نفسها. نادراً ما يتم الكشف عن هجمات على أدوات الذكاء الاصطناعي علنًا؛ ومع ذلك، يمكن أن يكون لهجوم من هذا النوع تأثير كبير على العديد من الشركات. يمكن لهجوم على موردي الذكاء الاصطناعي أن ينتج حملة سلسلة إمداد، مما يسمح للمهاجمين باختراق العملاء دون استهدافهم مباشرة.

علاوة على ذلك، يمكن لمطوري الذكاء الاصطناعي أن يكونوا ضحايا لهجمات سلسلة الإمداد. على سبيل المثال، في أوائل مايو 2026، قامت مجموعة TeamPCP بحقن زرع Mini Shai-Hulud الخبيث في حزم npm المخترقة؛ أثرت الحملة على ما لا يقل عن اثنين من موردي الذكاء الاصطناعي، إلى جانب منظمات أخرى. سرق مجموعة الفاعلين جزءًا من المستودعات الداخلية لأحد موردي الذكاء الاصطناعي وعرضوها للبيع في منتدى الويب المظلم.

حاولت APT41 نوعًا آخر من الهجوم باستخدام Gemini للحصول على معلومات حول بنيتها التحتية وأنظمتها. لم ينجح الهجوم، لكن الفكرة نفسها كانت فريدة إلى حد كبير.

بالإضافة إلى ذلك، أبلغ الباحثون مرارًا عن ثغرات حرجة في حلول الذكاء الاصطناعي المتنوعة، بما في ذلك CVE-2025-32711 (المعروف باسم EchoLeak) في Microsoft 365 Copilot، CVE-2025-54135 (المعروف باسم CurXecute) في Cursor IDE، CVE-2025-53109 في بروتوكول Model Context، CVE-2025-8217 في امتداد Amazon Q Developer لـ VS Code، وCVE-2025-34291 في Langflow AI. وقد لوحظ استغلال الأخيرين في البيئة الحية.

الدفاعات القديمة، التهديدات الجديدة

كما هو معروف، هناك أنواع مختلفة من حلول الذكاء الاصطناعي: السحابية والمحلية. ما أعتقد أنه أمر حاسم للمجتمع المعني بالذكاء الاصطناعي هو أن حلول الذكاء الاصطناعي تواجه على الأقل نفس مشكلات الأمان التي تعاني منها التطبيقات المكتبية والسحابية الأخرى — أو حتى أكثر. 

التهديد الواضح الأول هو توزيع برامج ضارة تتنكر كأدوات ذكاء اصطناعي محلية شرعية — غالبًا ما يستخدم المهاجمون مصادر موثوقة مثل GitHub لهذا الغرض. 

مثال مشابه آخر هو امتدادات مساعد الذكاء الاصطناعي الخبيثة المصممة لمراقبة نشاط المستخدم بشكل سلبي، وجمع عناوين URL التي تمت زيارتها ومقتطفات من محتوى الدردشة الذي يولده الذكاء الاصطناعي أثناء التصفح الروتيني.

في معظم الحالات، إذا تمكن المهاجم من الوصول إلى سجل بحث المستخدم، يمكنه الحصول على معلومات حول الحياة الخاصة ومختلف عمليات العمل. وبالتالي، يشكل ذلك تهديدًا لكل من المستخدم والشركات.

نوع آخر هو تقنية تُسمى اختطاف رموز الذكاء الاصطناعي — مفاتيح API المخترقة، رموز الجلسة، والأجهزة هي هدف الفاعلين الذين يبيعون هذا الوصول أو يستخدمون هذه الأسرار المسروقة في هجماتهم، على سبيل المثال، لتنفيذ مهام مخفية. نطاق الهجوم يعتمد على البيانات والأذونات المتاحة بالفعل لجلسة الضحية. 

تقنية شائعة أخرى للذكاء الاصطناعي أود الإشارة إليها هي حقن التعليمات (prompt injection)، والتي تتضمن إدخال مدخلات خبيثة (تعليمات) لاستخراج معلومات غير مقصودة أو حساسة من النظام تتجاوز ما قصده المطور.

الوصول غير المقيد إلى البيانات الحساسة يزيد من خطر الاختراق. بعبارة أخرى، يصبح الذكاء الاصطناعي نقطة دخول واحدة — غالبًا مع امتيازات مرتفعة — مما يجذب اهتمامًا متزايدًا من قبل المهاجمين.

كيفية البقاء آمنًا

في سياق الأمن السيبراني، قد تكون بعض المبادئ الأساسية أكثر أهمية من التقنيات المحددة. أولاً، تطبيق مبدأ أقل امتياز على الذكاء الاصطناعي. ثانيًا، لا تثق أبدًا بالمحتوى الخارجي. وأخيرًا وليس آخرًا، حافظ على وجود البشر في الحلقة ولا تدع النموذج يقرر بمفرده من يحصل على الوصول. أوصي بشدة بالتحقق من أن جميع الـ النقاط موجودة في حلول الذكاء الاصطناعي الخاصة بك.