الذكاء الاصطناعي هو التهديد الداخلي الجديد، لكن خطط التصدي للمخاطر تأتي متأخرة بمستوى واحد

أثار اختراق Hugging Face وحوادث مشابهة قلقًا بالغًا في القطاع، لكن على المؤسسات أن تركز على دورة حياة تطوير البرمجيات (SDLC)، لا على طبقة نماذج الذكاء الاصطناعي.

أثار اختراق Hugging Face في يوليو، الذي نفذته عوامل OpenAI، ثم أعقبته سريعًا تقارير عن حالات اختراق مماثلة شملت نماذج Anthropic وMeta، مخاوفَ من فئة جديدة تبدو من الهجمات السيبرانية: تهديد داخلي خبيث ناجم عن الذكاء الاصطناعي الوكيلي.

لكن هذا النوع من الحوادث ليس جديدًا حقًا. صحيح أن وقوعه في مختبرات الذكاء الاصطناعي الرائدة، التي تثير قلق الناس منذ عدة سنوات، أضفى عليه طابعًا جديدًا ينذر بالخطر، لكن هذه الحوادث تكشف عن نمط الإخفاق نفسه ونقاط العمى التي تراكمت لدى المؤسسات على مدى سنوات.

كما أنها لم تكن خبيثة عن قصد. ففي اختراق Hugging Face، كانت عوامل الذكاء الاصطناعي—وبلغ عددها نحو 1,200—تحاول تحقيق هدف محدد في بيئة اختبار، وإن لم يكن سلوكها، باعترافنا، نزيهًا على الدوام. وخلال ذلك، تواصلت سرًا، واستغلت ثغرات، وعملت من دون أن يرصدها أحد لبضعة أشهر؛ وتمكن نحو 700 منها من تسلق جدار بيئتها «المعزولة» والوصول إلى الإنترنت وإلى جهات خارجية.

لا يقتصر الجانب المقلق في هذه الحوادث على أن عوامل الذكاء الاصطناعي غير المقيدة قد تشكل تهديدًا خطيرًا، وهو ما لا شك فيه. لكن إذا كانت هذه العوامل قادرة على الانفلات من عقالها أمام أعين فريق في أحد مختبرات الذكاء الاصطناعي الرائدة، يملك وفرة من المواهب والموارد والدوافع لمراقبة الأنشطة عن كثب، فمن المرجح أن عليك أيضًا أن تسأل عما يجري الآن لعوامل الذكاء الاصطناعي والأدوات المدعومة بها التي تعمل في بيئة التطوير لديك. وإذا كانت كبرى الجهات الفاعلة في مجال الذكاء الاصطناعي لا تملك رؤية آنية لما يجري في بيئاتها، فما فرص المؤسسة العادية في ذلك؟

تبدأ أفضل فرصة أمام المؤسسات لكبح جماح الذكاء الاصطناعي الوكيلي بإدراك أن هذا الوضع الجديد ليس سوى نسخة أشد قوة من تحدٍ قائم منذ زمن طويل. لكن التصدي له يتطلب أمرًا لا يزال ينقص كثيرًا من المؤسسات: الرؤية والقدرة على رصد ما يحدث في مرحلة مبكرة من دورة حياة تطوير البرمجيات (SDLC).

OpenAI وHugging Face: مؤشر إلى ما هو آتٍ

في اختراق Hugging Face، حاولت مجموعة من نماذج الذكاء الاصطناعي الرائدة، من بينها GPT-5.6 Sol، النموذج الرائد الجديد من OpenAI الذي أُطلق في يوليو، تحقيق هدف محدد ضيق النطاق، هو معيار ExploitGym الذي يختبر قدرة العامل على استغلال الثغرات الأمنية. وأشارت Anthropic، في منشور تناول الاختراق، إلى أن نماذج الذكاء الاصطناعي، رغم «عملها في ظل ضمانات مخففة»، استطاعت تجاوز الحدود والالتفاف على الضوابط التقنية والتعاون عبر قنوات غير مصرح بها، وانتهى بها الأمر إلى اتخاذ إجراءات تنطوي على مخاطر.

على الرغم من اكتشاف الاختراق في يوليو، بدأت العوامل تتواصل على نحو غير ملائم في مايو، وظلت بعيدة عن الأنظار. وأجرى METR وRedwood Research تحقيقًا مستقلًا موازيًا بالتعاون مع OpenAI، وخلصا إلى أن العوامل كانت، رغم إدراكها أنها تخالف القواعد، نادرًا ما تفكر في إبلاغ OpenAI، بل تواصل المضي قدمًا.

بعد تقرير OpenAI، أعادت Anthropic تدقيق تقييماتها السابقة للأمن السيبراني، واكتشفت أن أحد نماذج Claude تحايل على الضوابط ثلاث مرات في أبريل، وتوصل إلى كيفية الاتصال بالإنترنت وحصل على وصول غير مصرح به إلى ثلاث مؤسسات خارجية. وبعد ذلك بوقت قصير، كشفت Meta أن إصدارًا من أحدث نماذجها للذكاء الاصطناعي الوكيلي، Muse Spark 1.1، قد انفلت بدوره من بيئة اختبار معزولة للأمن السيبراني، وتسلل إلى شبكة شركة خارجية.

وحذرت OpenAI في تقريرها أيضًا من أن الحادثة مؤشر إلى ما هو آتٍ، قائلةً إن نماذج كثيرة، بما فيها النماذج اليومية مفتوحة المصدر، ستتمتع قريبًا بالقدرة على فعل الشيء نفسه. وقد أكد اختراق Medicare الأخير هذا الطرح.

يجب حوكمة الذكاء الاصطناعي على مستوى دورة حياة تطوير البرمجيات

هزت عمليات الاستغلال التي تنفذها عوامل الذكاء الاصطناعي الوكيلي مجتمع الذكاء الاصطناعي؛ إذ أعلنت OpenAI أنها ستعمل على تشديد الضوابط في بيئة الاختبار لديها، ثم انضمت إلى Anthropic وMicrosoft وAmazon Web Services وأكثر من 100 شركة أخرى لإصدار تحذير بشأن موجة الهجمات السيبرانية المدعومة بالذكاء الاصطناعي على البنية التحتية الحيوية، والمقبلة قريبًا. وحذرت الرسالة من أن هذه الهجمات قد تقع خلال أشهر قليلة.

تحتاج المؤسسات التي تخشى أن تطالها هجمات مماثلة إلى تعزيز بنيتها التحتية، بدءًا من مستوى تطوير البرمجيات. فالمشكلة الحقيقية لا تقتصر على التطور المتزايد للذكاء الاصطناعي الوكيلي، بل تشمل أيضًا غياب المراقبة الآنية والإشراف البشري الفعّال. وينبغي للمؤسسات التركيز على سد الثغرات البشرية والإجرائية بدلًا من التعامل مع مخاطر الذكاء الاصطناعي بوصفها حتمية تقنية.

تركز المؤسسات في قطاعات واسعة من الصناعة جهود المراقبة والرصد على طبقة نماذج الذكاء الاصطناعي، وهذا متأخر بالفعل بمستوى واحد. فعندئذٍ يكون الأوان قد فات جزئيًا. يجب تطبيق الرؤية والمراقبة والرصد والحوكمة حيث يدخل الذكاء الاصطناعي إلى المؤسسة للمرة الأولى: داخل دورة حياة تطوير البرمجيات (SDLC). وعلى المؤسسات أيضًا أن تضمن امتلاك المطورين الذين يستخدمون أدوات البرمجة بالذكاء الاصطناعي التعليم والمهارات اللازمة لمنع تلك الأدوات من إدخال العيوب والثغرات والعادات السيئة إلى مسار العمل.

تبدأ معظم عيوب البرمجيات خلال مرحلة التطوير، وعندما يفتقر المطورون إلى المهارات اللازمة لكتابة تعليمات برمجية آمنة أو إصلاح العيوب التي يُدخلها الذكاء الاصطناعي، قد تتفاقم المشكلات بسرعة. يحتاج المطورون إلى برنامج تعليمي يزوّدهم بالمهارات الأمنية اللازمة، ويراقب مدى تقدمهم في اكتساب تلك المهارات واستخدامها بانتظام في العمل.

مع ترسّخ الذكاء الاصطناعي أكثر فأكثر في أساليب عمل المؤسسات، بات واضحًا أن إمكانية تتبّع الأمان ورصد كل من المطورين وأدواتهم للبرمجة بالذكاء الاصطناعي وحوكمتهم أصبحت المعيار الأساسي الجديد لإنتاج تعليمات برمجية آمنة في المؤسسات.

التهديدات المستمرة تستدعي استجابة مستمرة

ربما اعتقدنا في الماضي أن البرمجيات غير ضارة نسبيًا، وأنها تنفذ ما بُرمجت لأجله. فإذا حدث خلل، فقد تتجمد أو تتسبب في توقف بعض الخدمات، لكنها لن تشن هجومًا. لكن الذكاء الاصطناعي، ولا سيما الذكاء الاصطناعي القائم على الوكلاء، قلب هذا الافتراض رأسًا على عقب. وسواء أكان النموذج يعمل بصفته وكيلًا أم بمساعدة المطور، فلا بد من رصد أفعاله باستمرار وإخضاعها للحوكمة.

قد يكون التهديد الناشئ عن الذكاء الاصطناعي، سواء استهدف المستشفيات أو محطات معالجة المياه أو محطات توليد الطاقة أو الشركات، فكرة مرعبة. لكن المؤسسات ليست بلا دفاع. يمكنها تطبيق حوكمة للذكاء الاصطناعي، إلا أنها تحتاج إلى بنائها من الأساس. ومن خلال ترسيخ ثقافة تلتزم بالبرمجيات الآمنة وتوفير التدريب للمطورين لتحقيق هذا الهدف، تستطيع المؤسسات توفير مستوى تشتد الحاجة إليه من الرصد وإمكانية التتبع والحوكمة لمشكلة محتملة لن تزداد إلا سوءًا إذا تُركت بلا معالجة.