لماذا تُعدّ نبوءات نهاية العالم مصدر إلهاء، وما الخطر الحقيقي للذكاء الاصطناعي الذي ينبغي أن يقلقنا

إذا كنت تتابع أي وسيلة إخبارية، فمن الصعب تجاهل تصاعد التهويل المحيط بصناعة الذكاء الاصطناعي والتحذيرات من نهاية العالم. وقد جعلت الرواية التي تحذّر من «الخطر الوجودي» الذي تشكّله أنظمة الذكاء الاصطناعي للبشرية من السهل جدًا على شركات الأمن السيبراني الانضمام إلى هذا التوجه وبيع منتجاتها مستفيدةً من الخوف. لكن التركيز على «نهاية العالم» في غير محله، لأنه يصرف الأنظار عن المخاطر الأكثر إلحاحًا التي يفرضها الذكاء الاصطناعي الوكيلي على المؤسسات اليوم.

بالطبع، تنطوي تصرفات وكلاء الذكاء الاصطناعي باستقلال عن ضوابط المؤسسة على مخاطر واضحة. وقد خلصت تقارير صدرت مؤخرًا في أستراليا والولايات المتحدة إلى أن وكلاء الذكاء الاصطناعي التابعين لـOpenAI تجاوزوا المهام الموكلة إليهم على أنظمة حكومية في كلا البلدين.

مع ذلك، يجري تضخيم التهديد الذي تمثله سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي. وبدلًا من الانشغال بالافتراضات، يتعين على المؤسسات مواجهة هذا الواقع الجديد وضمان وجود تدابير حماية حتمية لتعزيز المرونة التشغيلية.

لا يوجد مفتاح إيقاف واحد للإنترنت

يعتقد المؤيدون لرواية نهاية العالم أنه مع تطور الذكاء الاصطناعي واتساع نطاقه، قد يتحول إلى «مفتاح إيقاف» مركزي، أي نقطة واحدة يمكن لشخص ما الاستيلاء على السيطرة الكاملة عليها وإطلاق كارثة من خلالها.

لكن الإنترنت أكثر توزعًا وتنوعًا بكثير مما تفترضه نظرية مفتاح الإيقاف. فهو يعمل بوصفه «شبكة من الشبكات»، ويتألف من مليارات المكونات الموزعة على معماريات مختلفة، وتحميه فرق تشغيل لا حصر لها تعمل وفق معايير وأدوات متباينة؛ لذلك لا يوجد مفتاح واحد يستطيع أي شخص، سواء أكان إنسانًا أم آلة، قلبه، ولا ثغرة واحدة أو سلسلة ثغرات يمكن استغلالها لإحداث هذه النتيجة الكارثية.

قد تبدو فكرة أن الذكاء الاصطناعي قادر على تصميم مُمرض مُهندَس وإطلاقه، أو اختراق أنظمة نووية معزولة عن الشبكات، مادةً سينمائية مشوقة. لكنها تظل بعيدة كل البعد عن أن تكون سيناريو موثوقًا به في تقييم التهديدات التشغيلية.

ما لا تراه لا تستطيع السيطرة عليه

مع استمرار تطور الذكاء الاصطناعي الوكيلي، غيّر عاملان طبيعة المخاطر التي تواجه المؤسسات تغييرًا جوهريًا.

من جهة، بات الذكاء الاصطناعي قادرًا على تمكين الجهات الخبيثة من العثور على الثغرات السيبرانية واستغلالها في دقائق بدلًا من أشهر. وبحلول الوقت الذي ترصد فيه أنظمة الدفاع القائمة على الاحتمالات نشاطًا مريبًا، يكون الأوان قد فات غالبًا للتصدي للتهديد. ولأنها تعتمد على الاحتمالات الإحصائية لا على قواعد ثابتة، فإن أفضل هذه الأنظمة ستفوتها بعض الأنشطة الخبيثة، ولا يحتاج المهاجم إلا إلى التسلل مرة واحدة

ومن جهة أخرى، جعل استخدام الموظفين للذكاء الاصطناعي «الظلّي» معرفة ما يحتاج إلى حماية أصعب بكثير. فقد اكتشفت نسبة هائلة بلغت 82% من المؤسسات التي شملها استطلاع Cloud Security Alliance وجود وكلاء للذكاء الاصطناعي خلال العام الماضي، من دون أن تعلم فرق الأمن أو تقنية المعلومات أنهم قيد التشغيل، رغم أن 68% أفادت بثقتها العالية في مدى وضوح رؤيتها للوكلاء. وفي سياق منفصل، وجدت EY أن ربع الشركات الأمريكية الكبرى التي تستخدم الذكاء الاصطناعي الوكيلي أقرت بعجزها عن اكتشاف الوكلاء غير المصرح بهم الذين يعملون داخل الشركة.

ومن الطبيعي أن يفرض كلا التحولين ضغطًا تشغيليًا كبيرًا على أنظمة المؤسسات. ويضعهما معًا في موقف بالغ الصعوبة: فهي بطيئة للغاية في تحديد الثغرات المكشوفة وإصلاحها، ولا تعرف أي الأنظمة مكشوفة أصلًا.

السيطرة على ما يمكن ضبطه

تحتاج المؤسسات إلى سجل محدث لحظيًا بكل وكيل يعمل داخلها، سواء أكان مصرحًا به أم لا، على أن يكون لكل وكيل مسؤول محدد ونطاق واضح بدقة لما يمكنه الوصول إليه والقيام به. وهذه هي الخطوة الأولى لضبط «ما يمكن التحكم فيه»، فمع أن نماذج الذكاء الاصطناعي قد تعمل وفق الاحتمالات، يمكن أن تكون الضوابط الموضوعة حولها حتمية وثابتة ومحددة بوضوح.

عمليًا، يعني ذلك أن على طبقة إنفاذ منفصلة ومستقلة عن النموذج نفسه التحقق من أن الإجراء الذي يقترحه الوكيل مسموح به، والاحتفاظ بسجل تدقيق له. ومع ذلك، فإن 11% فقط من المؤسسات تحظر تلقائيًا إجراء الوكيل عندما يتجاوز نطاقه، بينما تعتمد الغالبية على موافقة بشرية أو تكتفي بتسجيل الإجراء. وتُظهر الحادثة الأسترالية كلفة الاعتماد على النظام المستهدف كي يرفض بنفسه: فبعد رفض الوصول، وجد الوكيل طريقًا آخر للدخول. ويجب أن تتمكن بنية الحوكمة الأوسع أيضًا من تحديد جميع الوكلاء والتصريح لهم والتحقق منهم باستمرار، منعًا لتحول المخاطر التشغيلية غير المتوقعة إلى واقع. وينبغي تنفيذ كل ذلك بسرعة، لأن الهجمات التي تتحرك بسرعة الآلات تتطلب قواعد تتحرك بالسرعة نفسها.

من الخوف الافتراضي إلى الحلول العملية

مهما بدا سيل التقارير عن نهاية العالم، الناجم عن أنظمة الذكاء الاصطناعي المستقلة، مقنعًا، فإنه بعيد كل البعد عن الواقع. فالخطر الجدير بالقلق أكثر اعتيادية بكثير من ذكاء اصطناعي يقرر تدميرنا: وكيل يتصرف داخل شركتك بسرعة تفوق قدرة أي شخص على رؤيته، وبصلاحيات لم يمنحها له أحد.

يمكن حل مشكلتي السرعة ووضوح الرؤية، شرط أن تكون أنظمة الأمن التي تحكم الذكاء الاصطناعي حتمية، وقادرة على التحقق من كل وكيل وتعقبه بدقة وبالسرعة التي يعمل بها.

بالنسبة إلى مجالس الإدارة وقادة الأمن، يتلخص الأمر في ثلاثة أسئلة عملية: هل نعرف كل وكيل يعمل في بيئتنا؟ وهل لكل وكيل جهة مسؤولة عنه وحدود محددة؟ وهل يمكننا إيقاف أي إجراء غير مصرّح به قبل تنفيذه؟ إن مساعدة العملاء على سد هذه الثغرات العملية هي المجال الذي يستطيع فيه مزوّدو خدمات الأمن السيبراني تعزيز القدرة على الصمود بدرجة أكبر بكثير من بيعهم الخوف من مستقبل افتراضي.