قطاع الذكاء الاصطناعي يريد ثقتنا، لكنه يحتاج أولًا إلى ضوابط أفضل

في مجال الأمن، لا ننتظر وقوع مشكلة لنعرف إن كانت ضوابطنا فعّالة. بل نختبرها، ونضعها على المحك، ونفترض أن أحدًا سيعثر في نهاية المطاف على مكمن الضعف الذي فاتنا.

هذا من أساسيات الأمن.

فلماذا ينبغي أن يخضع الذكاء الاصطناعي المتقدم لمعيار مختلف؟

مع تزايد استقلالية أنظمة الذكاء الاصطناعي واتساع نطاق وصولها إلى الأنظمة في العالم الحقيقي، نشهد أمرًا ينبغي أن يثير قلق كل من أمضى وقتًا في الجانب الدفاعي من الأمن السيبراني: فالقدرات تتطور بوتيرة أسرع من الضوابط.

والسرعة ليست مبررًا لإضعاف الأمن، بل هي سبب يدعونا إلى تعزيزه.

تناول تقييم حديث أجرته منظمة Guidelight AI غير الربحية الأدلة المتاحة للجمهور بشأن ممارسات ضبط الذكاء الاصطناعي لدى Anthropic وGoogle وMeta وOpenAI وxAI. ولم تحصل أي منها على تقييم إجمالي يتجاوز C+.

هذا لا يعني أن هذه الشركات تتصرف بتهور، ولا يعني أن ضوابط إضافية غير مطبقة خلف الأبواب المغلقة.

لكن الأمن لا يقوم على الافتراضات. وإذا كان يُطلب منا أن نثق بأنظمة تزداد قوة، فمن حقنا أن نتوقع أدلة تثبت أن الضوابط المحيطة بها قادرة على اجتياز مستوى التدقيق نفسه الذي نطالب به في أي مجال آخر.

كفّوا عن التعامل مع الإخفاقات على أنها قصص مثيرة للاهتمام

حين يتصرف وكيل ذكاء اصطناعي على نحو غير متوقع، أو يحصل على صلاحيات وصول غير مقصودة، أو يكشف عن نقطة ضعف، ينصبّ التركيز عادةً على ما فعلته التقنية.

هذا مثير للاهتمام.

لكنه ليس السؤال الأهم.

يريد مختص الأمن أن يعرف: هل سُجّل النشاط؟ هل لاحظه أحد أثناء حدوثه؟ هل خضعت الإجراءات الخطرة لضوابط؟ هل كان بإمكان أحد إيقاف النظام؟ هل وُضعت خطة للاحتواء، وهل اختبرها أحد؟

هذه الأسئلة لا تخص الذكاء الاصطناعي وحده، بل هي الأسئلة التي نطرحها في مجال الأمن السيبراني منذ سنوات.

ومع ذلك، يبدو أن الوقاية والاحتواء لا يزالان من نقاط الضعف في منظومة الضوابط الناشئة للذكاء الاصطناعي المتقدم. ولا تزال الأدلة المتاحة للجمهور بشأن الإجراءات الخاضعة للضوابط، وآليات الفصل، والاحتواء في حالات الطوارئ محدودة.

ينبغي أن يكون ذلك أهم من غرابة الحادثة. فعندما يحدث إخفاق، أريد أن أعرف ما الذي أخفق، وما الذي حال دون تفاقم الوضع، وما الذي تغيّر بعد ذلك.

الشفافية مفيدة، والتعلّم أفضل.

المشكلة الحقيقية لأمن الذكاء الاصطناعي هي السرعة

لا أعتقد أن أكبر تهديد وشيك يتمثل في أن يبتكر الذكاء الاصطناعي فجأة فئة جديدة تمامًا من الهجمات السيبرانية. فالمشكلة الأكبر أكثر عملية بكثير: إذ يمكن للذكاء الاصطناعي أن يجعل تنفيذ الهجمات التي نعرفها بالفعل أسرع بكثير.

قد يستغرق بحث كان يحتاج إلى ساعات دقائقَ معدودة. ويمكن ربط تقنيات الهجوم بعضها ببعض بسرعة أكبر. كما يمكن تحديد الثغرات واستغلالها قبل أن تتجاوز إجراءات الأمن التي تتمحور حول العنصر البشري أول مكالمة تصعيد.

وهذه مشكلة لأن جزءًا كبيرًا من البنية التحتية الأمنية الحالية لا يزال يفترض توافر الوقت للاستجابة.

لكن الوقت قد لا يكون متاحًا أحيانًا.

إذا وقع الهجوم بسرعة، فقد تصبح إجراءات الاستجابة القائمة على التذاكر والاجتماعات والموافقات والتصعيد اليدوي متقادمة قبل أن يصل أحد إلى الخطوة الثالثة.

وهنا يتعين على قطاع الذكاء الاصطناعي أن يبذل مزيدًا من الجهد.

إذا كانت مختبرات الذكاء الاصطناعي المتقدم تتوقع من المؤسسات إعادة النظر في الرؤية وإدارة الثغرات والبنية والاستجابة للحوادث لمواكبة عصر الذكاء الاصطناعي، فعليها أن تثبت لنا أنها فعلت الشيء نفسه.

«ثقوا بنا» ليس إطارًا للضوابط

أمضيت مسيرتي المهنية في مجال اختبارات الأمن، وهناك مبدأ أثبت جدواه على نحو لافت: النوايا لا تثبت أن الأمن متحقق، أما الأدلة فتفعل.

• اختبروا.
• راقبوا.
• حاولوا إحداث خلل.

اكتشفوا ما يحدث عندما لا تعمل الضوابط كما يفترض مخطط البنية. وتأكدوا من أن شخصًا ما يملك صلاحية إيقاف النظام عند الضرورة. وينبغي إخضاع الذكاء الاصطناعي المتقدم للمعيار نفسه.

وهذا يعني اختبار الضوابط بأساليب هجومية، وتوفير أدلة قابلة للقياس على فاعليتها، وتحديد صلاحيات واضحة لإيقاف الأنظمة عند وقوع مشكلة.

ويعني أيضًا إعادة النظر في أساليب الاحتواء.

لا يمكن لمختبرات الذكاء الاصطناعي المتقدم ارتجال خطة للاحتواء بعد أن يتصرف وكيل ذكاء اصطناعي خارج الحدود المرسومة له. ومع تدريبها نماذج تزداد قدراتها واختبارها، يجب أن تتحمل مسؤولية الأفعال التي يمكن لهذه الأنظمة القيام بها. ويتطلب ذلك اختبارات هجومية صارمة، وضمانات معتمدة مسبقًا، وحدودًا واضحة لصلاحيات الوكلاء، وسبلًا مجرّبة للتدخل أو إيقاف النظام قبل أن ينتشر الإخفاق.

يظل للحكم البشري أهميته. لكن على المختبرات التي تطوّر هذه الأنظمة أن ترسم حدودها، وتختبر مدى صمودها، وتتحمل المسؤولية عندما لا تصمد.

لا تقتصر مسؤوليتهم على إظهار ما يستطيع الوكيل فعله، بل تشمل إثبات قدرته على العمل بأمان، وإمكانية ضبط سلوكه، وأن تجعل القدرات الجديدة العالم أكثر أمنًا لا أقل.

الثقة تُكتسب

لا أدعو إلى إبطاء الابتكار في الذكاء الاصطناعي إلى حد التوقف تقريبًا، بل أقول إن الأمن يجب أن يواكب وتيرته. فإذا استثمرنا موارد هائلة في جعل الذكاء الاصطناعي أكثر قدرة، فعلينا أن نتحلى بالقدر نفسه من الإلحاح في جعله قابلًا للتحصين.

لكن بينما تسرّع المختبرات الرائدة تدريب نماذج ذكاء اصطناعي جديدة ذات قدرات سيبرانية واختبارها، يجب أن تضع المدافعين في الحسبان: أولًا، بمساعدتهم على اكتشاف التهديدات والتصدي لها بسرعة أكبر؛ والأهم من ذلك، بمنع تلك الأنظمة من أن تتحول هي نفسها إلى تهديدات. وتتطلب هذه المسؤولية أيضًا قبول التدقيق الخارجي.

لا يجوز أن يصبح التقييم المستقل أمرًا لا تقبله الشركات إلا عندما يخدم الرواية التي تريد عرضها. فإذا كانت أنظمة الذكاء الاصطناعي الرائدة قوية بما يكفي لتغيير مشهد التهديدات، فينبغي أن تكون ضوابطها متينة بما يكفي لتحمل اختبارات مستقلة جادة.

تريد صناعة الذكاء الاصطناعي أن نثق بها.

بصفتي متخصصًا في الأمن، أنا مستعد لمنحها ثقتي. لكن أروني أولًا الضوابط.