إعادة التفكير في مرونة الذكاء الاصطناعي: لماذا حان الوقت للتخلي عن نموذج ‘اضبطه وانساه’

تشير استطلاع غالوب الأخير إلى اتجاه متزايد في تبني الذكاء الاصطناعي، حيث يصرح أكثر من نصف البالغين العاملين أنهم يستخدمون التقنية على الأقل عدة مرات في السنة. هذه البيانات مجرد إشارة إلى سرعة تبني الذكاء الاصطناعي في بيئات المؤسسات. وعلى الرغم من أن العديد من قادة المؤسسات بدأوا في التشكيك في عائد الاستثمار للذكاء الاصطناعي، إلا أن ذلك لم يمنع المنظمات من الاعتماد على التقنية لتبسيط المهام اليدوية وتعظيم الإنتاجية.

مع استمرار هذا التبني، قد تميل المؤسسات إلى تجاهل الأخطاء الضارة فيما يتعلق بسير العمل الآلي. إنهم يرون الذكاء الاصطناعي كحل جاهز، يتطلب من فرق تكنولوجيا المعلومات مجرد إعداد التقنية، تركها تعمل، ثم “نسيان” وجودها. تحاول بعض فرق الأمن مكافحة هذا التفكير، من خلال إنشاء دفاتر تشغيل للأتمتة تهدف إلى تعزيز الاستخدام الآمن والآمن للذكاء الاصطناعي. ومع ذلك، حتى أفضل فرق تكنولوجيا المعلومات والأمن تترك مساحة قليلة للتعديل في هذه الدفاتر. وبالتالي، لا تستطيع المؤسسات التطور بأمان مع الذكاء الاصطناعي كما تفعل التقنية نفسها.

مع منح المؤسسات للذكاء الاصطناعي صلاحيات أكبر في سير العمل الحاسم للأعمال، يجب أن تصبح الرشاقة التشغيلية المبدأ الجديد للمنظمات اليوم. لكي يتحول ذلك إلى ممارسة عالمية، يجب على قادة الأمن المؤسسي التخلي عن عقلية “اضبطه وانساه” وتطوير بنية مرونة.

فهم مفارقة الأتمتة

توفر الأتمتة المدعومة بالذكاء الاصطناعي مكاسب هائلة في الإنتاجية عبر وظائف مؤسسية متعددة. ولنأخذ الأمن السيبراني مثالًا: تتيح أدوات الذكاء الاصطناعي للمحللين تنفيذ خطوات إضافية لم يكن لديهم وقت لها في مراكز عمليات الأمن المثقلة بالعمل، مثل ترتيب التنبيهات حسب الأولوية، ومراجعة الأحداث، واكتشاف التهديدات، والتحقق من المراجع المتقاطعة، والحصول على رأي ثانٍ. وعلى خلاف بعض قادة الإدارة العليا، يظل مسؤولو أمن المعلومات متفائلين عمومًا بالقيمة التي سيقدمها الذكاء الاصطناعي مستقبلًا. ووفق بيانات «تقرير مدير الأمن: من المخاطر إلى المرونة في عصر الذكاء الاصطناعي”، يعتقد 83٪ من مدراء الأمن أن الأتمتة هي الاستثمار الأكثر احتمالًا لتجاوز التوقعات.

وعلى الرغم من هذه الفوائد، لا تزال مفارقة قائمة. يبرز نفس التقرير الشكوك التي يحملها مدراء الأمن تجاه الذكاء الاصطناعي، خوفًا من عواقب الأخطاء الذاتية. يصنف 83٪ من مدراء الأمن تأثيرات الهلاوس، مثل التنبيهات الفائتة أو الإيجابيات الزائفة، كأكبر مخاوفهم بشأن الذكاء الاصطناعي الوكائي. هناك أدلة كافية تدعم هذه المخاوف بشأن الهلاوس. فقد تم تحميل شركة طيران تجارية كبرى مسؤولية قانونية وأُمرت بدفع تعويضات بعد أن ارتكب روبوت الدردشة الخاص بخدمة العملاء هلاوس حول سياسة استرداد أجر الحداد. وتواجه شركة استخبارات تهديدات قانونية لأنها يُزعم أنها نشرت تقريرًا يربط شركة ناشئة بقراصنة من قوة أجنبية. عندما يخطئ الذكاء الاصطناعي، يمكن أن تمتد التداعيات إلى ما وراء الأنظمة الداخلية لتؤثر على كل من رأس المال والسمعة.

المشكلة مع دفاتر التشغيل البالية

تشكل أدلة العمل الأمنية المخصصة للذكاء الاصطناعي أساسًا لاعتماد آمن وناجح لهذه التقنية. لكن المشكلات تظهر عندما لا تتغير تلك الأدلة أبدًا. فالتهديدات والبنية التحتية لتقنية المعلومات وبيئات الأعمال تتطور باستمرار. ويسمح الذكاء الاصطناعي للمهاجمين بتوسيع نطاق هجماتهم، في حين تجعل بيئات تقنية المعلومات الآخذة في الاتساع والتعقيد عملية الاكتشاف أصعب. وفي الوقت نفسه، كلما منحت الشركات الذكاء الاصطناعي مسؤوليات أكبر، أصبحت عواقب الأخطاء أشد خطورة.

إذا استمرت كل هذه العوامل في التطور، يجب أن يتطور منطق الأتمتة معها. تمنع دفاتر التشغيل المجمدة حدوث ذلك. وتترك فرق الأمن تواجه المشكلات الحالية بمنطق قديم. وفي بعض الأحيان، قد يكون هذا السيناريو أسوأ من عدم وجود دفتر تشغيل على الإطلاق.

لتحويل دفاتر التشغيل إلى كائنات حية مناسبة لتطبيق الذكاء الاصطناعي الحالي، وبالتالي تعزيز المرونة الداخلية، يجب أن تكون:

• مختبرة باستمرار مقابل معلومات تهديد حديثة
• محدَّثة بعد حدوث حوادث حقيقية
• متقاعدَة بمجرد أن تصبح غير فعّالة أو لا تقدم قيمة

يتماشى هذا النهج مع إرشادات وكالة الأمن السيبراني والبنية التحتية (CISA) وغيرها من الوكالات العالمية للأمن السيبراني، التي تروّج للمراقبة المستمرة لأنظمة الذكاء الاصطناعي والتدخل البشري المستمر.

تطبيق صيغة المرونة

يتطلب عصر الذكاء الاصطناعي من المؤسسات تجاوز عقلية التعامل معه كحل منفرد أو مجرد إضافة الأتمتة إلى حالات استخدام قائمة. وبدلًا من ذلك، عليها بناء ثقافة مرونة تمكّن العاملين في تقنية المعلومات والأنظمة من تعزيز ما ينجح فيه الذكاء الاصطناعي، والاستجابة بكفاءة عندما تخطئ التقنية.

يمكن أن تساعد صيغة عملية مكوّنة من ثلاثة أجزاء على دمج هذه المرونة في الإجراءات الآلية.

• الثقة: على كل سير عمل آلي، يجب على الفرق أن تسأل نفسها: ما مدى ثقتنا في المشغل الذي أدى إلى الاستجابة الآلية؟
• قابلية العكس: هل الإجراء قابل للعكس؟ إذا كان كذلك، ما مدى السرعة والأمان التي يمكننا من خلالها القيام بذلك؟
• نطاق الانفجار: ما مدى انتشار العواقب إذا انتشر الخطأ، وما مدى أهمية الأصل المتأثر من الناحية التجارية؟

تُعد أدوات الرصد والملاحظة المناسبة ضرورية للإجابة على هذه الأسئلة. ينبغي للفرق الاستفادة من منصة موحدة للملاحظة وإدارة البيانات حتى تتمكن من فهم كامل لمكان حدوث الاستجابة الآلية داخل بيئة تكنولوجيا المعلومات، وما الأصول الأخرى التي تؤثر عليها، والعواقب التجارية المرتبطة بذلك. سيسمح إجراء هذا التمرين بانتظام لفرق الأمن بالحفاظ على دفاتر تشغيل الذكاء الاصطناعي محدثة. علاوة على ذلك، سيمكن ذلك من تطبيق ممارسات الإنسان داخل الحلقة بشكل صحيح، حيث سيعرف فريق تكنولوجيا المعلومات أين وكيف يتدخل لمنع الإجراءات الآلية غير السليمة من أن تُحدث آثارًا واسعة النطاق ومكلفة.

لم يعد بإمكانك ضبطه ونسيانه

من المهم لقادة الأمن المعلوماتي (CISO) وقادة تكنولوجيا المعلومات في العصر الحديث أن يدركوا أن المسؤولية تقع عليهم عندما يتعلق الأمر بسلوك الذكاء الاصطناعي. كلما زاد تداخل الذكاء الاصطناعي مع الأعمال الحيوية للمؤسسة، زادت العبء على رؤساء الأمن السيبراني. قاعدة جيدة لتذكرها هي: “الأتمتة تغير من يضغط على الزر. لكنها لا تغير من يتحمل مسؤولية ضغط الزر.”

إن المخاطر والمسؤولية التي يتحملها مدير الأمن اليوم مرتفعة جدًا لتستمر دفاتر التشغيل بنهج “اضبطه وانساه”. بدلاً من ذلك، يجب أن تكون المرونة ممارسة وثقافة تتخلل المؤسسة وتتيح لها التعافي بعد ارتكاب الذكاء الاصطناعي خطأ. عندما تدمج الفرق المراقبة المستمرة، القابلية للعكس، الاحتواء، والملكية البشرية في دفتر تشغيل الأتمتة، يمكن للمؤسسات منع قرار آلي من أن يتحول إلى مشكلة على مستوى الأعمال.