إعادة التفكير في مرونة الذكاء الاصطناعي: لماذا حان الوقت للتخلي عن نموذج ‘اضبطه وانساه’

تشير استطلاع غالوب الأخير إلى اتجاه متزايد في تبني الذكاء الاصطناعي، حيث يصرح أكثر من نصف البالغين العاملين أنهم يستخدمون التقنية على الأقل عدة مرات في السنة. هذه البيانات مجرد إشارة إلى سرعة تبني الذكاء الاصطناعي في بيئات المؤسسات. وعلى الرغم من أن العديد من قادة المؤسسات بدأوا في التشكيك في عائد الاستثمار للذكاء الاصطناعي، إلا أن ذلك لم يمنع المنظمات من الاعتماد على التقنية لتبسيط المهام اليدوية وتعظيم الإنتاجية.

مع استمرار هذا التبني، قد تميل المؤسسات إلى تجاهل الأخطاء الضارة فيما يتعلق بسير العمل الآلي. إنهم يرون الذكاء الاصطناعي كحل جاهز، يتطلب من فرق تكنولوجيا المعلومات مجرد إعداد التقنية، تركها تعمل، ثم “نسيان” وجودها. تحاول بعض فرق الأمن مكافحة هذا التفكير، من خلال إنشاء دفاتر تشغيل للأتمتة تهدف إلى تعزيز الاستخدام الآمن والآمن للذكاء الاصطناعي. ومع ذلك، حتى أفضل فرق تكنولوجيا المعلومات والأمن تترك مساحة قليلة للتعديل في هذه الدفاتر. وبالتالي، لا تستطيع المؤسسات التطور بأمان مع الذكاء الاصطناعي كما تفعل التقنية نفسها.

مع منح المؤسسات للذكاء الاصطناعي صلاحيات أكبر في سير العمل الحاسم للأعمال، يجب أن تصبح الرشاقة التشغيلية المبدأ الجديد للمنظمات اليوم. لكي يتحول ذلك إلى ممارسة عالمية، يجب على قادة الأمن المؤسسي التخلي عن عقلية “اضبطه وانساه” وتطوير بنية مرونة.

فهم مفارقة الأتمتة

AI-powered automation is providing massive productivity gains throughout multiple enterprise functions. Let’s use cybersecurity as an example. AI tools allow analysts to take extra steps they never had time for in overworked and overwhelmed security operations centers. This includes tasks such as alert prioritization, event review, and threat detection, cross reference validation, and getting a second opinion. Unlike some C-suite leaders, CISOs remain generally optimistic about the value AI will provide in the future. According to data from “تقرير مدير الأمن: من المخاطر إلى المرونة في عصر الذكاء الاصطناعي”، يعتقد 83٪ من مدراء الأمن أن الأتمتة هي الاستثمار الأكثر احتمالًا لتجاوز التوقعات.

وعلى الرغم من هذه الفوائد، لا تزال مفارقة قائمة. يبرز نفس التقرير الشكوك التي يحملها مدراء الأمن تجاه الذكاء الاصطناعي، خوفًا من عواقب الأخطاء الذاتية. يصنف 83٪ من مدراء الأمن تأثيرات الهلاوس، مثل التنبيهات الفائتة أو الإيجابيات الزائفة، كأكبر مخاوفهم بشأن الذكاء الاصطناعي الوكائي. هناك أدلة كافية تدعم هذه المخاوف بشأن الهلاوس. فقد تم تحميل شركة طيران تجارية كبرى مسؤولية قانونية وأُمرت بدفع تعويضات بعد أن ارتكب روبوت الدردشة الخاص بخدمة العملاء هلاوس حول سياسة استرداد أجر الحداد. وتواجه شركة استخبارات تهديدات قانونية لأنها يُزعم أنها نشرت تقريرًا يربط شركة ناشئة بقراصنة من قوة أجنبية. عندما يخطئ الذكاء الاصطناعي، يمكن أن تمتد التداعيات إلى ما وراء الأنظمة الداخلية لتؤثر على كل من رأس المال والسمعة.

المشكلة مع دفاتر التشغيل البالية

AI-focused security playbooks are a baseline for successful, safe AI adoption. Problems arise, however, when those playbooks never change. Threats, IT infrastructure, and business environments are constantly evolving. AI is enabling threat actors to scale attacks, while expanding and increasingly complex IT environments make detection harder. At the same time, as businesses give AI greater responsibility, the consequences of errors become more significant.

إذا استمرت كل هذه العوامل في التطور، يجب أن يتطور منطق الأتمتة معها. تمنع دفاتر التشغيل المجمدة حدوث ذلك. وتترك فرق الأمن تواجه المشكلات الحالية بمنطق قديم. وفي بعض الأحيان، قد يكون هذا السيناريو أسوأ من عدم وجود دفتر تشغيل على الإطلاق.

لتحويل دفاتر التشغيل إلى كائنات حية مناسبة لتطبيق الذكاء الاصطناعي الحالي، وبالتالي تعزيز المرونة الداخلية، يجب أن تكون:

• مختبرة باستمرار مقابل معلومات تهديد حديثة
• محدَّثة بعد حدوث حوادث حقيقية
• متقاعدَة بمجرد أن تصبح غير فعّالة أو لا تقدم قيمة

يتماشى هذا النهج مع إرشادات وكالة الأمن السيبراني والبنية التحتية (CISA) وغيرها من الوكالات العالمية للأمن السيبراني، التي تروّج للمراقبة المستمرة لأنظمة الذكاء الاصطناعي والتدخل البشري المستمر.

تطبيق صيغة المرونة

The AI era calls for enterprises to move on from a mindset rooted in AI as a point solution, or simply slapping automation onto existing use cases. Organizations instead need to build a culture of resilience that allows both IT personnel and systems to enhance where AI gets things right — and respond efficiently when the technology gets something wrong.

يمكن أن تساعد صيغة عملية مكوّنة من ثلاثة أجزاء على دمج هذه المرونة في الإجراءات الآلية.

• الثقة: على كل سير عمل آلي، يجب على الفرق أن تسأل نفسها: ما مدى ثقتنا في المشغل الذي أدى إلى الاستجابة الآلية؟
• قابلية العكس: هل الإجراء قابل للعكس؟ إذا كان كذلك، ما مدى السرعة والأمان التي يمكننا من خلالها القيام بذلك؟
• نطاق الانفجار: ما مدى انتشار العواقب إذا انتشر الخطأ، وما مدى أهمية الأصل المتأثر من الناحية التجارية؟

تُعد أدوات الرصد والملاحظة المناسبة ضرورية للإجابة على هذه الأسئلة. ينبغي للفرق الاستفادة من منصة موحدة للملاحظة وإدارة البيانات حتى تتمكن من فهم كامل لمكان حدوث الاستجابة الآلية داخل بيئة تكنولوجيا المعلومات، وما الأصول الأخرى التي تؤثر عليها، والعواقب التجارية المرتبطة بذلك. سيسمح إجراء هذا التمرين بانتظام لفرق الأمن بالحفاظ على دفاتر تشغيل الذكاء الاصطناعي محدثة. علاوة على ذلك، سيمكن ذلك من تطبيق ممارسات الإنسان داخل الحلقة بشكل صحيح، حيث سيعرف فريق تكنولوجيا المعلومات أين وكيف يتدخل لمنع الإجراءات الآلية غير السليمة من أن تُحدث آثارًا واسعة النطاق ومكلفة.

لم يعد بإمكانك ضبطه ونسيانه

من المهم لقادة الأمن المعلوماتي (CISO) وقادة تكنولوجيا المعلومات في العصر الحديث أن يدركوا أن المسؤولية تقع عليهم عندما يتعلق الأمر بسلوك الذكاء الاصطناعي. كلما زاد تداخل الذكاء الاصطناعي مع الأعمال الحيوية للمؤسسة، زادت العبء على رؤساء الأمن السيبراني. قاعدة جيدة لتذكرها هي: “الأتمتة تغير من يضغط على الزر. لكنها لا تغير من يتحمل مسؤولية ضغط الزر.”

إن المخاطر والمسؤولية التي يتحملها مدير الأمن اليوم مرتفعة جدًا لتستمر دفاتر التشغيل بنهج “اضبطه وانساه”. بدلاً من ذلك، يجب أن تكون المرونة ممارسة وثقافة تتخلل المؤسسة وتتيح لها التعافي بعد ارتكاب الذكاء الاصطناعي خطأ. عندما تدمج الفرق المراقبة المستمرة، القابلية للعكس، الاحتواء، والملكية البشرية في دفتر تشغيل الأتمتة، يمكن للمؤسسات منع قرار آلي من أن يتحول إلى مشكلة على مستوى الأعمال.