إعادة تعريف السلطة في القمة الإدارية: ما يتطلبه فعلاً بناء علاقة مع الذكاء الاصطناعي

قضيت 25 عاماً في جانب المشترين من عمليات الأمن، ولم أفقد النوم مرةً بسبب قاعدة جدار ناري. ومع ذلك، فقدت النوم بسبب الذكاء الاصطناعي. الأتمتة التقليدية، مهما كانت معقدة، تتبع منطقًا يمكنك تتبعه. لكن في هذا النطاق غير المسبوق للذكاء الاصطناعي الوكائي، يتم الوثوق بالأنظمة لاتخاذ قرارات حكمية لا يستطيع المهندسون دائمًا شرحها بالكامل – وهذا فقدان للشفافية هو السبب الدقيق وراء علق العديد من رؤساء أمن المعلومات.

97% من القادة الأمنيين واثقون أن الذكاء الاصطناعي يمكنه التعامل مع الفرز، إلا أن 35٪ فقط يستخدمونه فعليًا هناك. هذه النقطة التحولية هي مشكلة ثقة، ولا يمكن حل الثقة إلا بالطريقة التي تم حلها دائمًا، عبر الهيكل، الأدلة، والوقت.

يمكنك رؤية الأتمتة، لكن هل يمكنك الوثوق بالذكاء الاصطناعي؟

مع الأتمتة التقليدية، يستطيع الممارسون معرفة ما سيحدث بثقة قبل حدوثه. هذه الشفافية هي السبب في أن فرق مركز عمليات الأمن (SOC) قضت عقدًا من الزمن في بناء الثقة في سير العمل المؤتمت دون الكثير من الجدل الداخلي، ومع ذلك، كسر الذكاء الاصطناعي الوكائي القالب من خلال إدخال طبقة حكمية متعلمة – نظام يوازن السياق، يتخذ قرارات تنبؤية، ويصل إلى استنتاجات عبر عملية لا تكون دائمًا قابلة للقراءة بالكامل، حتى للأشخاص الذين بنوه. 

فقط 21% من المؤسسات تقول إن لديها نموذج حوكمة ناضج للذكاء الاصطناعي الوكائي، على الرغم من أن 74% يتوقعون استخدام وكلاء الذكاء الاصطناعي على الأقل “بدرجة متوسطة” بحلول 2027. عندما لا يستطيع ممارسو الأمن شرح هذا النوع من “الذكاء الاصطناعي الصندوق الأسود” بشفافية، فإن ذلك يدل على صعوبة حوكمة أدوات الذكاء الاصطناعي. ليس لأن الأدوات لا تُؤمن بشكل صحيح، بل لأن آلية عمل أداة الذكاء الاصطناعي تستند إلى الحكم وليس إلى مخطط تدفق.

في غرف الاجتماعات التنفيذية، يقيم القادة الذكاء الاصطناعي كما يقيمون الأتمتة، سائلاً “هل يمكنني رؤية المنطق”، بدلاً من سؤال “كيف أكسب الثقة في صانع قرار يتطور منطقُه؟”. من المرجح أن معظم رؤساء أمن المعلومات يعرفون الجواب بالفعل، لكن التحدي هو تطبيقه عمليًا.

معاملة الذكاء الاصطناعي كموظف عالي المخاطر

فكّر في دمج محلل كبير جديد. لن يمنح رئيس أمن المعلومات محللًا جديدًا مفاتيح الإنتاج في اليوم الأول، مهما كان سيرته الذاتية قوية. سيبدأه بأعمال منخفضة المخاطر، يراقب كيف يتعامل مع الغموض، ويوسّع صلاحياته مع اكتسابه للثقة. يستحق الذكاء الاصطناعي نفس عملية الدمج، مبنيًا على ثقة مستندة إلى الأدلة تتطور مع الوقت.

لقد رأينا بالفعل تأثيرات ذلك في الواقع عندما قام وكيل Meta AI المستقل بإثارة حادث أمني على مستوى الشركة بعد اتخاذ إجراء دون موافقة بشرية، مما كشف بيانات حساسة للشركة والمستخدمين أمام موظفين غير مخولين لمدة ساعتين تقريبًا قبل احتواء المشكلة. السبب الجذري كان نقص الإشراف البشري في حلقة اتخاذ القرار حيث كان ينبغي طلب موافقة صريحة. هذا هو نمط الفشل الذي صُممت الحواجز الصارمة لمنعه، وهو تذكير بأن انضباط النطاق أهم من تعقيد النموذج.

يستحق الذكاء الاصطناعي نفس الاهتمام، ويمكننا التفكير فيه كمنحدر قائم على الأدلة:

• افهم منطق القرار قبل نشره. ليس عليك رؤية كل وزن في النموذج، لكن عليك معرفة البيانات التي يستند إليها في استنتاجاته، والنتائج التي يهدف إلى تحسينها، وأين من المحتمل أن تكون نقاط ضعفه.
• ضع حواجز صارمة من اليوم الأول. حدد بدقة ما يمكن للنظام أن يتصرف فيه بشكل مستقل وما يتطلب تدخلًا بشريًا. النطاق الضيق هو الأساس الذي تُبنى عليه الثقة.
• وسّع الحدود فقط مع تراكم الأدلة. كل قرار صحيح هو نقطة بيانات، وكل خطأ هو نقطة بيانات أيضًا. وسّع الفتحة بما يتناسب مع سجل الأداء، وليس بما يتناسب مع حماس البائع أو دورات الميزانية.

اتباع هذه البروتوكولات سيساعد في حمايتهم من مخاوف رؤساء أمن المعلومات، بما في ذلك منع نظام مستقل من العمل بعد النقطة التي تم فيها التحقق فعليًا من استحقاقه للثقة.

نموذج الطبقات الثلاث: حيث يكتسب الذكاء الاصطناعي مكانته

SANS’ Secure AI Blueprint يوضح بنية حوكمة مبنية على ثلاثة مسارات: حماية الذكاء الاصطناعي، استخدام الذكاء الاصطناعي، وحوكمة الذكاء الاصطناعي، وتغطي ست فئات تحكم تشمل الوصول، البيانات، النشر، الاستدلال، المراقبة، وأمن النموذج. هذه نقطة انطلاق مفيدة، وللتقدم خطوةً أخرى، من المفيد هيكلة هذه العلاقة بتقسيم مركز عمليات الأمن إلى ثلاث طبقات لحل مشكلة ثقة الذكاء الاصطناعي.

1. النتيجة. هذه هي الطبقة التي يكمن فيها خطر الأعمال. ما الذي تعتبره المنظمة نتيجة مقبولة؟ ما هو التسامح مع السلبيات الكاذبة مقارنة الإيجابيات الكاذبة؟ هذا قرار بشري نهائي. لا يحصل أي نموذج على تصويت بشأن ما تكون المنظمة مستعدة للمخاطرة به.
2. الحكم. هنا تُحدد الأولويات وتُجرى المقايضات تحت الغموض. هل يجب تصعيد هذا التنبيه الآن أم الانتظار لمزيد من السياق؟ هل تستحق هذه الشذوذ إزعاج شخص ما في ليلته؟ يمكن أن يُستند الحكم إلى الذكاء الاصطناعي، ويجب أن يكون كذلك بصورة متزايدة، لكن السلطة النهائية تبقى بشرية. هذه هي الطبقة التي تميل معظم المنظمات إلى تسليمها مبكرًا، وهي التي ستحرقها إذا فعلت ذلك.
3. التنفيذ. هنا يجب أن يقوم الذكاء الاصطناعي بالعمل الشاق، وبسرعة لا يمكن لأي فريق بشري مضاهاتها. إغناء تنبيه، ربط إشارات عبر عشرات الأدوات، صياغة إجراء احتواء، تشغيل دليل التشغيل بمجرد أن يوافق إنسان أو طبقة حكم موثوقة على المسار. سرعة الآلة، حتمية بمجرد تفعيلها، دون أي غرور.

نضج الشراكة، لا مجرد إدارة الأداة

عندما تُبنى علاقة الذكاء الاصطناعي داخل مركز عمليات الأمن كشراكة بدلاً من الإشراف على أداة، يستطيع رؤساء أمن المعلومات البدء في اعتبار الذكاء الاصطناعي زميلًا متطورًا، مما يؤدي إلى تحول جذري في كيفية قضاءهم للوقت.

مراكز عمليات الأمن التي تستطيع موازنة هذه العلاقة هي تلك التي تتبع أكثر عمليات بناء الثقة انضباطًا. هذا الانضباط هو ما يسمح لعملية الأمن بالتوسع بسرعة الآلة في طبقة التنفيذ دون فقدان الحكم البشري الذي لا تزال قرارات المستوى النهائي تتطلبه، وستظل كذلك دائمًا.

لقد تجاوزنا المرحلة التي يُنظر فيها إلى الذكاء الاصطناعي كأداة جديدة لامعة لإبهار مجالس الإدارة. لقد اكتسبت قدرات وإمكانات الذكاء الاصطناعي السلطة لتُعامل كما تعامل دائمًا كل تقنية متقدمة في مركز عمليات الأمن، قرارًا موثّقًا تلو الآخر.