هل يمكن الوثوق بوكلاء الذكاء الاصطناعي في أنشطة مراكز العمليات الأمنية الحساسة؟

تؤثر النماذج اللغوية الكبيرة ووكلاء الذكاء الاصطناعي تأثيرًا كبيرًا في مجالات عديدة، منها الأمن السيبراني. وتبدو إمكاناتها بلا حدود. لكن في الواقع العملي، حيث تُدمج النماذج اللغوية في مسارات العمل الأساسية التي تُتخذ فيها قرارات الأعمال، ظهرت مشكلات كثيرة، لا سيما في الخصوصية ودقة البيانات. وهذا يتركنا أمام سؤال: هل وكلاء الذكاء الاصطناعي جديرون بالثقة بما يكفي لاستخدامهم في أعمالي؟

في الأمن السيبراني و مراكز العمليات الأمنية (SOC)، الإجابة المختصرة هي ما سمعناه طوال مسيرتنا المهنية: نعم، مع الضوابط وتدابير تخفيف المخاطر المناسبة، يمكن نشر وكلاء الذكاء الاصطناعي بنجاح وأمان في بيئات الإنتاج داخل هذه المراكز، ليضيفوا قيمة كبيرة إلى جانب المحللين البشر.

تحديات الذكاء الاصطناعي في الأمن السيبراني

تنطوي النماذج اللغوية الجاهزة، عند استخدامها حلًا مستقلًا، على مشكلات أساسية عدة، مثل الهلوسة، تسميم البيانات، و حقن الموجّهات. ويمكن أن تسبب هذه المشكلات أضرارًا جسيمة في مركز عمليات أمنية مستقل، منها:

نقص البيانات يؤدي إلى أحكام غير دقيقة – يحتاج الوكلاء إلى جميع المعلومات ذات الصلة من البيئة لأداء عملهم جيدًا؛ على الأقل بقدر البيانات المتاحة للمحللين الأمنيين البشر، والأفضل أكثر من ذلك. ويؤدي نقص البيانات إلى افتراضات خاطئة قد تختلف بين مرات إجراء التحقيق. وإذا قُيّد الوصول إلى البيانات لدواعٍ أمنية، أو حُدّ مما يستطيع الذكاء الاصطناعي فعله لأسباب تتعلق بالميزانية، فمن المتوقع أن تتضرر الدقة.

أحكام غير متسقة – يجب على الوكلاء اتخاذ القرارات وإنجاز المهام استنادًا إلى البيانات التي جمعوها. ونظرًا إلى ضخامة بيانات الأمن في البيئات المعتادة، يشيع استخدام أسلوب أخذ العينات للموازنة بين الدقة والميزانية. وقد تختلف الأحكام ودرجة الخطورة المحددة والإجراءات الموصى بها عند تكرار التحقيق. وهذا طبيعي ما دام الاختلاف ضمن حد مقبول، ويحدث أيضًا عندما يفحص محللان بشريان مختلفان التنبيه نفسه.

الاستدلال الغامض، أو مشكلة «الصندوق الأسود (BBOX.BO ) »  – يعمل بعض الوكلاء بوصفهم أنظمة غامضة. وقد تبدو نتائج مراكز العمليات المدعومة بالذكاء الاصطناعي مبهرة في البداية، لكن قرارات الأعمال المهمة تتطلب فهم الأسباب التي قادت إلى التوصيات. وليست هذه محدودية متأصلة في الذكاء الاصطناعي؛ فبعض الوكلاء يبذلون جهودًا كبيرة لتحقيق الشفافية. ويُوصى بالتحقق منهم بدقة في تجربة لإثبات القيمة، أو Proof of Value، قبل الالتزام باستخدامهم.

كيف تطور الذكاء الاصطناعي في الأمن السيبراني

قطعت أساليب الأمن السيبراني القائمة على الذكاء الاصطناعي خطوات كبيرة منذ ظهورها. لنتأمل ما يلي:

الإجماع باستخدام أخذ العينات يخفف عدم الاتساق – يمكن الحد من عدم الاتساق في القرارات أو النتائج بفاعلية عبر استخدام وكلاء متعددين بإعدادات مختلفة، مثل نماذج مختلفة عند درجات حرارة مختلفة، لتفسير البيانات التي جمعتها أنشطة الوكلاء السابقة.

يساعد أخذ العينات المؤسسات على فهم مواضع اتفاق النماذج المختلفة واختلافها. ولذلك فإن الاعتماد على المعلومات التي تتفق عليها جميع النماذج، وإعطاء المعلومات المختلف عليها وزنًا أقل، يمكن أن يحد كثيرًا من عدم الاتساق.

لكن المعلومات التي يختلف بشأنها الوكلاء المشاركون في العينة مهمة أيضًا؛ فهي تكشف عدم اليقين والحاجة إلى بيانات أو مدخلات أفضل. ويمكن أن تساعد في إعطاء الأولوية للوصول إلى البيانات الأساسية لتحسين القرارات.

إجراءات متسقة باستخدام أدلة التحقيق  – من أهم أسباب اختلاف نتائج التحقيق الأمني المدعوم بالذكاء الاصطناعي عند تكراره، التباين في البيانات المجمعة وكذلك في الفرضيات التي ينشئها الوكيل أو يعدلها أثناء التحقيق. ووضع دليل تحقيق عام قائم على إجراءات تشغيل قياسية، أو SOP، لفئات محددة يساعد الوكلاء على صياغة فرضيات أكثر اتساقًا ويحسّن اتساق النتائج إجمالًا. وهذا ليس نهجًا جديدًا؛ فمعظم المحللين البشر يعتمدون بالفعل على هذه الإجراءات لضمان تحقيقات فعالة ومتسقة. ويمكن للوكلاء استخدامها بالطريقة نفسها.

أدلة قابلة للتتبع تكشف غموض الصندوق الأسود – من أفضل الممارسات تصميم مركز العمليات الأمنية المدعوم بالذكاء الاصطناعي منذ البداية مع مراعاة الأدلة الداعمة. ويجب أن يستند كل قرار وفرضية يضعها الوكيل إلى معلومات داعمة، تشمل مسارات الاستدلال وبيانات السجلات الخام التي تسنده.

ذكاء اصطناعي جدير بالثقة للأمن السيبراني

وكلاء الذكاء الاصطناعي يستطيعون تسريع الكشف والفرز والاستجابة للتهديدات، لكنهم يطرحون أيضًا مخاطر حقيقية، منها النتائج غير المتسقة، والقرارات الغامضة، والحساسية لجودة البيانات. وتتطلب الثقة بهم في البيئات ذات الأهمية التشغيلية الحاسمة استدلالًا مدعومًا بالأدلة، بما يشمل المسارات والمواد الخام؛ وإجراءات تشغيل قياسية منظمة لتقليل التباين؛ وأخذ عينات من وكلاء متعددين لفصل الإجماع عن عدم اليقين؛ وضوابط لسلامة البيانات، والحماية من حقن الموجّهات، وحدود عدد الخطوات والميزانية.

يمكن معالجة هذه النقاط الأساسية بأساليب متقدمة لوكلاء الذكاء الاصطناعي القائمين على النماذج اللغوية، والمصممة للتعامل مع تعقيد العمليات الأمنية الحديثة المدعومة بالذكاء الاصطناعي. فمثلًا، تستخدم بعض الأساليب أخذ عينات متقدمًا من وكلاء متعددين، بما يتيح للمؤسسات الاستفادة من الذكاء الجماعي لنماذج متنوعة تتعاون لتحقيق الإجماع، وتقليل عدم الاتساق، وتحديد مواضع عدم اليقين. وتضمن أدلة التحقيق المنظمة والواضحة التزام خطوات التحليل بأفضل الممارسات والإجراءات الموحدة، مما يعزز الاتساق والموثوقية في كل عملية.

تتيح إمكانية تتبع القرارات من البداية إلى النهاية تدقيق كل حكم وتوصية وإجراء آلي وفهمه، لتوفير شفافية كاملة للفرق الأمنية وبناء الثقة مع أصحاب المصلحة في الوقت نفسه. ومن خلال دمج هذه العناصر، وتطبيق ضوابط قوية لجودة بيانات الموجّهات والسلامة والحدود الوقائية التشغيلية، تمكّن الأساليب المتقدمة للوكلاء القائمين على النماذج اللغوية مراكز العمليات الأمنية من تحقيق نتائج موثوقة وشفافة، وجاهزة أيضًا للإنتاج في البيئات الواقعية ولأكثر الأنشطة أهمية.