قادة الفكر
يمكن للذكاء الاصطناعي توسيع نطاق الأمن. لكن ما الذي سيتوسع؟

النقاط الرئيسيةمعالجة المزيد من البيانات لا تحسّن اكتشاف التهديدات تلقائيًا دون السياق التنظيمي.
عرض المزيد
- معالجة المزيد من البيانات لا تحسّن اكتشاف التهديدات تلقائيًا دون السياق التنظيمي.
- يمكن للنماذج المضبوطة بدقة أن تدعم التحقيقات واسعة النطاق بتكلفة أكثر قابلية للتنبؤ من النماذج المتقدمة.
- ينبغي أن تكون الاستقلالية متناسبة مع المخاطر مع تصميم الحوكمة قبل توسيع نطاق الوكلاء.
تواجه فرق أمن المؤسسات اليوم نشاطًا وبيانات رصد وتنبيهات تفوق ما يمكنها التحقيق فيه يدويًا بصورة واقعية. وتختلف التقديرات، إذ تشير بعض الأبحاث إلى أن فريق عمليات الأمن يتلقى في المتوسط أكثر من 4,400 تنبيه يوميًا. ومع توسع المؤسسات وإضافة المزيد من الأدوات، وتمكين الذكاء الاصطناعي من شن مزيد من الهجمات، لا بد أن يرتفع هذا العدد. ونشهد بالفعل مؤسسات تضم بيئاتها مليوني نقطة نهاية، وفرق أمن تحقق يدويًا في هذه التنبيهات، ما يضعها في مواجهة غير متكافئة مع مهاجمين يعتمدون على نحو متزايد على الوكلاء.
يمكن لوكلاء الذكاء الاصطناعي أن يغيروا هذه المعادلة لصالح المدافعين، من خلال تولي التحقيقات والمهام المتكررة الأخرى في مختلف أنحاء البيئة. لكن القدرة على معالجة مزيد من البيانات لا تؤدي تلقائيًا إلى تحسين اكتشاف التهديدات أو الاستجابة لها. المطلوب ليس توسيع النطاق فحسب، بل توفير السياق أيضًا.
أهمية السياق عند تقييم توسيع النطاق
يجب على الوكيل الذي يحقق في ملايين نقاط النهاية أن يفهم ما الذي يبحث عنه، وما الذي يُعد سلوكًا غير معتاد في تلك البيئة تحديدًا، وأي النتائج تستدعي مزيدًا من التحقيق. ومن دون هذا السياق، تخاطر الأتمتة بتوسيع نطاق الضجيج وإنتاج استنتاجات غير ذات صلة أو مضللة.
ومن المهم التذكر أن المؤسسات لن تتمكن كلها من الاعتماد على تحقيقات النماذج الأكثر تطورًا لكل تنبيه؛ فذلك سيكون باهظ التكلفة للغاية.
تختلف البيئات الأمنية من حيث البنية التحتية والتطبيقات والمتطلبات التشغيلية والالتزامات التنظيمية ومدى تقبل المخاطر. وعلى المدافعين ضمان استمرار عمل التطبيقات مع إدارة متطلبات الامتثال وتجنب تعطيل العمليات.
لكي تكون الوكلاء فعالة، يجب أن تستفيد من معارف المؤسسة، بما في ذلك التحقيقات السابقة والإجراءات المعتمدة وحُكم المحللين ذوي الخبرة. فكثير من هذه المعرفة لا يمكن ببساطة تزويد الوكيل بها في جدول بيانات أو بصيغة أخرى؛ بل ينبغي ملاحظتها أثناء العمل، من خلال التعلم من المدافعين ذوي الخبرة وهم يؤدون عملهم.
ويتمثل السؤال الأهم للمؤسسات في كيفية تحويل هذه المعرفة المؤسسية إلى أنظمة قادرة على اتخاذ قرارات متسقة وملائمة للسياق بسرعة الآلة.
كيفية تفعيل المعرفة المؤسسية عمليًا
تحتاج المؤسسات إلى آليات لاستخلاص المعرفة التي توجه التحقيقات وتطبيقها، بما يشمل القرارات المتخذة في الحالات السابقة والإجراءات المعتمدة وكيفية تفسير المحللين للأدلة. وقد تكون لدى المؤسسات أيضًا عمليات وأدوات «مخصصة» ومعارف ضمنية متداولة داخلها ينبغي استخلاصها.
يُعد تخصيص النماذج أحد الأساليب الممكنة. إذ يمكن أن يساعد ضبط النماذج للعملاء من المؤسسات كلٌّ على حدة في إجراء التحقيقات على نطاق واسع بتكلفة يمكن التنبؤ بها بدرجة أكبر، مع الحفاظ على أداء قوي. وقد تكون النماذج مفتوحة المصدر المضبوطة مفيدة بصفة خاصة للمهام التي تشمل أعدادًا كبيرة جدًا من نقاط النهاية.
يجب على المؤسسات أيضًا تقييم أداء الوكلاء مع تغير النماذج وسير العمل وبيئات المؤسسات. ويمكن للبيئات الاصطناعية، أو التوائم الرقمية، أن توفر ظروفًا تمثيلية لاختبار إصدارات مختلفة من الوكلاء عندما لا تعود بيانات الإنتاج متاحة أو تصبح قديمة.
ليس ضبط النماذج السبيل الوحيد لتوفير السياق. ومن الأساليب البديلة الاسترجاع والذاكرة وتنسيق سير العمل وضوابط السياسات الصريحة. ويتمثل المطلب الأساسي في أن تحسن الطريقة المختارة أداء الوكيل في البيئة التي سيعمل فيها.
يتطلب تحقيق الاستقلالية على نطاق واسع حدودًا واضحة وإشرافًا وتنسيقًا
لا يشكل تحديد التهديد على نحو صحيح سوى جزء من التحدي. إذ يجب أن يفهم الوكلاء الإجراءات المصرح لهم باتخاذها، والوقت الذي تستلزم فيه موافقة بشرية، وكيفية تجنب تعطيل عمليات الأعمال المشروعة. ومن الضروري لنشرهم على نحو موثوق تحديد المجالات التي يمكنهم العمل فيها باستقلالية، وتلك التي تتطلب اتخاذ القرار من قبل البشر.
يتطلب تحقيق الاستقلالية على نطاق واسع أيضًا وفورات الحجم. فالشركات التي تستخدم النماذج الأكثر تطورًا لإجراء ملايين التحقيقات ستفلس نفسها. لذلك، من الأهمية بمكان إيجاد الطريقة الأكثر كفاءة لإجراء التحقيقات باستخدام نموذج ذكاء اصطناعي، سواء كان Small Language Model (SLM) أو نموذجًا مملوكًا.
ينبغي أن تتناسب الاستقلالية مع مستوى المخاطر. فقد تكون المهام الروتينية والمفهومة جيدًا مناسبة للتنفيذ المستقل، بينما قد تتطلب الإجراءات ذات العواقب المهمة أو التي قد تعطل العمل موافقة بشرية أو تفويضًا إضافيًا. ويعتمد أمن المؤسسات أيضًا على التنسيق بين الفرق. فإذا كشف تحقيق عن تهديد يستلزم تغيير إعدادات جدار الحماية، فيجب إحالة الأمر بسلاسة إلى الفريق المسؤول عن ذلك النظام، مع ضمان التفويض والمساءلة المناسبين عن المعالجة.
لذلك، تُعد الحوكمة وتصميم سير العمل عنصرين أساسيين في نشر الوكلاء، وليسا ضوابط يمكن إضافتها بعد توسيع نطاق التقنية.
المقياس التالي لنجاح الذكاء الاصطناعي في الأمن هو جودة نتائجه
ينبغي للمؤسسات تقييم الوكلاء باستخدام مقاييس تستند إلى النتائج، تشمل دقة التحقيق، ومعدلات النتائج الإيجابية الكاذبة والسلبية الكاذبة، والوقت اللازم للتحقيق والمعالجة، وتكلفة كل تحقيق، وجودة التصعيد، ومدى الالتزام بسياسات التفويض.
يُعد التقييم المستمر ضروريًا مع تغيّر النماذج وسير العمل. ويمكن لاختبار إصدارات مختلفة من الوكلاء على حالات تمثيلية واستخدام بيئات اصطناعية أن يساعد المؤسسات على تحديد التراجعات قبل نشر التحديثات في بيئة الإنتاج.
يتعين على قادة الأمن الموازنة بين فوائد الأتمتة والمخاطر التشغيلية لنشرها. فتوافر التطبيقات، والالتزامات المتعلقة بالامتثال، ومدى تقبّل المؤسسة للمخاطر، والجداول الزمنية للتنفيذ، كلها عوامل تؤثر في سرعة اعتماد الإمكانات الجديدة.
يتيح الذكاء الاصطناعي لفرق الأمن فرصة معالجة مشكلة مزمنة تتعلق بمحدودية القدرات، لكن مجرد التوسع ليس الهدف النهائي. تكمن الفرصة الحقيقية في الجمع بين سرعة الآلات والسياق المؤسسي والصلاحيات المناسبة والحكم البشري، حتى يتمكن الوكلاء من تمييز الأمور المهمة، واتخاذ الإجراءات المناسبة، وإشراك الأشخاص المناسبين عند الضرورة.












