الوثوق بالوكلاء الذكاء الاصطناعي في أنشطة SOC الحساسة

النماذج اللغوية الكبيرة (LLM) ووكلاء الذكاء الاصطناعي لهما تأثير كبير في العديد من المجالات ، بما في ذلك الأمن السيبراني. السماء هي الحد عندما يتعلق الأمر بإمكانياتهم. ومع ذلك ، على الأرض حيث يتم دمج LLMs في عمليات العمل الأساسية حيث يتم اتخاذ قرارات الأعمال ، ظهرت العديد من القضايا ، ولا سيما حول الخصوصية ودقة البيانات. ونحن بحاجة إلى السؤال: هل وكلاء الذكاء الاصطناعي موثوقون بما يكفي لأعمالي؟

عندما يتعلق الأمر بالأمن السيبراني و مراكز عمليات الأمن (SOCs) ، الجواب السريع ، مثل ما سمعنا طوال مسيرتنا هو: نعم ، مع التحكمات والتدابير المناسبة في SOCs ، يمكن نشر وكلاء الذكاء الاصطناعي بنجاح وأمان في بيئات الإنتاج حيث يضيفون قيمة كبيرة جنبًا إلى جنب مع محللي الأمن في SOC البشر.

تحديات الأمن السيبراني للذكاء الاصطناعي

النماذج اللغوية الكبيرة الجاهزة المستخدمة كحل مستقل لها العديد من المشاكل الأساسية ، مثل الهلوسة ، تسمم البيانات ، و حقن البرمجة. هذه القضايا يمكن أن تسبب مشاكل خطيرة في SOC مستقل ، بما في ذلك:

بيانات محدودة تؤدي إلى أحكام غير دقيقة – وكلاء الذكاء الاصطناعي يحتاجون إلى جميع المعلومات ذات الصلة من البيئة للقيام بعملهم جيدًا – على الأقل نفس كمية البيانات التي يحتاجها محللو الأمن البشر ، وأفضل من ذلك ، المزيد. البيانات غير الكافية تؤدي إلى افتراضات خاطئة يمكن أن تختلف عبر عمليات التحقيق. إذا قمت بتحديد حدود الوصول إلى البيانات بسبب مخاوف أمنية أو تقييد كمية ما يمكن للذكاء الاصطناعي القيام به لأسباب مالية ، فانتظر أن تؤثر الدقة.

أحكام غير متسقة – وكلاء الذكاء الاصطناعي يجب أن يتخذوا قرارات وينفذون مهام بناءً على البيانات التي جموها. بسبب كمية كبيرة من بيانات الأمن في البيئات النموذجية ، من الشائع استخدام نهج العينة للتوازن بين الدقة والتكلفة. عندما يتم تشغيل التحقيقات عدة مرات ، قد تظهر اختلافات في الحكم ومدى خطورته و الإجراءات الموصى بها. هذا هو العادي طالما أن الفرق ضمن حد التسامح ، ويحدث حتى عندما ينظر محللان أمن مختلفان إلى نفس التنبيه.

المنطق الغامض ، أو مشكلة “الsandbox” – بعض وكلاء الذكاء الاصطناعي يعملون كأنظمة غامضة. هذه النتائج التي يقدمها SOC مدفوع بالذكاء الاصطناعي قد تبدو مثيرة للإعجاب في البداية ، ولكن لاتخاذ قرارات الأعمال المهمة ، تحتاج إلى فهم ما أدى إلى إجراءات الذكاء الاصطناعي الموصى بها. ومع ذلك ، هذه ليست محدودية متأصلة للذكاء الاصطناعي ، حيث يذهب بعض وكلاء الذكاء الاصطناعي إلى حد بعيد ليكونوا شفافين. من المستحسن أن تتحقق من وكلاء الذكاء الاصطناعي بدقة في اختبار قيمة قبل الالتزام.

كيف تحسنت الأمن السيبراني للذكاء الاصطناعي

المناهج الأمنية السيبرانية مدفوعة بالذكاء الاصطناعي قد حققت خطوات كبيرة نحو التحسين منذ تقديمها لأول مرة. ضع في اعتبارك ما يلي:

التوافق باستخدام العينة يخفف من عدم الاتساق – يمكن تعويض عدم الاتساق في القرارات أو النتائج بشكل فعال من خلال استخدام وكلاء الذكاء الاصطناعي المتعددين مع تكوينات مختلفة (مثل نماذج مختلفة عند درجات حرارة مختلفة) لتحليل البيانات التي جمعتها عمليات الوكيل السابقة.

استخدام العينة يسمح للمنظمات بفهم أين تتوافق النماذج المختلفة وأين تختلف. وبالتالي ، الاعتماد على المعلومات التي تتوافق جميع النماذج فيها وتصفية المعلومات التي تختلف فيها يمكن أن يخفف بشكل كبير من عدم الاتساق.

من المهم ملاحظة ، مع ذلك ، أن المعلومات التي تختلف فيها وكلاء العينة هي أيضًا قيمة لأنها تحدد عدم اليقين والحاجة إلى بيانات أو مدخلات أفضل. هذه المعلومات غير المتسقة يمكن أن تساعد المنظمات على تحديد الأولويات للوصول إلى البيانات الأساسية لاتخاذ قرارات أفضل.

إجراءات متسقة مع كتيبات التحقيق – أحد الأسباب الرئيسية التي تؤدي إلى نتائج غير متسقة لتشغيلات التحقيق في SOC مدفوع بالذكاء الاصطناعي هي تباين ليس فقط في البيانات التي جمعت ، ولكن أيضًا في الفرضيات التي تم إنشاؤها أو تعديلها خلال تحقيق الوكيل. إنشاء دليل إجراءات تشغيلية قياسي على مستوى عالٍ (SOP) لبعض الفئات يساعد الوكلاء على تشكيل فرضيات أكثر اتساقًا ويعزز اتساق النتائج بشكل عام. هذا ليس نهجًا جديدًا – يعتمد معظم محللي الأمن في SOC البشر بالفعل على إجراءات التشغيل القياسية لضمان التحقيقات الفعالة والمستمرة. وكلاء الذكاء الاصطناعي يمكنهم استخدام إجراءات التشغيل القياسية بنفس الطريقة.

أدلة قابلة للتتبع تفسح اللغز عن “الsandbox” – كأفضل ممارسة ، يجب تصميم SOC مدفوع بالذكاء الاصطناعي من البداية مع وضع الأدلة الداعمة في الاعتبار. كل قرار وفرضية يأخذها الوكيل يجب أن يكون مدعومًا بالأدلة الداعمة ، بما في ذلك مسارات المنطق وبيانات السجل الخام التي تدعم ذلك المنطق.

الذكاء الاصطناعي للأمن السيبراني الموثوق

وكلاء الذكاء الاصطناعي يمكنهم تسريع الكشف والفرز والاستجابة للتهديدات في الأمن السيبراني ، ولكنهم也 يطرحون مخاطر حقيقية – بما في ذلك نتائج غير متسقة و قرارات غامضة وحساسية لجودة البيانات. الثقة للاستخدام في البيئات الحساسة يتطلب منطقًا مدعومًا بالأدلة ، بما في ذلك مسارات وأدلة خام ؛ إجراءات تشغيلية منظمة لتقليل التباين ؛ عينة متعددة الوكلاء لفصل الإجماع عن عدم اليقين ؛ وضمانات لسلامة البيانات ، حقن البرمجة ، والخطوات والحدود المالية.

يمكن解决 جميع هذه الإصلاحات الحرجة باستخدام نهج وكلاء الذكاء الاصطناعي المتقدم المصمم لمواجهة تعقيد عمليات الأمن الحديثة مدفوعة بالذكاء الاصطناعي. على سبيل المثال ، يستخدم بعض النهج المتقدم عينة متعددة الوكلاء لتمكين المنظمات من استخدام الذكاء الجماعي لنمذج الذكاء الاصطناعي المتنوعة التي تعمل معًا لتحقيق الإجماع وتقليل عدم الاتساق وتحديد مناطق عدم اليقين. إرشادات التحقيق المنظمة والواضحة تضمن أن تتبع خطوات التحليل أفضل الممارسات والإجراءات المنظمة ، مما يدفع الاتساق والموثوقية في كل عملية.

نتائج تتبع القرار الشامل تؤدي إلى أن كل حكم وتوصية و عمل آلي يتم فحصه و فهمه لتقديم الشفافية الكاملة لأفراد فريق الأمن ، مع بناء الثقة مع أصحاب المصلحة. من خلال دمج هذه العناصر الرئيسية – وتنفيذ التحكم القوي لجودة البيانات و السلامة و الحماية التشغيلية – نهج وكلاء الذكاء الاصطناعي المتقدم يسمح لمراكز عمليات الأمن بالحصول على نتائج لا تتميز بالموثوقية والشفافية فقط ، ولكن أيضًا بالجاهزية للإنتاج في البيئات الواقعية وأنشطتك الحساسة nhất.