أزمة السياق في عصر الذكاء الاصطناعي المتقدم: يتطلب الدفاع ضد الذكاء الاصطناعي ذكاء اصطناعي

لم يعد التشغيل الأمني مقيدًا بالسرعة البشرية. يتم تجاوزه من قبل الأعداء الذين يعملون بسرعة الآلة ، ويتنفعون بالثغرات أحيانًا قبل أن يكتشف المدافعون حتى الإشارة الأولى. أدت نماذج الذكاء الاصطناعي المتقدم مثل Claude Mythos إلى تغيير في ساحة اللعب ، حيث يمكنها اكتشاف الثغرات التي نجت من عقود من المراجعة البشرية والاختبارات الآلية التي تصل إلى ملايين. ومع ذلك ، يمكن لهذه النماذج من الذكاء الاصطناعي المتقدم ربط الثغرات في مسارات استغلال معقدة وحرجة في ثوان.

لم يتم تصميم مركز العمليات الأمنية الحديث (SOC) لهذه السرعة. لمدة عشر سنوات ، قمنا بتوسيع التелеметري ، ومع ذلك ، يغرق المحللون في آلاف التنبيهات اليومية ، يبحثون عن المعنى بين الدلائل المتناثرة. من أجل البقاء في وجه الهجمات التي يديرها الذكاء الاصطناعي ، يجب أن يتطور مركز العمليات الأمنية (SOC) من محور بشري إلى عملية مدفوعة بالآلة ومدفوعة بالوكيل.

النجاح يتطلب تحولاً أساسياً من الرؤية إلى السياق في الوقت الفعلي. بينما يسمح الذكاء الاصطناعي للممثلين السيئين بالحصول على وصول عميق إلى الشبكة مع خفاء غير مسبوق ، إلا أنه لا يزال ينتج آثارًا يمكن ملاحظتها مثل أحداث التحقق ، وحركة البيانات ، والسلوكيات غير العادية. ومع ذلك ، من أجل أن تتمكن عمليات الدفاع الوكيلية من مكافحة التهديدات بسرعة الآلة ، يجب على المنظمات امتلاك طبقة سياقية تتحول التелеметري الخام إلى رؤية منظمية وقابلة للآلة.

مع اعتماد الشركات لأدوات الأمن التي تعمل بالذكاء الاصطناعي ، من المهم تذكر أن الاستقلالية بدون سياق منظم سوف تroduce مخاطر تشغيلية أكثر. الوكلاء الذين صمّموا لمراقبة وحوكمة أنظمة الذكاء الاصطناعي نفسها بحاجة إلى أكثر من التأتمتة المستقلة – إنهم بحاجة إلى طبقات التحكم السياقي لتجنب الهلوسة أو انحراف السياق. بدون ذلك الأساس ، تعمل أنظمة الذكاء الاصطناعي بشكل reactively بدلاً من الذكاء.

الرؤية بدون فهم

المراكز التقليدية للأمن لا يتم بناؤها على مستوى علاقة ، وسلوك ، واعتماد متحرك ، ولا يمكن لأي ذكاء اصطناعي العمل بشكل مثالي في كل منظمة. الدفاع القوي الذي يعتمد على الذكاء الاصطناعي لا يعتمد على القدرة على فهم هذه المكونات الأساسية لتعمل المنظمة.

المراكز التقليدية للأمن مبنية على المخزونات الثابتة (الصور الفوتوغرافية للفترات) ، والتنبيهات المعزولة التي تفتقر إلى التسلسل التاريخي ، والتدفقات البشرية حيث يكون المحلل هو الاتصال بين السياق والأدوات. هذا نقص في الفهم أو المعنى يضغط على متوسط الوقت للكشف (MTTD) إلى ساعات أو أيام ، وأطر زمنية لا تقبلها الهجمات بسرعة الآلة.

مع تحرك الذكاء الاصطناعي الوكيل من الاستكشاف إلى النشر التشغيلي داخل المراكز الأمنية ، نشهد تحولاً نحو نظم قادرة على تنفيذ مهام أمنية بدلاً من دعم المحللين البشر فقط. هذا التحول يغير التوقعات حول ما يجب أن يفعله مركز العمليات الأمنية (SOC) مقابل ما لا يزال يتطلب تدخل بشري.

لكن كما تقوم المنظمات بسباق لتنفيذ الذكاء الاصطناعي عبر عمليات الأمن ، فإن العديد من القادة يرتكبون خطأً حاسمًا ، وهو معاملة الذكاء الاصطناعي كبديل للمحللين بدلاً من كونه معززًا مبنيًا على السياق. بينما يمكن للنماذج اللغوية الكبيرة (LLMs) تلخيص التنبيهات ، وتحسين التحقيقات ، وتوصية بالإجراءات ، بدون فهم دقيق للبيئة التي تعمل فيها ، تكون الإخراجات محدودة بجودة المعلومات التي تتلقاها.

البيئات المؤسسية ليست ثابتة ، وهذا هو التحدي. يتم إضافة الأصول أو إزالتها باستمرار ، بينما تتغير الهويات دورًا وتصريحًا ، وتتطور العمليات التجارية مع مرور الوقت. اعتمدت فرق الأمن على المحللين البشر لربط هذه الأجزاء المتحركة خلال التحقيق ، لكن هذا النهج لا يترجم إلى عمليات آلية. الدفاعات بسرعة الآلة تتطلب فهمًا أساسيًا لكيفية تفاعل الأنظمة ، والمستخدمين ، والتطبيقات ، والبيانات مع بعضها البعض في الوقت الفعلي.

يصبح السياق أكثر أهمية من القدرة الداعمة. إنه النظام الأساسي للتشغيل الأمني الوكيل. المنظمات التي تنجح في دمج الذكاء الاصطناعي في مركز العمليات الأمنية (SOC) لن تكون بالضرورة تلك التي لديها أدوات الذكاء الاصطناعي الأكثر تقدمًا ، ولكن تلك التي يمكنها تزويد هذه الأدوات بالصورة الأكثر كمالًا للبيئة – مدعومة بالبيانات. كل شيء آخر في مركز العمليات الأمنية (SOC) يعتمد على كمال وتركيب السياق في لحظة الكشف أو الاستجابة.

للوصول إلى هناك ، يجب على فرق الأمن إعادة التفكير في كيفية جمع البيانات وتحويلها إلى عمليات عبر مركز العمليات الأمنية (SOC).

خمس تحولات نحو الاستعداد

لإعادة الحصول على الميزة ، يجب على المنظمات أن تضع في اعتبارها القدرة على تفسير البيانات بسرعة أكبر من القدرة البسيطة على جمعها.

1. من قوائم الأصول إلى سطح هجوم حي

تعتمد معظم المنظمات على صورة ثابتة لا تستطيع مواكبة التغييرات الديناميكية. سطح الهجوم الحديث ، الذي يمتد إلى وظائف السحابة المؤقتة ، وبرامج تكنولوجيا المعلومات المظللة ، ونقاط نهاية نموذج الذكاء الاصطناعي ، لا يمكنه في كثير من الأحيان تشغيل وكيل EDR تقليدي ، مما يترك فجوات حيث تعيش المنطق الأمني الحرج. لا يمكنك تحليل فيضان من الإفصاح إذا كنت لا تعرف ما تقوم بتشغيله أو ما يلمس.

تتطلب القضاء على هذه الفجوة رؤية في الوقت الفعلي مع السياق. هذا يسمح لمركز العمليات الأمنية (SOC) بالحفاظ على граф أصول محدث بشكل مستمر يلتقط ليس فقط ما يوجد ، ولكن النشاط العادي وشبكة الاتصالات.

2. من التنبيهات إلى فهم السلوك

التحديدات هي أحداث معزولة ، ولكن الهجمات الحقيقية هي أنماط يجب التعرف عليها خلال فترة زمنية. على سبيل المثال ، لا يقوم وكيل ذكاء اصطناعي مُخترق ببساطة بتثبيت البرامج الضارة ؛ إنه يستخدم الوصول المصرح به بالطرق غير المصرح بها حتى يتم تثبيت البرامج الضارة. ملاحظة السلوكيات الغريبة قبل سلوكيات الهجوم هي مفتاح في هذا الصدد. مع معايير السلوك وفهم ، يمكن لمحللين الأمن التحرك بعيدًا عن الأحداث المنفصلة وترجمة النشاط إلى سرد منطقي.

3. من عمليات مدفوعة بالمحلل إلى عمليات جاهزة للوكيل

إذا كان مركز العمليات الأمنية (SOC) يعتمد كليًا على البشر لتجميع السياق خلال التحقيق ، فسوف يخسر دائمًا ضد تهديد مدفوع بالذكاء الاصطناعي. ومع ذلك ، تتطلب الوكلاء الآليون سياقًا مسبقًا ، لذلك عندما يلتقط وكيل التriage إشارة ، يجب أن يلاقيها ملف تعريف عالي الجودة على الفور – وليس تفريغ بيانات خام. من خلال تنفيذ طبقة تعزيز مخصصة ترتبط البيانات عبر أربع طبقات من الأصول ، والهوية ، والسلوك ، وملاءمة التهديد ، يصبح السياق أساسًا حقيقيًا.

وكلاء الذكاء الاصطناعي في مركز العمليات الأمنية (SOC) هم فئة قادرة ناشئة مصممة لتعزيز وتأتمتة تدفقات العمل الأساسية في مركز العمليات الأمنية (SOC). ومع ذلك ، يعتمد فعاليتها على ما إذا تم نشرها في بيئات حيث يتم بالفعل هيكلة السياق وتركيبه وتحديثه.

4. من التелеметري الخام إلى التفكير الفعال

التелеметري الخام ضخم ، وضجيج ، ومكلف للغاية لتغذية النماذج اللغوية الكبيرة. يشير النموذج اللغوي الكبير غير المفلتر إلى السجلات إلى تفكير مخفض أو هلوسة ، مما يضيف مزيدًا من العمل التخميني إلى المحلل البشري ، ويتأخر التحقيقات.

التحول إلى كثافة الإشارة العالية ، البيانات التي تم بالفعل تعزيزها وترتيبها ، يحل هذه المشكلة. يمكن أن يُظهر تلخيص التелемتري ، بما في ذلك من ، ما ، وكيف الكشف ، وانحرافًا عن القاعدة ، بسهولة ما إذا كان التحقيق الفوري مبررًا. من خلال التركيز على أدلة الحزمة العميقة فقط عندما يتطلب فرضية معينة ذلك ، يجعل نظام وكيل مركز العمليات الأمنية (SOC) يعمل فعليًا.

النظم الفعالة للذكاء الاصطناعي في مركز العمليات الأمنية (SOC) تتطلب تحكمًا منظمًا عبر دورة الحياة الكاملة ، من الاستهلاك إلى الاستجابة. هذا لأن السياق هو ما يتحول الإشارات إلى تفكير قابل للتنفيذ.

5. من البيانات أحادية الأبعاد إلى أدلة متعددة الطبقات

تتطلب مهام مختلفة أنواع بيانات مختلفة لتحديد الاتجاهات ، والعلاقات ، والانحرافات ، بما في ذلك المقاييس ، والبيانات الوصفية ، والكشف ، وحزم البيانات. استراتيجية متدرجة من البيانات الخفيفة للتفكير المستمر وأدلة عميقة ضرورية للتوازن.

لم ي Introduced الذكاء الاصطناعي المتقدم فقط تهديدات جديدة ؛ لقد أوجب بنية جديدة للدفاع. يجب أن يصبح الأمن موحدًا ، ومتكيفًا ، وأهم من ذلك ، يتضمن قدرات وكيلية. الشركات التي تبني طبقات السياق اليوم ستكون أكثر استعدادًا للوفاء بالمعيار الجديد للسلامة في عصر الذكاء الاصطناعي. تلك التي تعتمد على الطرق القديمة من التركيب اليدوي ستجبر على الاستجابة لعالم يتحرك بسرعة كبيرة لدرجة أنهم لا يستطيعون رؤيته.

تتطلب عمليات الأمن التي يديرها الذكاء الاصطناعي نماذج حوكمة وعمليات جديدة بشكل أساسي ، مما يؤكد أن القدرة على إنتاج بيانات سياقية عالية (وليس أدوات فقط) ستحدد أي منظمات يمكنها التوسع بأمان وفعالية. بدون ذلك ، سوف تتوسع التأتمتة فقط الضوضاء ، وليس الذكاء المطلوب.