الذكاء الاصطناعي مقابل الذكاء الاصطناعي: الواقع الجديد للأمن السيبراني

هجمات السايبر التي تعمل بالذكاء الاصطناعي قد وصلت، مما يؤكد ما كان في السابق فقط خطرًا نظريًا، ولكن متوقعًا، وهذه الهجمات تُعلن عن عصر جديد في مشهد التهديدات. مع khảية وكلاء الذكاء الاصطناعي الآن لإطلاق حملات معقدة ومتكاملة في دقائق، يمكن للمجرمين السيبرانيين تحديد نقاط الضعف في المؤسسات واستغلالها بسرعة الآلة. وقد تغيرت قواعد المشاركة: الدفاع السيبراني الذي كان ساريًا بالأمس لا يمكنه الآن مواكبة الهجوم الذي يُدفع بالذكاء الاصطناعي في الوقت الحالي.

مع تسريع التهديدات السيبرانية بواسطة الذكاء الاصطناعي، تحتاج المؤسسات إلى نشر قدراتها الدفاعية التي تعمل بالذكاء الاصطناعي لتبقى في خط المواجهة من حيث السرعة وال规模 والدقة. في الوقت الحالي، لا يزال الأعداء يتبعون أساليب وتقنيات وإجراءات متعارف عليها (TTPs)، ولكن الذكاء الاصطناعي يسرع ويعزز كتابهم. بالإضافة إلى ذلك، أصبحت نماذج الذكاء الاصطناعي للمؤسسات نفسها هدفًا جديدًا من خلال تسميم النماذج والهندسة الاجتماعية التي تعتمد على اللغة، مما يتطلب من فرق الأمن السيبراني تأمين قدرات الذكاء الاصطناعي بشكل صحيح. لذلك، ينبغي أن تكون الأمن جزءًا أساسيًا من استراتيجية المؤسسة الأكبر للذكاء الاصطناعي.

ما يميز الهجمات السيبرانية التي تعمل بالذكاء الاصطناعي؟

في عالم رقمي已经 يتعرض للهجمات السيبرانية بشكل شبه مستمر، تم تقليل حواجز الدخول للممثل الخبيث، مما يزيد ليس فقط من حجم الهجمات ولكن أيضًا من تعقيدتها. الهجمات التي تعمل بالذكاء الاصطناعي يمكنها الآن استخدام الذكاء الاصطناعي أو التعلم الآلي لتحسين أو تعزيز أي مرحلة من مراحل دورة الهجوم، من الاستكشاف وجمع المعلومات إلى استغلال البيانات الحساسة وتصديرها.

الاعتماد حصريًا على العمليات والتكنولوجيا الأمنية الحالية دون نشر التكنولوجيا المتقدمة نفسها التي يستخدمها الأعداء يعطي الأعداء ميزة لا يمكن التغلب عليها بدون دفاع ذكاء اصطناعي. والمؤسسات已经 تعاني من مراقبة بيئتها من المخاطر التقليدية. الهجمات التي تعمل بالذكاء الاصطناعي سوف تزيد من إرهاق التنبيهات. هذا يتطلب تطورًا من العمليات المدارة من قبل البشر إلى قوة عمل سيبرانية هجينة بشرية و数字ية.

خريطة كل الأصول الرقمية

في عالم اليوم، فهم النقاط المحتملة للدخول عبر بيئة المؤسسة هو أمر ضروري، ولكن لا يزال بعيدًا عن العديد من المؤسسات الكبيرة. بالإضافة إلى الأنظمة والassets الرقمية، هناك حاجة إلى خريطة شاملة لجميع الهويات والوصول داخل المؤسسة. الهوية الرقمية، التي تربط بين الخصائص المادية والسلوكية لفرد معين، مفهوم جيد مع التحكم اللازم لإدارة الوصول الرقمي.

然而، فهم المناظر الرقمية للمؤسسة على نطاق واسع للهويات غير البشرية (NHIs) أمر ضروري لتأمين الأصول الرقمية. إدراك القيمة المحتملة للذكاء الاصطناعي داخل المؤسسة يعني منح وكلاء الذكاء الاصطناعي الإذن بالعمل بشكل مستقل لتحقيق عملية أعمال. مثل بيئات السحابة في عصر الأمن السابق، بيئات العمل التي تعمل بالوكالة اليوم تُنشئ وتُغلق الهويات غير البشرية بسرعة، مما يتطلب القدرة المتقدمة على إدارة وتحديد مكان وجودها وكيفية أداء المهام والوظائف المطلوبة.

ينبغي للمؤسسات توسيع حوكمة الهوية عبر دورة حياة هوية الوكيل ومراقبة أفعال الوكيل، تمامًا كما يتم مراقبة الوصول للمستخدمين البشر اليوم من أجل سلوكيات المخاطر الداخلية أو اختراق الحسابات من قبل الممثلين الخبيثين. مع زيادة استقلالية القدرات الوكيلية وأداء العمل الحرج، فهم بصمة الهوية ونمط الوصول الخاص بهم أمر بالغ الأهمية لتطبيق التحكم والمراقبة اللازمين لحمايتهم والمؤسسة من الإساءة.

إغلاق نماذج الذكاء الاصطناعي

تعد قدرات الذكاء الاصطناعي واعدة لتحقيق الكفاءة والإنتاجية، ولكنها أيضًا قد تُستخدم ضد المؤسسات. إدخال الذكاء الاصطناعي في كل جانب من جوانب عمليات الأعمال لم يعد أمرًا اختياريًا، بل هو شرط للنجاح في المنافسة الحالية. لذلك، نشر الذكاء الاصطناعي بشكل آمن هو مكون ضروري لتحقيق الإمكانات التجارية الكاملة بأمان.

ينتقل التحول إلى الدفاع السيبراني الذي يعمل بالذكاء الاصطناعي، في حين نماذج الذكاء الاصطناعي نفسها أصبحت أهدافًا. قد يحاول الأعداء تسميم البيانات التي تغذي هذه النماذج وتحريكها لاتخاذ إجراءات غير مقصودة أو حتى الكشف عن معلومات حساسة.

يمكن أن تأتي الهجمات على الذكاء الاصطناعي في أشكال مختلفة، مثل هجمات التسميم، هجمات الحقن، وغيرها. لتحقيق الحماية المناسبة للذكاء الاصطناعي من التلاعب، ينبغي للمؤسسات استخدام فلسفة الوكالة للبنية التحتية والأمن (CISA) لتصميم آمن من البداية. هذا يبدأ مع البيانات التي تغذي تدريب النموذج. حماية المدخلات في وقت مبكر من عملية التطوير يضع الأساس للخروجات الموثوقة في التطبيق.

فهم المدخلات التي تدخل في تطوير النماذج والقدرات ممكن من خلال الحوكمة المتعمدة للبيانات جنبًا إلى جنب مع التحكم في الوصول إلى النماذج نفسها. التحكمات الحاسمة التي تسمح بالتحقق من المخرجات المرغوبة تأتي في شكل حماية فقدان البيانات (DLP)؛ تنفيذ السياسات والسلامة؛ التأصيل من خلال مصادر موثوقة؛ والتحكم الصارم في الإجراءات عالية التأثير، مع khảية المراقبة المستمرة، بما في ذلك اختبار الاختراق لنماذج لتحسينها.

دمج الذكاء الاصطناعي في عمليات الأمن

حتى الآن، تطبيق الذكاء الاصطناعي على الدفاع السيبراني كان تكتيكيًا، حيث قامت العديد من المؤسسات بتركيب الذكاء الاصطناعي على العمليات البشرية التقليدية، بدلاً من إعادة التفكير الاستراتيجي في كيفية بناء العمليات التي تعمل بالذكاء الاصطناعي. هذا مثل محاولة وضع محرك V8 على دراجة هوائية. التطور التالي للتمكين بالذكاء الاصطناعي سيكون تصميم العمليات من البداية مع الذكاء الاصطناعي والآلية الأوتوماتيكية المدمجة في التصميم.

الأساليب والعمليات التقليدية لأمن المعلومات، مثل كشف التهديدات واصطياد التهديدات وتحليل التهديدات، لا تزال أمورًا حاسمة لضمان أمن المؤسسة في عصر الذكاء الاصطناعي. يمكن أن يؤسس تحويل العمليات الأمنية الحالية لتمكين دعم الذكاء الاصطناعي أساسًا قويًا لمستقبل مركز عمليات الأمن الذي يعمل بالذكاء الاصطناعي (SOC).

بالإضافة إلى ذلك، لا يعد التأتمتيك مفهومًا جديدًا فريدًا لظهور الذكاء الاصطناعي؛ لقد تم تطبيق التأتمتيك على سير عمل وأعمال الأمن لسنوات، مع وجود مؤسسات ناضجة ذات قدرات التأتمتيك والتنسيق المتقدمة. ومع ذلك، يعزز الذكاء الاصطناعي التأتمتيك القائم على القواعد ويطوره أكثر، مما يسمح بالسير العمل الأوتوماتيكي الديناميكي والمتكيف والغني بالسياق الذي يمكن أن يساعد في معالجة السرعة والمرنة المطلوبة لهذه المخاطر الجديدة التي تعمل بالذكاء الاصطناعي.

ماذا بعد؟

ينبغي أن يبقى الأمن في صدارة اهتمامات الأعمال وتكنولوجيا المعلومات لحماية الأصول الحيوية والمستخدمين من الاستغلال الخبيث. الذكاء الاصطناعي الآمن من البداية هو ضرورة نظرًا لسرعة نشر نماذج الذكاء الاصطناعي وطلب أداء مهام أكثر حساسية. ينبغي للفرق الأمنية التفكير استراتيجيًا في تحويل العمليات من الأساس لتطبيق القدرات الجديدة للذكاء الاصطناعي بشكل مناسب لمواكبة لعبة الفأر والقطة في الأمن السيبراني.

يمكن لقادة الأمن اتخاذ خطوات ملموسة في المدى القصير: إجراء مراجعة شاملة للعمليات الأمنية الحالية لتحديد الفجوات وفرص التحديث والتغيير. البقاء على اطلاع دائم بالتهديدات والتrends والتكنولوجيا الجديدة للذكاء الاصطناعي. قبل كل شيء، البقاء متصلًا بمبدأ الأمن الأساسي للدفاع العميق الذي أثبت نفسه مع مرور الوقت – الحماية المتعددة والتحقق من الهوية، من النقطة النهائية إلى الشبكة إلى البيانات، مع قدرات المراقبة والاستجابة القوية التي يتم اختبارها دائمًا.

الpotential التغييري للذكاء الاصطناعي يعد فائدة كبيرة جدًا لدرجة أن لا يمكن تجاهل تبنيه، والجني قد خرج من الزجاجة بالنسبة للممثلين الخبيثين. لذلك، دور قادة الأمن في هذا العصر الجديد لا يزال كما كان دائمًا: دعم مؤسساتهم في تحقيق أهدافها التجارية مع التخفيف من المخاطر بفكر متعلم – ولكن الآن بسرعة الآلة مع استخدام الذكاء الاصطناعي.