مقابلات
كريغ ريدل، رئيس الأمن السيبراني العالمي في Wallarm – سلسلة المقابلات
أضف Unite.AI إلى مصادرك المفضلة على Google
كريغ ريدل، رئيس الأمن السيبراني العالمي في Wallarm، هو مسؤول أمن سيبراني متمرس يركز على مساعدة الشركات في إدارة المخاطر المتزايدة المرتبطة بالواجهات البرمجية و الأنظمة التي تعمل بالذكاء الاصطناعي. في منصبه الحالي، يعمل بشكل وثيق مع مسؤولي الأمن السيبراني ومديري المعلومات والقادة الهندسيين لترجمة أنماط الهجوم الحقيقية و سيناريوهات الإساءة إلى استراتيجيات أمنية قابلة للتنفيذ، مع التركيز القوي على القابلية للرصد – فهم كيفية سلوك الواجهات البرمجية و الأنظمة التي تعمل بالذكاء الاصطناعي في الإنتاج عبر المستخدمين و التطبيقات و التكاملات. مسيرته المهنية تشمل مناصب قيادية في إدارة الهوية و الوصول و هندسة الثقة الصفرية و أمن الشركات في منظمات بما في ذلك Netwrix و Kron و HP، حيث قاد تحولات كبيرة في إدارة الهوية و أمن المعلومات و حدد إطارات أمنية حديثة. خبرة ريدل تركز على التهديدات الناشئة مثل هجمات المنطق التجاري و إساءة استخدام الواجهات البرمجية و انحراف الأنظمة التي تعمل بالذكاء الاصطناعي و الاحتيال، مع التركيز المستمر على سد الفجوة بين استراتيجية الأمن على مستوى عال و التنفيذ التشغيلي.
Wallarm هي شركة أمن سيبراني متخصصة في حماية الواجهات البرمجية و التطبيقات و الأنظمة التي تعمل بالذكاء الاصطناعي في بيئات السحابة الحديثة. منصتها توفر اكتشافًا مستمرًا و اختبارًا و حماية في الوقت الفعلي ضد التهديدات مثل إساءة استخدام الواجهات البرمجية و هجمات المنطق التجاري و الاستغلال التلقائي، مع تقديم رؤية عميقة حول كيفية سلوك الأنظمة عبر البنيات التحتية المعقدة. مصممة للعمارة متعددة السحابة و السحابة الأصلية، تدمج Wallarm في سير عمل DevOps و الأمن الحالية، مما يسمح للشركات بالكشف عن الهجمات و حظرها أثناء حدوثها بدلاً من بعد ذلك. من خلال الجمع بين مخزون الواجهات البرمجية و كشف التهديدات الذي تعمل بالذكاء الاصطناعي و القدرات التلقائية للرد، تعالج المنصة حقيقة متزايدة حيث أصبحت الواجهات البرمجية و الأنظمة التي تعمل بالذكاء الاصطناعي سطح الهجوم الرئيسي للشركات الرقمية الحديثة.
بدأت مسيرتك المهنية بالعمل مباشرة مع الأنظمة و البنية التحتية و انتقلت منذ ذلك الحين إلى مناصب قيادية تركز على أمن الهوية و الوصول و الواجهات البرمجية و الأنظمة التي تعمل بالذكاء الاصطناعي. ما هي التحولات الرئيسية خلال هذه الرحلة التي أدت بك إلى الاستنتاج بأن المخاطر الحقيقية انتقلت من الحافة إلى الواجهات البرمجية و الأنظمة التي تعمل بالذكاء الاصطناعي؟
في البداية، كان التركيز على حماية الحافة. جدران الحماية و التجزئة و تقوية البنية التحتية. هذا النموذج عمل عندما كانت الأنظمة أكثر استقرارًا و كانت حدود الثقة أسهل في تعريفها.
ما تغير هو كيف يتم بناء التطبيقات و كيف تتفاعل الأنظمة. أصبحت الواجهات البرمجية الأنسجة المرتبطة بكل شيء، و زادت الأنظمة التي تعمل بالذكاء الاصطناعي ذلك بشكل أكبر. الآن، تقوم الأنظمة بصنع القرارات و الاتصال بأنظمة أخرى و تنفيذ الإجراءات بمقياس و سرعة لا تتضمن البشر في الحلقة.
في ذلك الحين، تصبح الحافة أقل أهمية. تنتقل المخاطر الحقيقية إلى حيث يتم اتخاذ القرارات و تنفيذ الإجراءات، داخل الواجهات البرمجية و سير العمل الذي يتم تشغيله بواسطة الآلة.
إذا لم تكن لديك رؤية و سيطرة هناك، فإنك تثق في السلوك الذي لا يمكنك رؤيته بالكامل. هذا هو المكان الذي تظهر فيه المخاطر التجارية، من التعرض المالي إلى النتائج غير المقصودة و الإضطراب التشغيلي.
لقد وصفتم يداً بيد الأمن السيبراني على أنها مكسورة، مع الإشارة إلى كيفية تأسيس الأنظمة للثقة و تبادل الإجراءات عبر سلاسل الواجهات البرمجية و العمليات التلقائية المتزايدة التعقيد. ما هو مظهر هذا الانهيار في بيئة شركة حقيقية اليوم؟
في معظم البيئات، تثق الأنظمة ببعضها البعض بناءً على الهوية و المصادقة. رمز صحيح، طلب معبر، و التفاعل مسموح به.
المشكلة هي أن هذا يفترض أن الصحيح يعني الآمن. هذا لم يعد صحيحًا.
نصادق على الهوية، لكننا لا نصدق على النية. نتحقق من الوصول، لكن ليس السلوك عبر السلسلة.
قد يكون للخدمة صلاحية لاستدعاء خدمة أخرى، مما يؤدي إلى إجراءات تلقائية عبر واجهات برمجية متعددة. كل خطوة تبدو مشروعة في عزل، لكن عبر السلسلة الكاملة، تبدأ في رؤية سلوك غير مقصود أو إساءة استخدام المنطق.
في البيئات التي تعمل بالذكاء الاصطناعي، يتم تعزيز ذلك.
الوكلاء يمكنهم ربط الإجراءات و تنفيذ سير العمل دون مراجعة بشرية.
لا تزال يداً بيد الأمن السيبراني تحدث، لكن لا أحد يسأل عما إذا كان السلوك يعتبر منطقيًا في السياق.
لماذا يقع خطر الذكاء الاصطناعي و الواجهات البرمجية غالبًا بين حدود المنظمة بدلاً من أن يكون مملوكًا بوضوح؟
لأن الأنظمة لا تتوافق مع هيكل المنظمة.
فريق DevOps يمتلك التسليم. فريق الأمن يمتلك السياسة. فرق الأعمال تمتلك النتائج. فرق البيانات تمتلك النماذج. كل مجموعة تمتلك جزءًا، لكن لا أحد يمتلك النظام كما يتصرف في الإنتاج.
الواجهات البرمجية تنفذ المنطق التجاري عبر الأنظمة. تقدم الأنظمة التي تعمل بالذكاء الاصطناعي اتخاذ القرارات غير القابل للتحديد على ذلك.
معًا، تقطع عبر كل حدود.
تم بناؤها بواسطة فريق، و أمنها بواسطة فريق آخر، و استهلاكها بواسطة فريق ثالث، مع مراقبة غير متسقة عبر جميعهم.
الفجوات التي تُحدثها هذه ليست فشلًا في الفرق. إنها فشل في نموذج التشغيل ليعكس كيفية عمل الأنظمة الحديثة.
في خبرتك، أي فرق عادة ما يعتقد أنها تمتلك خطر الذكاء الاصطناعي، و أين تقع أكبر النقاط العمياء بين الأمن و DevOps و وحدات الأعمال؟
فرق الأمن تميل إلى امتلاك خطر الذكاء الاصطناعي من منظور الحوكمة و الامتثال.
فريق DevOps يمتلك النشر و الموثوقية. وحدات الأعمال تركز على النتائج.
النقاط العمياء تظهر بين تلك المناطق.
فريق الأمن يحدد ما يجب أن يحدث. فريق DevOps يضمن تشغيل النظام. وحدات الأعمال تركز على النتائج. لكن قليلًا من الفرق تنظر باستمرار إلى ما يفعله النظام في الوقت الفعلي.
ذلك هو المكان الذي تعيش فيه المخاطر، خاصة عند السلوك الفني الصحيح ولكن السياق خاطئ.
كثير من الهجمات الحديثة تظهر على أنها سلوك صالح و مصادق بدلاً من الغزوات الواضحة. كيف يجب على المنظمات إعادة التفكير في الكشف في هذا الواقع الجديد؟
نحن بحاجة إلى التحرك بعيدًا عن تحديد “الطلبات السيئة”.
في كثير من الحالات، الطلب صحيح. بيانات الاعتماد صالحة. مكالمة الواجهة البرمجية متوقعة. ما لا يتوقع هو تسلسل الإجراءات أو الحجم أو النتيجة.
يجب أن يصبح الكشف سلوكيًا و سياقيًا. إنه أقل من حظر طلب واحد و أكثر من فهم كيفية تفاعل الأنظمة بمرور الوقت.
المناهج التي تثبت في النهاية على نطاق واسع تتجاوز مطابقة النمط. إنها تفكك الطلبات هيكليًا، و تعامل كل تفاعل على أنه مجموعة من الرموز السلوكية بدلاً من محاولة مطابقة أنماط سيئة معروفة.
هذا يسمح لك بفهم كيف يتطور السلوك و حيث يتحول، حتى عندما يبدو كل شيء صحيحًا على السطح.
إذا كنت تعتمد على قواعد ثابتة أو توقيعات، فستفوت معظم ما يهم.
لقد شددت على أهمية الرؤية في السلوك الحقيقي. ما هي الرؤية المهمة للواجهات البرمجية و الأنظمة التي تعمل بالذكاء الاصطناعي في الإنتاج؟
الرؤية المهمة ليست فقط سجلات و معايير. إنها فهم السلوك في السياق.
对于 الواجهات البرمجية، هذا يعني رؤية كاملة لطلب و استجابة، و كيفية استخدام النقاط النهاية، و كيفية تطور التفاعلات بمرور الوقت.
对于 الأنظمة التي تعمل بالذكاء الاصطناعي، هذا يعني فهم الإدخالات و القرارات و الإجراءات الناتجة.
الأهم من ذلك كله، هذا يعني ربط تلك عبر الأنظمة في سير عمل كامل، وليس أحداث معزولة.
بدون ذلك، فإنك تعمل على افتراضات حول سلوك النظام بدلاً من الواقع.
لماذا تصبح نماذج المراجعة و الموافقة البشرية أقل فعالية في البيئات التي يتم تشغيلها بواسطة الآلة؟
لأن السرعة و النطاق قد تغيرا.
الأنظمة تقوم بآلاف أو ملايين المكالمات في الدقيقة، و يمكن أن تتحول الهجمات أو السلوك غير المقصود في دقائق أو ثوان. لا يمكنك واقعيًا وضع إنسان في الحلقة لكل قرار دون كسر الأداء.
الأنظمة التي تعمل بالذكاء الاصطناعي ليست دائمًا محددة، مما يجعل نماذج الموافقة مسبقًا أقل فعالية.
لا تزال الإشراف البشري مهمًا، لكنه يحتاج إلى التحول من موافقة الإجراءات الفردية إلى تحديد الحدود و مراقبة النتائج.
ما هي الفجوات التشغيلية الأكثر شيوعًا التي تراها عندما تحاول الشركات تأمين الأنظمة التي تعمل بالذكاء الاصطناعي باستخدام الإطارات الأمنية التقليدية؟
الفجوة الكبيرة هي الاعتماد المفرط على التحكم في وقت التصميم.
المنظمات تركز على تأمين النماذج و مراجعة الشفرة و تحديد السياسات قبل النشر. هذا مهم، لكنه يفترض أن الأنظمة سوف تتصرف كما هو متوقع بمجرد أن تكون حية.
في الواقع، تتطور الأنظمة. تتغير الواجهات البرمجية. تتفاعل نماذج الذكاء الاصطناعي مع بيانات و سير عمل جديدة. يتغير السلوك بمرور الوقت.
بدون التحقق المستمر من السلوك في الإنتاج، المنظمات عمياء فعليًا بعد النشر.
ما هو نموذج تشغيل عملي عندما يشارك العديد من أصحاب المصلحة مسؤولية خطر الذكاء الاصطناعي و الواجهات البرمجية؟
يبدأ بتقبل أن لا فريق واحد يمكنه امتلاكها من النهاية إلى النهاية.
نموذج عملي يحدد المسؤولية المشتركة، مرتكزًا حول مصدر الحقيقة المشترك: سلوك التشغيل.
فريق الأمن يحدد المخاطر و السياسة. فريق الهندسة يبني و يدير الأنظمة. وحدات الأعمال تحدد النتائج المقبولة.
الفرق التي تتقدم في هذا تعمل في حلقة مغلقة. اكتشاف مستمر و تنفيذ و تحسين مدفوع بالسلوك الفعلي للأنظمة في الإنتاج، وليس ما تم افتراضه في وقت التصميم.
جميع أصحاب المصلحة بحاجة إلى رؤية كيفية عمل الأنظمة في الإنتاج. من هناك، يمكن للفرق أن تتوافق على ما يبدو “جيدًا”، و الكشف عن الانحرافات، و الاستجابة.
التغيير هو من ملكية منفصلة إلى مسؤولية منسقة، مرتكزة في رؤية وقت التشغيل.
متأملًا إلى الأمام، هل تتوقع أن يصبح مسؤولية الأمن أكثر مركزية مرة أخرى، أو سيتواصل التجزئة مع زيادة استقلالية الأنظمة؟
المسؤولية ستبقى موزعة لأن ذلك يعكس كيفية بناء الأنظمة.
ما سيتغير هو كيفية تنسيق تلك المسؤولية.
سنرى المزيد من نماذج الحوكمة الموحدة حيث يمتلك الفرق مجالاتهم ولكن يعملون مع السياق و الرؤية المشتركة.
المنظمات التي تنجح لن تكون تلك التي تحاول مركزية كل شيء. سوف تكون تلك التي تتوافق مع أصحاب المصلحة حول كيفية سلوك الأنظمة في العالم الحقيقي.
لأن لا أحد يفهم سلوك التشغيل، لا أحد يمتلك حقًا المخاطر.
شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا Wallarm.
