قادة الفكر

أمن الذكاء الاصطناعي ليس معطبا، نحن فقط ندافع عن الأشياء الخطأ

Piyush Sharma
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيستغل المهاجمون تكاملات الذكاء الاصطناعي كطرق سريعة للوصول إلى النظم البيئية المؤسسية…
عرض المزيد
  • يستغل المهاجمون تكاملات الذكاء الاصطناعي كطرق سريعة للوصول إلى النظم البيئية المؤسسية بأكملها، وليس النماذج نفسها.
  • لا تستطيع أدوات الأمان التي تعمل في معزل عن بعضها الكشف عن كيفية قيام المهاجمين بربط سوء التهيئة عبر المجالات المختلفة.
  • يجب أن تحل محاكاة مسار الهجوم المستمرة محل التقييمات الثابتة في البيئات المدمجة مع الذكاء الاصطناعي.

يتبع قطاع الأمن السيبراني نمطًا عند ظهور تقنية جديدة، نحن نبدأ فورا في بناء جدران حولها. لقد فعلنا ذلك مع السحابة، وفعلنا ذلك مع الحاويات، والآن، نحن نفعل ذلك مع الذكاء الاصطناعي، إلا أن الجدران التي نبنيها هذه المرة هي في أماكن خاطئة تمامًا.

ادخل إلى أي مراجعة أمنية للشركات اليوم، وستسمع نفس الأولويات: أمن نماذج الذكاء الاصطناعي، حماية بيانات التدريب، التحقق من المخرجات، ونشر مساعدين مدعومين بالذكاء الاصطناعي. والموردين يهرعون لبيع أدوات “أمن الذكاء الاصطناعي” تركز حصريا على التحكم في النماذج، مثل الحواجز، والدفاعات ضد حقن الأوامر، ومنصات مراقبة النماذج.

لكن المهاجمين يستخدمون تكاملات الذكاء الاصطناعي كطرق سريعة إلى كل شيء آخر.

سطح الهجوم الحقيقي الذي لا يراقبه أحد

نمط واحد نلاحظه باستمرار عبر بيئات الشركات يروي قصة مخيفة عن فرق الأمن التي تستثمر بشكل كبير في تأمين بيئات تطوير الذكاء الاصطناعي: تحكمات الوصول إلى النماذج، وإطارات حوكمة البيانات، وأدوات أمن عمليات تعلم الآلة (MLOps). هذا يمنح ثقة كاذبة بأن الذكاء الاصطناعي “مغلق”.

لكن عندما ترسم سطح الهجوم الفعلي، ترى أن بوتات الدردشة الذكية غالبا ما تحتوي على رموز OAuth لعشرات منصات البرمجيات كخدمة (SaaS)، ومفاتيح API ذات صلاحيات سحابية مفرطة، وعلاقات ثقة الهوية التي يمكن أن تخلق مسارات مباشرة من حقن بسيط للأوامر إلى البنية التحتية للانتاج. النماذج نفسها قد تكون آمنة، لكن النظم التي تعيش فيها غالبا ما تكون مفتوحة على مصراعيها، وهذا ليس حالة حافة.

الشركات الآن تستخدم متوسط يزيد على 130 تطبيقًا من تطبيقات SaaS، مع تكاملات الذكاء الاصطناعي التي تمتد إلى مزودي الهوية، والبنية التحتية السحابية، وقواعد البيانات، والأنظمة الحرجة للأعمال. كل تكامل هو مسار هجوم محتمل، وكل اتصال API هو حدود ثقة التي يبحث المهاجمون بشكل نشط.

المشكلة ليست أن أدوات أمن الذكاء الاصطناعي معطوبة. إنها أننا نأمّن مكونات فردية بينما المهاجمون يستغلون الاتصالات بينها.

لماذا يغفل الأمن المتمحور حول النموذج جوهر المشكلة

المنهج الحالي لأمن الذكاء الاصطناعي يعمل على سوء فهم أساسي لكيفية عمل الهجمات الحديثة. نحن نعامل الذكاء الاصطناعي كأصل مستقل يحتاج إلى حماية، مشابهة لطريقة حماية قاعدة بيانات أو تطبيق ويب. لكن الذكاء الاصطناعي في الإنتاج لا يوجد في عزل. إنه عقدة في رسم بياني شبكي معقد من الهويات، والصلاحيات، وAPI، وتدفقات البيانات.

فكر في تطبيق الذكاء الاصطناعي النموذجي للشركات. لديك وكيل ذكاء اصطناعي يستطيع الوصول إلى Google Workspace الخاص بك. وهو متصل بـ Salesforce (CRM ) عبر واجهات API، ومتكامل مع Slack للإشعارات. يسحب البيانات من حاويات AWS S3، وتُوثق هويته عبر Okta أو Azure AD، ويُشغّل مسارات العمل في ServiceNow.

أمن الذكاء الاصطناعي التقليدي يركز على النموذج نفسه: موقفه الأمني، وتحقق الإدخال، وسلامة الإخراج. لكن المهاجمين يركزون على التكاملات: ما يمكنهم الوصول إليه من خلال حسابات الخدمة المخترقة، وإلى أين يمكنهم الانتقال عبر التلاعب بواجهات API، وأي حدود ثقة يمكنهم عبورها من خلال التكاملات المخترقة.

الهجوم لا يبدأ أو ينتهي مع نموذج الذكاء الاصطناعي. النموذج هو مجرد نقطة الدخول.

مسارات الهجوم لا تحترم حدود المنتجات

هنا حيث تعثر معظم المنظمات. لقد نصبوا أدوات أمنية توفر رؤية إلى مجال واحد فقط. أداة واحدة تراقب صلاحيات السحابة. أداة أخرى تتبع إعدادات SaaS. أداة ثالثة تدير حوكمة الهوية. أداة رابعة تتعامل مع إدارة الثغرات الأمنية.

كل أداة تظهر لك جزء من اللغز. لا تظهر لك كيف تتصل الأجزاء.

وفقًا لـ Gartner، المنظمات تستخدم الآن متوسط 45+ أداة أمنية. ومع ذلك، على الرغم من الاستثمار الكبير هذا، المهاجمون ينجحون في ربط سوء التهيئة عبر هذه المجالات لأن لا أداة واحدة يمكنها رؤية مسار الهجوم الكامل.

المهاجم لا يحتاج إلى العثور على ثغرة حرجة في نموذج الذكاء الاصطناعي. فقط يحتاج إلى العثور على سلسلة. قد يكون دور IAM سيئ الإعداد مرتبطًا بخدمة الذكاء الاصطناعي، ويملك صلاحيات الوصول إلى حاوية S3 تحتوي على بيانات اعتماد لتطبيق SaaS يملك وصولًا إداريًا إلى بيئة الإنتاج.

كل سوء تكوين فردي قد يُصنف “متوسط” أو “منخفض” في أدوات الأمن الخاصة بك. لكن عندما يتم ربطها معا؟ هذا هو التعرض الحرج. وهو غير مرئي تماما إذا كنت تنظر إلى كل مجال أمني على حدة.

ضرورة إدارة التعرض للتهديدات

هذا هو السبب الذي يحتاج فيه الحديث إلى التحول من “أمن الذكاء الاصطناعي” إلى إدارة تعرض مستمرة للتهديدات في بيئات متكاملة مع الذكاء الاصطناعي.

ليس من الكاف أن نسأل عما إذا كانت نماذج الذكاء الاصطناعي آمنة. فرق الأمن تحتاج إلى فهم ما يمكن للمهاجم الوصول إليه إذا تم اختراق حساب خدمة الذكاء الاصطناعي. تحتاج إلى رؤية كيف يمكن ربط سوء التهيئة عبر أنظمة السحابة وSaaS والهوية معا. تحتاج إلى معرفة كيف تغير تكاملات الذكاء الاصطناعي سطح الهجوم في الوقت الفعلي. تحتاج إلى تحديد الأولويات بناء على قابلية الهجوم الفعلية، وليس فقط درجات الخطورة.

معظم برامج الأمن لا تزال تُحدد الأولويات في عزل، باستخدام درجات CVSS وقوائم التحقق من الامتثال التي تتجاهل تماما ما إذا كانت الثغرة قابلة للاستغلال في بيئتك المحددة.

هذه الفجوة أكثر وضوحا مع أنظمة الذكاء الاصطناعي لأنها تتغير باستمرار. التكاملات الجديدة تضاف أسبوعيا. الصلاحيات تتطور. اتصالات API تتغير. سطح الهجوم الخاص بك من الشهر الماضي ليس سطح الهجوم الخاص بك اليوم، لكن تقييم أمنك ربما يكون كذلك.

ما يبدو عليه أمن مسار الهجوم الحقيقي

تأمين الذكاء الاصطناعي في الإنتاج يتطلب نهجا جديدا بشكل أساسي، ويتعلق بأربعة تحولات في التفكير.

أولا، تحتاج إلى رؤية موحدة عبر مجالات الأمن. أوقف سؤال كل أداة أمنية للعمل في صومعة منفصلة. أدوات أمن السحابة، وحوكمة الهوية، وإدارة SaaS، وفحص الثغرات الأمنية جميعها تحتوي على قطع من لغز مسار الهجوم. تحتاج إلى مشاركة البيانات في الوقت الفعلي حتى تتمكن من رؤية كيفية ربط سوء التهيئة معا.

ثانيا، اعتمد على محاكاة مسار الهجوم المستمرة. لا تنتظر الاختبارات الاختراقية أو تمارين الفريق الأحمر لاكتشاف مسارات قابلة للاستغلال. اختبار مستمر كيف يمكن للمهاجم التحرك في بيئتك، مع التركيز على قابلية الاستغلال الفعلية بدلا من الاعتماد على درجات الخطورة النظرية.

ثالثا، حدد الأولويات بناء على السياق. حاوية S3 سيئة الإعداد لا تصبح حرجة لمجرد أنها عامة. تكون حرجة إذا كانت عامة وتحتوي على بيانات اعتماد تمنح وصولًا مميزًا، ويمكن الوصول إلى تلك البيانات من أصل مكشوف للإنترنت. السياق يهم أكثر من أي درجة فردية.

رابعا، انتقل إلى الإصلاح الوقائي. بالوقت الذي يكون فيه فريق مركز العمليات الأمنية (SOC) الخاص بك يحقق في تنبيه، لقد خسرت بالفعل وقت استجابة قيمة. الدفاع الحديث يتطلب القدرة على إغلاق مسارات قابلة للاستغلال قبل أن يتم استغلالها، وليس بعد الحادث.

الانذار الذي لا يمكننا تجاهله

مع تعمق الذكاء الاصطناعي في كل طبقة من طبقات الشركات، سطح الهجوم يتوسع بشكل أسرع مما يمكن لفرق الأمن التفكير فيه يدويا. نحن نضيف تكاملات الذكاء الاصطناعي بعشر مرات سرعة تأمينها.

إذا كنت تأمن الذكاء الاصطناعي في عزل، وحمايتك للنموذج مع تجاهل النظام الذي يعمل فيه، فأنت متأخر. المهاجمون لا يفكرون في أدوات، يفكرون في مسارات. لا يستغلون نقاط الضعف الفردية. يربطون سوء التهيئة عبر بيئتك بأكملها.

الشركات التي ستحقق نجاحا في تأمين الذكاء الاصطناعي لن تكون تلك التي لديها أكثر أدوات أمن الذكاء الاصطناعي. سيكونون أولئك الذين يفهمون أن أمن الذكاء الاصطناعي لا يمكن فصله عن إدارة التعرض عبر سطح الهجوم بأكمله.

أمن النموذج متطلب أساسي. ما يهم هو فهم ما يمكن للمهاجم الوصول إليه عند اختراق تكامل الذكاء الاصطناعي. حتى تتمكن فرق الأمن من الإجابة على ذلك بشكل مستمر، في الوقت الفعلي، عبر بيئتهم بأكملها، فإنهم لا يأمّنون الذكاء الاصطناعي. إنهم يأملون فقط أن الجدران التي بنوها في المكان الصحيح.

بيوش شارما، المؤسس المشارك والرئيس التنفيذي لشركة Tuskira، يمتلك أكثر من عقدين من الخبرة في مجال الأمن السيبراني، مدعومًا بدرجة البكالوريوس في علوم الحاسوب وماجستير في إدارة الأعمال. رجل أعمال متسلسل مع خروجين ناجحين، شغل بيوش مناصب قيادية بارزة في المنتجات والأعمال، بما في ذلك في Symantec و Tenable. كما شغل منصب الرئيس التنفيذي والمؤسس المشارك لشركة Accurics، التي تم الاستحواذ عليها لاحقًا من قبل شركة Tenable Inc. مخترع متميز، يحمل بيوش اثنتي عشرة براءة اختراع في مجال الأمن السيبراني، مما يظهر مساهماته المبتكرة في هذا المجال.