أمن الذكاء الاصطناعي ليس معطبا، نحن فقط ندافع عن الأشياء الخطأ

لدي ngành الأمن السيبراني نمط عند ظهور تقنية جديدة، نحن نبدأ فورا في بناء جدران حولها. لقد فعلنا ذلك مع السحابة، وفعلنا ذلك مع الحاويات، والآن، نحن نفعل ذلك مع الذكاء الاصطناعي، إلا أن الجدران التي نبنيها هذه المرة هي في أماكن完全 خاطئة.

ادخل إلى أي مراجعة أمنية للشركات اليوم، وستسمع نفس الأولويات: أمن نماذج الذكاء الاصطناعي، حماية بيانات التدريب، التحقق من المخرجات، وتطوير مساعدات الذكاء الاصطناعي. والموردين يهرعون لبيع أدوات “أمن الذكاء الاصطناعي” تركز حصريا على التحكم في النماذج، مثل الحواجز، والدفاعات ضد الحقن، ومنصات مراقبة النماذج.

لكن المهاجمين يستخدمون تكاملات الذكاء الاصطناعي كطرق سريعة إلى كل شيء آخر.

السطح الحقيقي لل攻撃 الذي لا أحد يرقب

نماط واحد نلاحظه باستمرار عبر بيئات الشركات يروي قصة مخيفة عن فرق الأمن التي تستثمر بشكل كبير في تأمين بيئات تطوير الذكاء الاصطناعي: تحكمات الوصول إلى النماذج، وإطارات حوكمة البيانات، وأدوات أمن المعالجة. هذا يمنح ثقة كاذبة بأن الذكاء الاصطناعي “مغلق”.

لكن عندما ترسم السطح الفعلي لل攻撃، ترى أن بوتات الدردشة الذكية غالبا ما تحتوي على رموز OAuth لعدد من منصات السحابة، ومفاتيح API مع صلاحيات زائدة، وعلاقات ثقة الهوية التي يمكن أن تخلق مسارات مباشرة من حقن بسيطة إلى البنية التحتية للانتاج. النماذج نفسها قد تكون آمنة، لكن النظم التي تعيش فيها غالبا ما تكون مفتوحة على مصراعيها، وهذا ليس حالة حافة.

الشركات الآن تستخدم متوسط 130+ تطبيق سحابي، مع تكاملات الذكاء الاصطناعي التي تمتد إلى مزودي الهوية، والبنية التحتية السحابية، وقواعد البيانات، والأنظمة الحرجة للأعمال. كل تكامل هو مسار هجوم محتمل، وكل اتصال API هو حدود ثقة التي يبحث المهاجمون بشكل نشط.

المشكلة ليست أن أدوات أمن الذكاء الاصطناعي معطوبة. إنها أننا نأمّن مكونات فردية بينما المهاجمون يستغلون الاتصالات بينها.

لماذا يفوت أمن الذكاء الاصطناعي المركز

المنهج الحالي لأمن الذكاء الاصطناعي يعمل على سوء فهم أساسي لكيفية عمل الهجمات الحديثة. نحن نعتامل الذكاء الاصطناعي كأصل مستقل يحتاج إلى حماية، مشابهة لطريقة حماية قاعدة بيانات أو تطبيق ويب. لكن الذكاء الاصطناعي في الإنتاج لا يوجد في عزل. إنه عقدة في граф معقد من الهويات، والصلاحيات، وAPI، وتدفقات البيانات.

فكر في تطبيق الذكاء الاصطناعي النموذجي للشركات. لديك وكلاء ذكاء اصطناعي يمتلكون وصولا إلى مساحة العمل في جوجل. متصلين بsalesforce من خلال APIs. متكاملين مع Slack لأغراض الإشعارات. يسحبون البيانات من أحواض AWS S3. يتم التأكيد من هويتهم من خلال Okta أو Azure AD. يؤديان إلى تشغيل سير عمل في ServiceNow.

أمن الذكاء الاصطناعي التقليدي يركز على النموذج نفسه: موقفه الأمني، وتحقق الإدخال، وسلامة الإخراج. لكن المهاجمين يركزون على التكاملات: ما يمكنهم الوصول إليه من خلال حسابات الخدمة المخترقة،哪里 يمكنهم التحول من خلال操作 API، وأي حدود ثقة يمكنهم عبورها من خلال التكاملات المخترقة.

الهجوم لا يبدأ أو ينتهي مع نموذج الذكاء الاصطناعي. النموذج هو مجرد نقطة الدخول.

مسارات الهجوم لا تحترم حدود المنتجات

هنا حيث تعثر معظم المنظمات. لقد نصبوا أدوات أمنية توفر رؤية إلى مجال واحد فقط. أداة واحدة تراقب صلاحيات السحابة. أداة أخرى تتبع تكوينات السحابة. أداة ثالثة تدير حوكمة الهوية. أداة رابعة تتعامل مع إدارة الثغرات الأمنية.

كل أداة تظهر لك جزء من اللغز. لا تظهر لك كيف تتصل الأجزاء.

根据 Gartner، المنظمات تستخدم الآن متوسط 45+ أداة أمنية. ومع ذلك، على الرغم من الاستثمار الكبير هذا، المهاجمون ينجحون في ربط سوء التهيئة عبر هذه المجالات لأن لا أداة واحدة يمكنها رؤية مسار الهجوم الكامل.

المهاجم لا يحتاج إلى العثور على ثغرة حرجة في نموذج الذكاء الاصطناعي. فقط يحتاج إلى العثور على سلسلة. ربما تكون دورة IAM غير محددة المرتبط بنموذج الذكاء الاصطناعي، والذي لديه صلاحيات إلى سلة S3، والتي تحتوي على بيانات اعتماد إلى تطبيق سحابي يمتلك وصول إداري إلى بيئة الإنتاج.

كل سوء تكوين فردي قد يُصنف “متوسط” أو “منخفض” في أدوات الأمن الخاصة بك. لكن عندما يتم ربطها معا؟ هذا هو التعرض الحرج. وهو غير مرئي تماما إذا كنت تنظر إلى كل مجال أمني على حدة.

الضرورة الإدارية للتعرض

هذا هو السبب الذي يحتاج فيه الحديث إلى التحول من “أمن الذكاء الاصطناعي” إلى إدارة تعرض مستمرة للتهديدات في بيئات متكاملة مع الذكاء الاصطناعي.

ليس من الكاف أن نسأل عما إذا كانت نماذج الذكاء الاصطناعي آمنة. فرق الأمن تحتاج إلى فهم ما يمكن للمهاجم الوصول إليه إذا تم اختراق حساب خدمة الذكاء الاصطناعي. تحتاج إلى رؤية كيف يمكن ربط سوء التهيئة عبر أنظمة السحابة، والسحابة، والهوية معا. تحتاج إلى معرفة كيف تتغير تكاملات الذكاء الاصطناعي سطح الهجوم في الوقت الفعلي. تحتاج إلى تحديد الأولويات بناء على قابلية الهجوم الفعلية، وليس فقط درجات الخطورة.

معظم برامج الأمن لا تزال تُحدد الأولويات في عزل، باستخدام درجات CVSS وقوائم التحقق من الامتثال التي تتجاهل تماما ما إذا كانت الثغرة قابلة للاستغلال في بيئتك المحددة.

هذا الفجوة أكثر وضوحا مع أنظمة الذكاء الاصطناعي لأنها تتغير باستمرار. التكاملات الجديدة تضاف أسبوعيا. الصلاحيات تتطور. اتصالات API تتغير. سطح الهجوم الخاص بك من الشهر الماضي ليس سطح الهجوم الخاص بك اليوم، لكن تقييم أمنك ربما يكون كذلك.

ما يبدو عليه أمن مسار الهجوم الحقيقي

تأمين الذكاء الاصطناعي في الإنتاج يتطلب نهجا جديدا بشكل أساسي، ويتعلق ب bốn تحولات في التفكير.

أولا، تحتاج إلى رؤية موحدة عبر مجالات الأمن. أوقف سؤال كل أداة أمنية للعمل في صومعة riêng. أدوات أمن السحابة، وحوكمة الهوية، وإدارة السحابة، و فحص الثغرات الأمنية جميعها تحتوي على قطع من لغز مسار الهجوم. تحتاج إلى مشاركة البيانات في الوقت الفعلي حتى تتمكن من رؤية كيفية ربط سوء التهيئة معا.

ثانيا، اعتمد على محاكاة مسار الهجوم المستمرة. لا تنتظر الاختبارات الاختراقية أو تمارين الفريق الأحمر لاكتشاف مسارات قابلة للاستغلال. اختبار مستمر كيف يمكن للمهاجم التحرك في بيئتك، مع التركيز على قابلية الاستغلال الفعلية بدلا من الاعتماد على درجات الخطورة النظرية.

ثالثا، حدد الأولويات بناء على السياق. سلة S3 غير محددة ليست حرجة فقط لأنها عامة. إنها حرجة إذا كانت عامة وتحتوي على بيانات اعتماد وذات صلاحيات امتياز، وتستطيع الوصول إليها من خلال أصول معرضة على الإنترنت. السياق يهم أكثر من أي درجة فردية.

رابعا، انتقل إلى الإصلاح الوقائي. بالوقت الذي يكون فيه فريق الأمن الخاص بك يحقق في تنبيه، لقد خسرت بالفعل وقت استجابة قيمة. الدفاع الحديث يتطلب القدرة على إغلاق مسارات قابلة للاستغلال قبل أن يتم استغلالها، وليس بعد الحادث.

الانذار الذي لا يمكننا تجاهله

مع تعماق الذكاء الاصطناعي في كل طبقة من طبقات الشركات، سطح الهجوم يتوسع بشكل أسرع مما يمكن لفرق الأمن التفكير فيه يدويا. نحن نضيف تكاملات الذكاء الاصطناعي بعشر مرات سرعة تأمينها.

إذا كنت تأمن الذكاء الاصطناعي في عزل، وحمايتك للنموذج مع تجاهل النظام الذي يعمل فيه، فأنت متأخر. المهاجمون لا يفكرون في أدوات، يفكرون في مسارات. لا يستغلون نقاط الضعف الفردية. يربطون سوء التهيئة عبر بيئتك بأكملها.

الشركات التي ستحقق نجاحا في تأمين الذكاء الاصطناعي لن تكون تلك التي لديها أكثر أدوات أمن الذكاء الاصطناعي. سيكونون أولئك الذين يفهمون أن أمن الذكاء الاصطناعي لا يمكن فصله عن إدارة التعرض عبر سطح الهجوم بأكمله.

أمن النموذج هو أدنى مستوى. ما يهم هو فهم ما يمكن للمهاجم الوصول إليه عند اختراق تكامل الذكاء الاصطناعي. حتى تتمكن فرق الأمن من الإجابة على ذلك بشكل مستمر، في الوقت الفعلي، عبر بيئتهم بأكملها، فإنهم لا يأمّنون الذكاء الاصطناعي. إنهم يأملون فقط أن الجدران التي بنوها في المكان الصحيح.