أداة الأمان الإصطناعي الخاصة بك لا تحميك – إنها تجعل你 تشعر بالتحسن فقط

في يونيو 2025، قامت مايكروسوفت بتصحيح CVE-2025-32711، المعروف أفضل باسم EchoLeak: ثغرة أمنية من نوع zero-click في Microsoft 365 Copilot، والتي حصلت على درجة 9.3 على CVSS. يمكن أن يؤدي بريد إلكتروني معين، الذي لم يفتحه الضحية، إلى إخراج محرك استرجاع Copilot بشكل هادئ أي سياق حساس كان لديه حق الوصول إليه. التفاصيل التي يجب أن تقلقك هي أن الحمولة مرت مباشرة عبر XPIA، وهو مصنف الحقن في البرومبت الذي كان موجودًا ويعمل بالضبط كما تم تصميمه.

قدم بروس شنايير لنا المصطلحات اللازمة لذلك في عام 2009. مسرح الأمان، كتب، يصف الإجراءات التي تجعل الناس يشعرون بأمان أكبر دون أن يفعلوا أي شيء لتحسين أمانهم. الشعور والواقع أمران مختلفان، ويتفرقان.

بعد سبعة عشر عامًا، قام الإصطناعي بتسويق الانحراف، على كلا الجانبين من المعادلة. تُباع أدوات الأمان الإصطناعي على قدرات لا يمكنها إثباتها تحت القياس، وأدوات الأمان للإصطناعي تُباع كحلول لمشكلة يعترف توثيقها بأنها غير قابلة للحل. وضعت دورة الهype لشركة Gartner لعام 2025 إدارة الأمان والمخاطر والإصطناعي في قمة التوقعات المفرطة. يقول المحللون لكم أين نحن. السؤال هو ماذا تفعل بشأنها.

الفجوة بين ورقة البيانات والقياس

ابداً بما يحدث عندما يختبر شخص ما التحكمات المثبتة بدلاً من قراءة مواد التسويق.

قام تقرير Picus Blue 2025 بتحليل أكثر من 160 مليون محاكاة هجوم حقيقية تم تشغيلها ضد بيئات الإنتاج في النصف الأول من عام 2025. تبيع Picus منصة المحاكاة، لذا يجب وزن المصدر وفقًا لذلك، ولكن الأرقام صعبة الإهمال. بلغ متوسط فعالية المنع 62٪، انخفاضًا من 69٪ في العام السابق. على الرغم من تغطية التسجيل البالغة 54٪، إلا أن 14٪ فقط من الهجمات المحاكاة أنتجت تنبيهًا. نجحت الهجمات التي تستخدم بيانات اعتماد صالحة بنسبة 98٪. ومن محاولات تسرب البيانات المحاكاة، قامت التحكمات الموجودة بمنع 3٪.

3٪. هذه بيئات تضم حزم أمان حديثة ومكلفة بالإصطناعي، واختبار التسرب هو الذي يتوافق بشكل مباشر مع ما يريد المهاجم القيام به.

تستحق درجات البenchmarks التي تظهر في عروض البائعين الشك نفسه. عندما بدأ البائعون في المطالبة بالدرجات الكاملة في تقييمات MITRE ATT&CK، نشر محلل Forrester Allie Mellen تذكيرًا حادًا: التقييمات لا توجد فيها فائزون أو خاسرون، وغالبًا ما تستند مطالبات 100٪ إلى تكوينات غير واقعية أو نتائج فرعية محددة أو إعدادات الكشف التي من شأنها أن تدفن مركز العمليات الحقيقي في الضوضاء.

ليس أي من هذا جديدًا، وهو الجزء المُحزن. في عام 2019، قام باحثون في Skylight Cyber بتفكيك برنامج مكافحة الفيروسات “النقي” من Cylance عن طريق إضافة سلاسل من لعبة Rocket League إلى عينات البرامج الضارة، مما قلب حكم المصنف بنسبة 100٪ من العائلات العشر الأولى من البرامج الضارة في ذلك الوقت و83٪ من مجموعة عينات أوسع. الدرس، وهو أن نماذج التعلم الآلي الثابتة تفشل ضد خصوم يدرسونها، تم نشره قبل سبعة أعوام. كانت استجابة السوق هي شحن المزيد من نماذج التعلم الآلي الثابتة.

مشكلة الحاجز الأماني أسوأ

إذا كان الكشف الإصطناعي يباع بأكثر مما يمكنه تحقيقه، فإن الأدوات التي تُباع لأمان الإصطناعي نفسه تكون في وضع غريب: الهيئة المعنية بتحديد التهديد تقول إن التهديد قد لا يكون قابلاً لل修复.

تقع حقن البرومبت في المرتبة الأولى في قائمة OWASP Top 10 للتحكم في التطبيقات، وتوجيه OWASP العملي يشير إلى نفس الاتجاه مثل كل حادث فوق: نظرًا للطبيعة العشوائية للنماذج، “من غير الواضح ما إذا كانت هناك طرق منع قاطعة لحقن البرومبت.” لا تُعتبر التحسين والراغ أيضًا من العوامل الكاملة. هذه هي المشكلة التي توجد سوق الحماية من البرومبت لحلها، والتي وصفها المنظمة التي قامت بتوثيقها بأنها قد لا تكون قابلة للحل.

يدعم العمل التجريبي التشاؤم. قام باحثون في جامعة لانكاستر وMindgard بتحقيق نسبة نجاح التهرب تصل إلى 100٪ باستخدام تقنيات حقن الحروف والاضطراب المعادي، مع الحفاظ على الهجمات الأساسية الوظيفية. ذهب HiddenLayer إلى أبعد من ذلك، ونشر قالب برومبت “Policy Puppetry” القابل للنقل الذي يزعم أنه ي绕 كل نموذج رئيسي في السوق. هذا هو بحث البائع وليس منقح من قبل الأقران، لذا يجب معاملة “الكل” بحذر، ولكن المنافذ المستقلة أعدت إنتاج المطالبات الأساسية.

الشاهد الأكثر موثوقية لا يبيع أي منتج. قامت مؤسسة الأمان الإصطناعي في المملكة المتحدة، التي تقيم خمسة من النماذج الإصطناعية الرائدة، بتقرير أن “جميع النماذج كانت معرضة للغاية للهجمات الأساسية”، مع كل نموذج يمتثل على الأقل مرة واحدة في كل خمسة محاولات لجميع الأسئلة الضارة تقريبًا عندما تم تطبيق الهجمات الداخلية. هجمات أساسية. ليس هناك حيل تجسس على مستوى الدولة. هيئة تقييم حكومية، تشير باحترام إلى أن مرشح الإدخال للامبراطور لا يملك ملابس.

سجلت تغطية Unite.AI الخاصة بنا فئات الضعف وتقنيات الحقن لسنوات. لا يوجد أي من هذا سرًا. إنه فقط لا يظهر على ورقات البيانات.

الجزء الخطير هو الشعور

هنا ي停止 عنوان هذا المقال عن كونه مجرد تعبير مجازي. إذا كانت هذه الأدوات لا تُحقق المطلوب فقط، فإن الخسارة ستكون مالية. تشير الأبحاث إلى شيء أسوأ: الثقة التي تولدها تُؤدي إلى تدهور السلوك.

يدعو باحثو الأمان ذلك بالتعويض عن المخاطر، أو تأثير بيلتزمان: يأخذ الأشخاص المحميون المزيد من المخاطر. يسائقون الذين يرتدون حزام الأمان بسرعة أكبر. ويتضح أن المنظمات التي تملك لوحات تحكم أمان الإصطناعي تتوقف عن القيام بالأشياء المملة.

تتماشى الأرقام بشكل غير مريح جيدًا. وجد مؤشر جاهزية الأمان الإلكتروني 2025 لشركة Cisco، الذي استطلع 8,000 قائد أمني، أن 86٪ من المنظمات تعرضت لحادث أمني متعلق بالإصطناعي في الـ 12 شهرًا السابقة، بينما اعتبر 10٪ فقط أن الإصطناعي هو الأصعب ما عليهم حمايته، واعترف 60٪ بأنهم يفتقرون إلى الرؤية حول كيفية استخدام موظفيهم الإصطناعي التوليدي على الإطلاق. حوادث شبه عالمية؛ القلق، خطأ تقريب.

أكملت تقرير IBM 2025 عن تكلفة خرق البيانات الصورة. من بين المنظمات التي تعرضت لخرق في نماذج أو تطبيقات الإصطناعي، لم تكن 97٪ تملك سيطرات وصول إصطناعي مناسبة. كان واحد من كل خمس حالات خرق يعود إلى إصطناعي ظل، مما أضاف حوالي 670,000 دولار إلى تكلفة خرق البيانات المتوسطة، و 63٪ من المنظمات المخترقة لم تكن تملك سياسة حوكمة إصطناعي على الإطلاق. اقرأ هذه الأرقام معًا وستظهر صورة: الفشل هو ممل. في المنظمات التي تفتقد الأساسيات، والتي تشعر بالأمان.

لوحة التحكم لم تتعطل. لقد قامت بتسليم منتجها الفعلي، وهو الثقة.

ما يبدو عليه الإصدار الصادق

لا يُشير أي من هذا إلى أن أدوات أمان الإصطناعي لا قيمة لها، ويستحق أفضل دليل معارض النشر. نجح التصنيفات الدستورية لشركة Anthropic في تحمل أكثر من 3000 ساعة من اختبار الـ red team بواسطة 183 باحثًا دون اختراق عالمي، مما خفض نسبة الاختراق من 86٪ في النموذج غير المحمي إلى 4.4٪، بتكلفة زيادة بنسبة 0.38 نقطة في الرفضات الزائدة وحوالي 24٪ من التكلفة الحاسوبية. ثم قامت Anthropic بتشغيل تحدي عام، وتمكنت أربعة من المشاركين البالغ عددهم 339 من اجتياز كل مستوى، ووجد أحدهم اختراقًا عالميًا عامًا على أي حال.

هذا هو الشكل الصادق لل领域 كله في نتيجة واحدة: رفع حاجز بني جيدًا تكلفة المهاجم بشكل كبير، وحمل ضريبة قابلة للقياس، ولسوء الحظ، سقط في وجه مهاجم كافٍ. إذا كان عليّ ضغط هذا المقال في مبدأ شراء، فهو هذا: التحكم الذي يُباع كمرتفع للتكلفة مع أوضاع فشل منشورة يستحق التقييم؛ التحكم الذي يُباع كحل لمشكلة هو بيع الشعور.

التحكم أو غطاء الراحة: ثلاثة أسئلة

يمكنك فصل أحدهما عن الآخر دون ميزانية بحث. ثلاثة أسئلة، موجهة إلى كل أداة أمان إصطناعي تملكها أو على وشك شرائها.

ما هو معدل تجاوزها المقاس في بيئتي? ليس معيار البائع. بل لك. التأكيد المستمر وتدريبات الفريق الأرجواني موجودان بالضبط لأن، كما يُظهر بيانات Picus، تنتقل التحكمات المثبتة نحو الفشل بصمت. الرقم الذي لم تقيسه هو رقم تؤمن به بالإيمان.

ماذا يحدث عندما يفشل? ليس إذا. تُشير إرشادات OWASP العملية إلى نفس الاتجاه مثل كل حادث فوق: وصول الأقل للامتياز للنماذج، بوابات الموافقة البشرية على الإجراءات الحساسة، والتنسيق الذي يفترض أن المرشح سوف يسمح بشيء في النهاية. كان من الممكن للمنظمات التي لم تكن Copilot قادرة على الوصول إلى أي شيء يستحق السرقة أن تنجو من EchoLeak.

هل مطالب البائع هي حقيقة أو فرضية? حتى البائعون يعترفون بأكثر مما تفعل ورقات البيانات. وجد استطلاع Vectra الخاص بـ 2000 محترف SOC أن الفرق قادرة على التعامل مع 38٪ فقط من التنبيهات التي تُنشئها أدواتهم، مع 60٪ يقولون إن البائعين يبيعون أدوات تُخلق الضوضاء بدلاً من الوضوح، و 50٪ يدعون أن أدواتهم أكثر عائقًا من المساعدة. عندما يُبلغ العملاء في الصناعة عن ذلك، “ثق في ورقة البيانات” ي停止 كونه استراتيجية.

النمط يبقى بعد التصحيح

تم إصلاح EchoLeak في يوم التصحيح. النمط الذي أظهره، وهو حاجز أمان يفلتر الباب الأمامي بثقة بينما يأتي الهجوم من فتحة البريد، لم يُصلح، ويقول السجل البحثي أعلاه إنه لن يُصلح قريبًا.

تتمثل تمييز Schneier في السبعة عشر عامًا الماضية، ولم يكن من قبل أكثر تكلفة للاهمال. الشعور بالأمان هو منتج، وبيئة الإصطناعي تبيعه في فئات الاشتراك. واقع الأمان هو قياس، ولا أحد يمكنه بيعه لك، لأنك يجب أن تذهب وتأخذه.