الأمن السيبراني
DeepKeep يكشف عن “InkJect” ، هجوم جديد على الذكاء الاصطناعي يخفي أوامر خبيثة داخل الصور
أضف Unite.AI إلى مصادرك المفضلة على Google
مع اعتماد الشركات بسرعة للذكاء الاصطناعي المتعدد الذي يمكنه فهم النصوص والصور ، يكتشف الباحثون في الأمن أن هذه القدرات الجديدة تroduce أسطح هجوم جديدة متطورة. وقد كشف شركة DeepKeep الإسرائيلية للآمنة عن تقنية جديدة غير موثقة من قبل تسمى InkJect ، والتي تثبت أن التوجيهات المخفية داخل الصور تبدو أمنة يمكن أن تؤثر على نماذج الرؤية واللغة الرائدة (VLMs) بينما تتجاوز العديد من حواجز الأمان المصممة لوقف هجمات الحقن التقليدية.
وفقًا لبحث DeepKeep ، تتأثر عدة نماذج متطورة اليوم بهذه الضعف ، بما في ذلك GPT-5.2 و GPT-5.4 Mini من OpenAI ، و Claude Sonnet 4.6 و Claude Opus 4.5 من Anthropic. وتكشف النتائج عن نقطة عمياء كبيرة في أمان الذكاء الاصطناعي: بينما استثمرت الصناعة بشكل كبير في حماية التفاعلات النصية ، لم يُمنح الكثير من الاهتمام لطبقة التفكير البصري التي تعمل بشكل متزايد على تشغيل أنظمة الذكاء الاصطناعي الحديثة.
تطور جديد في حقن التوجيه
تحاول هجمات حقن التوجيه التقليدية التلاعب بنموذج الذكاء الاصطناعي من خلال نص مخطط بعناية يغلب على التوجيهات الأصلية. خلال العامين الماضيين ، استثمرت مقدمو الخدمات الرائدة بشكل كبير في الحماية من هذه الهجمات قبل أن تتمكن النماذج من العمل عليها.
يتبع InkJect مسارًا مختلفًا تمامًا. بدلاً من التواصل مباشرة من خلال النص ، يخفي المهاجمون توجيهات خبيثة داخل الصور التي تصبح جزءًا من تدفق عمل الذكاء الاصطناعي. قد تكون هذه الصور مخزنة في مستودعات GitHub العامة أو صفحات الوثائق أو أصول التصميم أو المخططات أو الموارد البصرية الأخرى التي يستخدمها مساعدي الترميز الذكية والوكلاء المستقلون بشكل روتيني أثناء أداء المهام الشرعية. من منظور المستخدم ، لا يبدو شيء غير عادي. يعالج الذكاء الاصطناعي الصورة كجزء آخر من المعلومات السياقية ، غير مدرك أنها تحتوي أيضًا على أوامر مخفية.
استغلال قدرة الذكاء الاصطناعي على الرؤية
ما يجعل InkJect فعالًا بشكل خاص هو أنه يستهدف واحدة من أحدث القدرات في أنظمة الذكاء الاصطناعي الحديثة: الفهم البصري.
تؤدي نماذج الرؤية واللغة عمليات التعرف البصري للمعلومات الضوئية المتطورة كجزء من تفسير الصور ، مما يسمح لها بقراءة النص المضمن في المخططات والصور والصور الفوتوغرافية وتصميمات الواجهة. اكتشف DeepKeep أن هذه القدرات غالبًا ما تتجاوز قدرات أدوات الأمان التقليدية القائمة على التعرف البصري للمعلومات الضوئية المستخدمة لفحص الصور المرفوعة.
وبرهن الباحثون على أن التوجيهات الخبيثة يمكن إخفاؤها باستخدام تقنيات مثل النص الأبيض على خلفية بيضاء ، وكتابة بخط متباين للغاية ، وتشويه المنظور ، وتنسيق خط متغير. في حين فشلت أدوات الفحص الأمنية الحالية في التعرف على هذه الأوامر المخفية ، قامت نماذج الذكاء الاصطناعي بفك شفرتها دون صعوبة. هذا يخلق عدم توازن خطير حيث يخلص برنامج الأمان إلى أن الصورة أمنة بينما يستخرج الذكاء الاصطناعي ويُنفذ أوامر غير مرئية للمستخدم أو برنامج الأمان.
جعل حقن التوجيه غير المباشر يزيد من خطورة التهديد
على عكس العديد من الهجمات الإلكترونية التي تتطلب الوصول المباشر إلى نظام المستهدف ، يعتمد InkJect على ما يصفه الباحثون باسم حقن التوجيه غير المباشر. بدلاً من تحميل صورة خبيثة مباشرة إلى تطبيق الذكاء الاصطناعي ، يضع المهاجم الصورة داخل مستودع أو مورد متاح للجمهور.
في وقت لاحق ، عندما يطلب مطور من مساعد الذكاء الاصطناعي بناء ميزة باستخدام ذلك المستودع أو تحليل محتوياته ، يسترد النموذج الصورة تلقائيًا كجزء من تدفق عمله. تُعالج التوجيهات المخفية جنبًا إلى جنب مع الموارد المشروعة دون أن يدرك المطور أن أوامر إضافية قد دخلت المحادثة.
تكون هذه طريقة الهجوم مثيرة للقلق بشكل خاص لأن وكلاء الذكاء الاصطناعي المستقلين يزيدون بشكل متزايد من استرجاع الموارد الخارجية بشكل مستقل. كل مستودع عام وصفحة وثائق أو مورد مشترك يمكن أن يصبح طريقًا آخر لوصول التوجيهات الخبيثة إلى نظام الذكاء الاصطناعي.
طلب ترميز بسيط مع عواقب خطيرة
أظهر DeepKeep التأثير باستخدام سيناريو لتطوير البرمجيات يبدو روتينيًا تمامًا.
أمر المطور مساعد الذكاء الاصطناعي بإنشاء صفحة ويب إعلامية أساسية. غير مدرك للمطور ، كانت واحدة من الصور المذكورة تحتوي على توجيهات مخفية. بدلاً من إنتاج الصفحة المطلوبة فقط ، أضاف الذكاء الاصطناعي نظام تسجيل دخول كامل العضوية مع بيانات اعتماد المسؤول و منطق التحقق من الصحة الخلفي.
عملت الصفحة بالضبط كما هو متوقع ، مما أعطى المطور لا سببًا للشك في أن رمزًا إضافيًا قد تم إدراجه. بدون فحص أمني مفصل ، كان من الممكن نشر الباب الخلفي غير المصرح به إلى الإنتاج ، مما يوفر للمهاجمين وصولًا إداريًا لم يُطلب علنًا.
يوضح العرض كيف يختلف حقن التوجيه البصري عن الهجمات السابقة على الذكاء الاصطناعي. بدلاً من التأثير فقط على استجابات الدردشة ، يمكن للتوجيهات البصرية المخفية التلاعب بالرموز المولدة ، وإدخال ثغرات أمنية ، وتغيير سير العمل المستقل ، وربما تعرض أنظمة الشركات للخطر.
لماذا تفشل حواجز الذكاء الاصطناعي الحالية في التعرف على الهجوم
يؤكد البحث على نقطة ضعف هيكلية في مشهد أمان الذكاء الاصطناعي الحالي. تم تصميم معظم الحواجز التجارية حول فحص التوجيهات النصية قبل وصولها إلى النموذج. ونتيجة لذلك ، أصبحت المنظمات أكثر فعالية في اكتشاف التوجيهات الخبيثة المكتوبة.
تتبع المدخلات البصرية في كثير من الأحيان مسارًا مختلفًا تمامًا.
وجد DeepKeep أن عدة نماذج متطورة رفضت هجمات متطابقة عندما تم تقديمها كتوجيهات نصية ، ولكنها قبلتها عندما كانت تلك التوجيهات المخفية داخل صورة. في الواقع ، يمكن للمهاجمين تجاوز الحماية ببساطة عن طريق تغيير الوسيلة التي يتم من خلالها تقديم التوجيهات.
كما يصبح هذا الفرق أكثر أهمية مع أصبح الذكاء الاصطناعي المتعدد واجهة افتراضية للتطبيقات الشركات. لا يمكن أن تفترض أنظمة الأمان بعد الآن أن التوجيهات الخطيرة تصل فقط من خلال النص.
لماذا يجب على الشركات الانتباه
يتزامن وقت بحث DeepKeep مع تحول أكبر قيد التنفيذ عبر الذكاء الاصطناعي للشركات. تشير توقعات الصناعة إلى أن الأنظمة المتعددة التي يمكنها فهم الصور والوثائق والفيديو والنص ست trở thành معايير عبر التطوير البرمجي والخدمات المالية والرعاية الصحية والتصنيع والدعم الزبوني وأتمتة الأعمال.
على عكس الدردشات المستهلكة ، تعمل العديد من أنظمة الذكاء الاصطناعي للشركات بامتيازات مرتفعة. إنها تسترد الوثائق الخاصة ، وتكتب البرمجيات ، وتنفذ الأوامر ، وتدعو واجهات برمجة التطبيقات ، وتتفاعل مع البنية التحتية السحابية ، وتحلل الوثائق السرية ، وتتخذ القرارات بشكل متزايد باسم المستخدمين. وبالتالي ، تمثل التوجيهات المخفية داخل المحتوى البصري أكثر من مجرد فضول أكاديمي – إنها تقدم فئة جديدة من مخاطر أمان الشركات القادرة على التأثير على الأنظمة في العالم الحقيقي.
نهج DeepKeep في أمان الذكاء الاصطناعي
تأسست DeepKeep في عام 2021 ، وتركز بشكل حصري على تأمين الذكاء الاصطناعي خلال دورته الحياتية الكاملة ، من تقييم النموذج واختباره إلى نشره وحمايته في وقت التشغيل. بدلاً من التركيز فقط على نماذج اللغة الكبيرة ، تم تصميم منصة الشركة لتأمين أنظمة الذكاء الاصطناعي المتعددة ، والوكلاء المستقلين ، وتطبيقات الرؤية الحاسوبية ، وتنفيذات الذكاء الاصطناعي للشركات.
تجمع منصة الأمان بين طبقات متعددة من الحماية ، بما في ذلك جدار الحماية للذكاء الاصطناعي الذي يراقب الاستدلال في الوقت الفعلي ، واختبار التماسك الآلي للذكاء الاصطناعي الذي يبحث بشكل استباقي عن نقاط الضعف قبل النشر ، وماسح وكيل الذكاء الاصطناعي الذي يفحص سير العمل المستقل لتحديد مسارات الاستغلال ، وقدرات مسح النموذج التي تقيم سلاسل توريد الذكاء الاصطناعي لتحديد المخاطر الأمنية ، وعدسة الذكاء الاصطناعي ، التي توفر للمنظمات رؤية حول كيفية استخدام الموظفين والتطبيقات للذكاء الاصطناعي عبر المؤسسة.
كما يعكس استراتيجية DeepKeep الاعتراف المتزايد بأن تأمين الذكاء الاصطناعي يتطلب حماية كل مرحلة من مراحل كيفية استلام النماذج للمعلومات وعملياتها وتفاعلاتها – وليس فقط تصفية التوجيهات التي يُدخلها المستخدمون.
الحدود التالية في أمان الذكاء الاصطناعي
من المحتمل أن يتم تذكر InkJect بأكثر من مجرد تقنية حقن توجيه أخرى. إنه يبرز كيف يغير تطور الذكاء الاصطناعي المتعدد بسرعة منظر أمان السيبرانية.
كما يصبح النماذج أكثر قدرة على الرؤية والتفكير والاسترجاع والمعالجة المستقلة ، سيبحث المهاجمون بشكل طبيعي عن طرق جديدة لاستغلال كل نمط من أنماط التفكير التي تفهمها هذه الأنظمة. يمكن أن تصبح الصور والمخططات والوثائق والصفحات الإلكترونية والموارد البصرية الأخرى جميعًا مركبات لأوامر مخفية قد لا تكتشفها أدوات الأمان الحالية.
لقد قامت DeepKeep بفضح نتائجها إلى OpenAI و Anthropic ، مما يمنح الشركات فرصة لتعزيز الحماية ضد هذا النوع الجديد من الهجوم. سواء أكانت InkJect أول مثال على فئة أوسع من هجمات حقن التوجيه المتعددة أم لا ، فإن اكتشافها يُذكرنا بأن أمان الذكاء الاصطناعي يجب أن يتطور بسرعة مماثلة لتطور الذكاء الاصطناعي نفسه. كما يتعين على أنظمة الأمان الدفاع عنها ، مع تطور النماذج لتفهم العالم البصري بشكل متزايد.
