دراسة جديدة تكشف عن نقاط الضعف الخفية في الذكاء الاصطناعي

في مشهد الذكاء الاصطناعي سريع التطور، يمتد الوعد بالتغييرات التحويلية عبر عدد لا يحصى من المجالات، بدءًا من الآفاق الثورية للمركبات ذاتية القيادة التي تعيد تشكيل وسائل النقل إلى الاستخدام المتطور للذكاء الاصطناعي في تفسير الصور الطبية المعقدة. لم يكن التقدم في تقنيات الذكاء الاصطناعي أقل من نهضة رقمية، تبشر بمستقبل مليء بالإمكانيات والتطورات.

ومع ذلك، تسلط دراسة حديثة الضوء على جانب مثير للقلق غالبًا ما يتم التغاضي عنه: وهو زيادة ضعف أنظمة الذكاء الاصطناعي أمام الهجمات العدائية المستهدفة. يدعو هذا الكشف إلى التشكيك في قوة تطبيقات الذكاء الاصطناعي في المجالات الحيوية ويسلط الضوء على الحاجة إلى فهم أعمق لنقاط الضعف هذه.

مفهوم الهجمات العدائية

تعد الهجمات العدائية في عالم الذكاء الاصطناعي نوعًا من التهديد السيبراني حيث يتلاعب المهاجمون عمدًا ببيانات الإدخال الخاصة بنظام الذكاء الاصطناعي لخداعه لاتخاذ قرارات أو تصنيفات غير صحيحة. تستغل هذه الهجمات نقاط الضعف الكامنة في الطريقة التي تعالج بها خوارزميات الذكاء الاصطناعي البيانات وتفسرها.

على سبيل المثال، فكر في مركبة ذاتية القيادة تعتمد على الذكاء الاصطناعي للتعرف على إشارات المرور. يمكن أن يكون الهجوم العدائي بسيطًا مثل وضع ملصق مصمم خصيصًا على علامة التوقف، مما يتسبب في إساءة تفسيرها بواسطة الذكاء الاصطناعي، مما قد يؤدي إلى عواقب وخيمة. وبالمثل، في المجال الطبي، يمكن للهاكر أن يغير بمهارة البيانات التي يتم إدخالها إلى نظام الذكاء الاصطناعي الذي يحلل صور الأشعة السينية، مما يؤدي إلى تشخيصات غير صحيحة. وتؤكد هذه الأمثلة على الطبيعة الحرجة لنقاط الضعف هذه، خاصة في التطبيقات التي تكون فيها السلامة وحياة الإنسان معرضة للخطر.

نتائج الدراسة مثيرة للقلق

الدراسة، التي شارك في تأليفها تيانفو وو، وهو مساعد. أستاذ الهندسة الكهربائية وهندسة الكمبيوتر في جامعة ولاية كارولينا الشمالية، بحث في مدى انتشار نقاط الضعف العدائية هذه، واكتشف أنها أكثر شيوعًا بكثير مما كان يعتقد سابقًا. وهذا الكشف مثير للقلق بشكل خاص بالنظر إلى التكامل المتزايد للذكاء الاصطناعي في التقنيات الحيوية واليومية.

يسلط وو الضوء على خطورة هذا الموقف، قائلاً: "يمكن للمهاجمين الاستفادة من نقاط الضعف هذه لإجبار الذكاء الاصطناعي على تفسير البيانات لتكون كما يريدون. وهذا أمر مهم للغاية لأنه إذا لم يكن نظام الذكاء الاصطناعي قويًا ضد هذه الأنواع من الهجمات، فلن ترغب في وضع النظام موضع الاستخدام العملي - خاصة بالنسبة للتطبيقات التي يمكن أن تؤثر على حياة البشر.

QuadAttacK: أداة لكشف نقاط الضعف

واستجابة لهذه النتائج، قام وو وفريقه بتطوير برنامج QuadAttacK، وهو برنامج رائد مصمم لاختبار الشبكات العصبية العميقة بشكل منهجي بحثًا عن نقاط الضعف العدائية. QuadAttacK يعمل من خلال مراقبة استجابة نظام الذكاء الاصطناعي للبيانات النظيفة ومعرفة كيفية اتخاذ القرارات. ثم يقوم بمعالجة البيانات لاختبار مدى ضعف الذكاء الاصطناعي.

يوضح وو "QuadAttacK يراقب هذه العمليات ويتعلم كيف يتخذ الذكاء الاصطناعي القرارات المتعلقة بالبيانات. وهذا يسمح لـ QuadAttacK لتحديد كيفية التلاعب بالبيانات لخداع الذكاء الاصطناعي.

في اختبار إثبات المفهوم، QuadAttacK تم استخدامه لتقييم أربع شبكات عصبية مستخدمة على نطاق واسع. وكانت النتائج مذهلة.

يقول وو، مسلطًا الضوء على قضية بالغة الأهمية في مجال الذكاء الاصطناعي: "لقد فوجئنا بأن جميع هذه الشبكات الأربع كانت معرضة بشدة للهجمات العدائية".

تعتبر هذه النتائج بمثابة دعوة للاستيقاظ لمجتمع أبحاث الذكاء الاصطناعي والصناعات التي تعتمد على تقنيات الذكاء الاصطناعي. لا تشكل نقاط الضعف المكتشفة مخاطر على التطبيقات الحالية فحسب، بل تلقي بظلال من الشك على النشر المستقبلي لأنظمة الذكاء الاصطناعي في المناطق الحساسة.

دعوة للعمل من أجل مجتمع الذكاء الاصطناعي

التوفر العام لـ QuadAttacK يمثل خطوة مهمة نحو جهود البحث والتطوير الأوسع في تأمين أنظمة الذكاء الاصطناعي. ومن خلال إتاحة هذه الأداة، قدم وو وفريقه موردًا قيمًا للباحثين والمطورين لتحديد ومعالجة نقاط الضعف في أنظمة الذكاء الاصطناعي الخاصة بهم.

النتائج التي توصل إليها فريق البحث وQuadAttacK يتم تقديم الأداة في مؤتمر أنظمة معالجة المعلومات العصبية (نيوربس 2023). المؤلف الرئيسي لهذه الورقة هو توماس بانياغوا، دكتوراه. طالب في ولاية نورث كارولاينا، جنبًا إلى جنب مع المؤلف المشارك ريان غرينجر، وهو أيضًا حاصل على درجة الدكتوراه. طالب في الجامعة. هذا العرض ليس مجرد تمرين أكاديمي ولكنه دعوة للعمل لمجتمع الذكاء الاصطناعي العالمي لإعطاء الأولوية للأمن في تطوير الذكاء الاصطناعي.

وبينما نقف على مفترق طرق الابتكار والأمن في مجال الذكاء الاصطناعي، فإن عمل وو ومعاونيه يقدم قصة تحذيرية وخريطة طريق لمستقبل حيث يمكن أن يكون الذكاء الاصطناعي قويًا وآمنًا. إن الرحلة المقبلة معقدة ولكنها ضرورية للتكامل المستدام للذكاء الاصطناعي في نسيج مجتمعنا الرقمي.

لقد صنع الفريق QuadAttacK متاح للعامة. يمكنك العثور عليها هنا: https://thomaspaniagua.github.io/quadattack_web/