دراسة جديدة تكشف النقاب عن نقاط الضعف الخفية في الذكاء الاصطناعي

في المناظر الطبيعية سريعة التطور للذكاء الاصطناعي، تتمثل الوعد بالتغييرات التحويلية في مجموعة متنوعة من المجالات، من الآمال الثورية لمركبات ذاتية القيادة التي تغير النقل إلى استخدام الذكاء الاصطناعي المتقدم في تفسير الصور الطبية المعقدة. لم تكن تقدم تقنيات الذكاء الاصطناعي أقل من نهضة رقمية، حيث تحمل مستقبلاً غنيًا بالفرص والتقدم.

然而، تسلط دراسة حديثة الضوء على جانب قلق لم يكن موضع اهتمام في كثير من الأحيان: زيادة ضعف أنظمة الذكاء الاصطناعي للهجمات المعادية المستهدفة. هذا الكشف يثير تساؤلات حول متانة تطبيقات الذكاء الاصطناعي في المجالات الحيوية ويلفت الانتباه إلى الحاجة إلى فهم أعمق لهذه النقاط الضعف.

مفهوم الهجمات المعادية

الهجمات المعادية في مجال الذكاء الاصطناعي هي نوع من التهديدات السيبرانية حيث يقوم المهاجمون عمدًا بتحريف بيانات الإدخال لنظام الذكاء الاصطناعي لخداعه لاتخاذ قرارات أو تصنيفات خاطئة. هذه الهجمات تستغل الضعف الجوهري في طريقة خوارزميات الذكاء الاصطناعي لمعالجة وتفسير البيانات.

على سبيل المثال، يمكن اعتبار مركبة ذاتية القيادة تعتمد على الذكاء الاصطناعي لتحديد علامات المرور. يمكن أن تكون الهجوم المعادي بسيطًا مثل وضع ملصق مصمم خصيصًا على علامة وقف، مما يؤدي إلى تفسير الخاطئ من قبل الذكاء الاصطناعي، مما قد يؤدي إلى عواقب مأساوية. وبالمثل، في مجال الطب، يمكن لمهاجم تحريف البيانات التي يتم تغذيتها إلى نظام الذكاء الاصطناعي الذي يفحص صور الأشعة السينية، مما يؤدي إلى تشخيصات خاطئة. هذه الأمثلة تبرز الطبيعة الحيوية لهذه النقاط الضعف، خاصة في التطبيقات التي تكون فيها السلامة وحياة البشر على المحك.

نتائج الدراسة المقلقة

تناولت الدراسة، التي شارك في كتابتها تيانفو وو، أستاذ مساعد في الهندسة الكهربائية والحاسوب في جامعة ولاية كارولينا الشمالية، انتشار هذه النقاط الضعف المعادية، وكشفت أن هذه الهجمات أكثر شيوعًا مما كان يعتقد في السابق. هذا الكشف يثير قلقًا خاصًا نظرًا لزيادة اندماج الذكاء الاصطناعي في التكنولوجيا الحيوية واليومية.

يبرز وو خطورة هذه الحالة، قائلاً: “يمكن للمهاجمين الاستفادة من هذه النقاط الضعف لجعل الذكاء الاصطناعي يفسر البيانات على أنها ما يريدون. هذا أمر بالغ الأهمية لأن إذا لم يكن نظام الذكاء الاصطناعي متينًا ضد هذه الهجمات، فلا تريد وضع النظام في الاستخدام العملي – خاصة في التطبيقات التي يمكن أن تؤثر على حياة البشر.”

QuadAttacK: أداة لفك تغطية النقاط الضعف

استجابةً لنتائج الدراسة، طور وو وفريقه QuadAttacK، وهو برنامج رائد مصمم لاختبار الشبكات العصبية العميقة بشكل منهجي على النقاط الضعف المعادية. يعمل QuadAttacK من خلال مراقبة استجابة نظام الذكاء الاصطناعي للبيانات النظيفة و学习 كيفية اتخاذ القرارات. ثم يُعدل البيانات لاختبار ضعف النظام.

يوضح وو، “ي观察 QuadAttacK هذه العمليات ويتعلم كيف يأخذ الذكاء الاصطناعي القرارات المتعلقة بالبيانات. هذا يسمح لQuadAttacK بتحديد كيف يمكن تحريف البيانات لخداع الذكاء الاصطناعي.”

في اختبار概念 البرهان، تم استخدام QuadAttacK لتقييم أربعة شبكات عصبية شائعة الاستخدام. كانت النتائج مدهشة.

يقول وو، “كنا مستائين للاكتشاف أن جميع هذه الشبكات الأربعة كانت معرضة للغاية للهجمات المعادية”، مما يبرز مشكلة حيوية في مجال الذكاء الاصطناعي.

تخدم هذه النتائج كدعوة للاستيقاظ للمجتمع البحثي في الذكاء الاصطناعي والصناعات التي تعتمد على تقنيات الذكاء الاصطناعي. لا تطرح النقاط الضعف التي تم الكشف عنها فقط مخاطر على التطبيقات الحالية، بل تشكك أيضًا في نشر أنظمة الذكاء الاصطناعي في المناطق الحساسة في المستقبل.

دعوة إلى العمل للمجتمع الاصطناعي

تعد إتاحة QuadAttacK بشكل عام خطوة كبيرة نحو جهود البحث والتطوير في تأمين أنظمة الذكاء الاصطناعي. من خلال جعل هذه الأداة متاحة، قدم وو وفريقه موردًا قيمًا للباحثين والمطورين لتحديد ومعالجة النقاط الضعف في أنظمتهم.

تُقدم نتائج الفريق البحثي وأداة QuadAttacK في مؤتمر نظام معالجة المعلومات العصبية (NeurIPS 2023). المؤلف الرئيسي للورقة هو توماس بانياغوا، طالب دكتوراه في جامعة ولاية كارولينا الشمالية، إلى جانب المؤلف المشارك ريان جراينجر، أيضًا طالب دكتوراه في الجامعة. هذه العرضة ليست مجرد تمرين أكاديمي، بل هي دعوة إلى العمل للمجتمع العالمي للذكاء الاصطناعي لجعل الأمان في تطوير الذكاء الاصطناعي أولوية.

نحن واقفون عند مفترق طرق بين 혁신 الذكاء الاصطناعي والأمان، يعمل فريق وو وشركاؤه على تقديم تحذير وخرائط طريق لمستقبل يمكن أن يكون فيه الذكاء الاصطناعي قويًا وأمنًا. الرحلة القادمة معقدة ولكنها ضرورية لدمج الذكاء الاصطناعي بشكل مستدام في نسيج مجتمعنا الرقمي.

لقد جعل الفريق QuadAttacK متاحًا للجمهور. يمكنك العثور عليه هنا: https://thomaspaniagua.github.io/quadattack_web/