دراسة جديدة تكشف النقاب عن نقاط الضعف الخفية في الذكاء الاصطناعي

في المناظر الطبيعية سريعة التطور للذكاء الاصطناعي، تتمثل الوعد بالتغييرات التحويلية في مجموعة متنوعة من المجالات، من الآمال الثورية لمركبات ذاتية القيادة التي تغير النقل إلى استخدام الذكاء الاصطناعي المتقدم في تفسير الصور الطبية المعقدة. لم تكن تقدم تقنيات الذكاء الاصطناعي أقل من نهضة رقمية، حيث تحمل مستقبلاً غنيًا بالفرص والتقدم.

ومع ذلك، تسلط دراسة حديثة الضوء على جانب قلق لم يكن موضع اهتمام في كثير من الأحيان: زيادة ضعف أنظمة الذكاء الاصطناعي للهجمات المعادية المستهدفة. هذا الكشف يثير تساؤلات حول متانة تطبيقات الذكاء الاصطناعي في المجالات الحيوية ويلفت الانتباه إلى الحاجة إلى فهم أعمق لهذه النقاط الضعف.

مفهوم الهجمات المعادية

الهجمات المعادية في مجال الذكاء الاصطناعي هي نوع من التهديدات السيبرانية حيث يقوم المهاجمون عمدًا بتحريف بيانات الإدخال لنظام الذكاء الاصطناعي لخداعه لاتخاذ قرارات أو تصنيفات خاطئة. هذه الهجمات تستغل الضعف الجوهري في طريقة خوارزميات الذكاء الاصطناعي لمعالجة وتفسير البيانات.

على سبيل المثال، يمكن اعتبار مركبة ذاتية القيادة تعتمد على الذكاء الاصطناعي لتحديد علامات المرور. يمكن أن تكون الهجوم المعادي بسيطًا مثل وضع ملصق مصمم خصيصًا على علامة وقف، مما يؤدي إلى تفسير الخاطئ من قبل الذكاء الاصطناعي، مما قد يؤدي إلى عواقب مأساوية. وبالمثل، في مجال الطب، يمكن لمهاجم تحريف البيانات التي يتم تغذيتها إلى نظام الذكاء الاصطناعي الذي يفحص صور الأشعة السينية، مما يؤدي إلى تشخيصات خاطئة. هذه الأمثلة تبرز الطبيعة الحيوية لهذه النقاط الضعف، خاصة في التطبيقات التي تكون فيها السلامة وحياة البشر على المحك.

نتائج الدراسة المقلقة

تناولت الدراسة، التي شارك في كتابتها تيانفو وو، أستاذ مشارك في الهندسة الكهربائية وهندسة الحاسوب في جامعة ولاية كارولينا الشمالية، انتشار هذه النقاط الضعف المعادية، وكشفت أن نقاط الضعف هذه أكثر شيوعًا مما كان يعتقد في السابق. هذا الكشف يثير قلقًا خاصًا نظرًا لزيادة اندماج الذكاء الاصطناعي في التقنيات بالغة الأهمية والتقنيات اليومية.

يبرز وو خطورة هذه الحالة، قائلاً: “يمكن للمهاجمين الاستفادة من هذه النقاط الضعف لجعل الذكاء الاصطناعي يفسر البيانات على أنها ما يريدون. هذا أمر بالغ الأهمية لأن إذا لم يكن نظام الذكاء الاصطناعي متينًا ضد هذه الهجمات، فلا تريد وضع النظام في الاستخدام العملي – خاصة في التطبيقات التي يمكن أن تؤثر على حياة البشر.”

QuadAttacK: أداة للكشف عن نقاط الضعف

استجابةً لنتائج الدراسة، طور وو وفريقه QuadAttacK، وهو برنامج رائد مصمم لاختبار الشبكات العصبية العميقة بشكل منهجي على النقاط الضعف المعادية. يعمل QuadAttacK من خلال مراقبة استجابة نظام الذكاء الاصطناعي للبيانات النظيفة وتعلم كيفية اتخاذ القرارات. ثم يُعدل البيانات لاختبار ضعف النظام.

يوضح وو، “يراقب QuadAttacK هذه العمليات ويتعلم كيف يأخذ الذكاء الاصطناعي القرارات المتعلقة بالبيانات. هذا يسمح لQuadAttacK بتحديد كيف يمكن تحريف البيانات لخداع الذكاء الاصطناعي.”

في اختبار إثبات المفهوم، تم استخدام QuadAttacK لتقييم أربعة شبكات عصبية شائعة الاستخدام. كانت النتائج مدهشة.

يقول وو، “فوجئنا باكتشاف أن جميع هذه الشبكات الأربعة كانت معرضة للغاية للهجمات المعادية”، مما يبرز مشكلة حيوية في مجال الذكاء الاصطناعي.

تخدم هذه النتائج كدعوة للاستيقاظ للمجتمع البحثي في الذكاء الاصطناعي والصناعات التي تعتمد على تقنيات الذكاء الاصطناعي. لا تطرح النقاط الضعف التي تم الكشف عنها فقط مخاطر على التطبيقات الحالية، بل تشكك أيضًا في نشر أنظمة الذكاء الاصطناعي في المناطق الحساسة في المستقبل.

دعوة إلى العمل لمجتمع الذكاء الاصطناعي

تعد إتاحة QuadAttacK بشكل عام خطوة كبيرة نحو جهود البحث والتطوير في تأمين أنظمة الذكاء الاصطناعي. من خلال جعل هذه الأداة متاحة، قدم وو وفريقه موردًا قيمًا للباحثين والمطورين لتحديد ومعالجة النقاط الضعف في أنظمتهم.

تُقدم نتائج الفريق البحثي وأداة QuadAttacK في مؤتمر نظم معالجة المعلومات العصبية (NeurIPS 2023). المؤلف الرئيسي للورقة هو توماس بانياغوا، طالب دكتوراه في جامعة ولاية كارولينا الشمالية، إلى جانب المؤلف المشارك ريان جراينجر، أيضًا طالب دكتوراه في الجامعة. هذا العرض ليست مجرد تمرين أكاديمي، بل هي دعوة إلى العمل للمجتمع العالمي للذكاء الاصطناعي لجعل الأمان في تطوير الذكاء الاصطناعي أولوية.

نحن واقفون عند مفترق طرق بين ابتكار الذكاء الاصطناعي والأمان، يعمل فريق وو وشركاؤه على تقديم تحذير وخرائط طريق لمستقبل يمكن أن يكون فيه الذكاء الاصطناعي قويًا وآمنًا. الرحلة القادمة معقدة ولكنها ضرورية لدمج الذكاء الاصطناعي بشكل مستدام في نسيج مجتمعنا الرقمي.

لقد جعل الفريق QuadAttacK متاحًا للجمهور. يمكنك العثور عليه هنا: https://thomaspaniagua.github.io/quadattack_web/