فريق بحث من معهد ماساتشوستس للتكنولوجيا يصمم شبكة ذكاء اصطناعي لمقاومة الأمثلة المعادية

فريق من الباحثين من معهد ماساتشوستس للتكنولوجيا طور خوارزمية تعلم sâu تهدف إلى مساعدة الذكاء الاصطناعي على التعامل مع “الأمثلة المعادية”، والتي يمكن أن تسبب خطأ الذكاء الاصطناعي وتجعله يؤدي أفعالًا خاطئة. يمكن للخوارزمية التي صممها فريق معهد ماساتشوستس للتكنولوجيا أن تساعد أنظمة الذكاء الاصطناعي على الحفاظ على دقتها وتجنب الأخطاء عند مواجهة بيانات محيرة.

تتحليل أنظمة الذكاء الاصطناعي ميزات المدخلات لاتخاذ قرار بشأن كيفية الاستجابة لها. الذكاء الاصطناعي المسؤول عن تشغيل مركبة ذاتية الحكم يجب أن يأخذ البيانات من كاميرات المركبة ويتخذ قرارًا بناءً على البيانات الموجودة في تلك الصور. ومع ذلك، هناك فرصة أن تكون بيانات الصورة التي يتم تحليلها بواسطة الذكاء الاصطناعي ليست تمثيلًا دقيقًا للعالم الحقيقي. يمكن أن يسبب عيب في نظام الكاميرا تغيير بعض البكسل، مما يؤدي إلى استخلاص الذكاء الاصطناعي لاستنتاجات خاطئة بشأن المنهج الصحيح.

المدخلات “المعادية” تشبه الأوهام البصرية لأنظمة الذكاء الاصطناعي. وهي مدخلات تسبب ارتباكًا لأنظمة الذكاء الاصطناعي بطرق معينة. يمكن إنشاء مدخلات معادية بهدف إحداث أخطاء في الذكاء الاصطناعي، من خلال تمثيل البيانات بطريقة تجعل الذكاء الاصطناعي يعتقد أن محتويات المثال شيء مختلف. على سبيل المثال، يمكن إنشاء مثال معادي لنظام رؤية حاسوبية عن طريق إجراء تغييرات طفيفة على صور القطط، مما يؤدي إلى تصنيف الذكاء الاصطناعي بشكل خاطئ للصور على أنها شاشات حاسوب. صمم فريق البحث في معهد ماساتشوستس للتكنولوجيا خوارزمية لمساعدة أنظمة الذكاء الاصطناعي على الحفاظ على درجة من “الشك” بشأن المدخلات التي تتلقاها.

أطلق الباحثون في معهد ماساتشوستس للتكنولوجيا على نهجهم “المتانة المعادية المعتمدة للتعلم العميق التعزيزي”، أو CARRL. يتكون CARRL من شبكة تعلم تعزيزي تقليدية وشبكة عصبونية عميقة تقليدية متصلة ببعضها. يستخدم التعلم التعزيزي مفهوم “المكافآت” لتدريب نموذج، حيث يمنح النموذج مكافأة أكبر كلما اقترب من تحقيق هدفه. يستخدم نموذج التعلم التعزيزي لتدريب شبكة Q العميقة، أو DQN. تعمل شبكات DQN مثل الشبكات العصبونية التقليدية، ولكنها ترتبط أيضًا بقيم المدخلات بمستوى مكافأة، مثل أنظمة التعلم التعزيزي.

يعمل CARRL عن طريق نمذجة مجموعة من القيم المختلفة المحتملة لبيانات المدخلات.

افتراضًا أن الذكاء الاصطناعي يحاول تتبع موقع نقطة داخل صورة أكبر، يعتبر الذكاء الاصطناعي أن موقع النقطة قد يكون نتيجة للتأثير المعادي، ويفكر في المناطق التي يمكن أن تكون فيها النقطة بدلاً من ذلك. ثم يتخذ الشبكة قرارات بناءً على السيناريو الأسوأ لموقع النقطة، ويتقرر الإجراء الذي سينتج عنه أعلى مكافأة في هذا السيناريو الأسوأ.

الطريقة التقليدية لحماية أنظمة الذكاء الاصطناعي من الأمثلة المعادية تتضمن تشغيل إصدارات معدلة قليلاً من صورة المدخلات عبر شبكة الذكاء الاصطناعي لمعرفة ما إذا كانت نفس القرار يتم اتخاذه دائمًا. إذا لم تؤثر التعديلات على الصورة بشكل كبير على النتيجة، فهناك فرصة جيدة أن تكون الشبكة مقاومة للأمثلة المعادية. ومع ذلك، هذه ليست استراتيجية قابلة للتطبيق في السيناريوهات التي يتطلب فيها اتخاذ قرارات سريعة، لأن هذه هي طرق اختبار مكلفة حسابيًا وتستغرق وقتًا طويلاً. لهذا السبب، سعى فريق معهد ماساتشوستس للتكنولوجيا إلى إنشاء شبكة عصبونية قادرة على اتخاذ قرارات بناءً على افتراضات أسوأ حالة، قادرة على العمل في السيناريوهات التي تكون فيها السلامة حرجة.

قام الباحثون في معهد ماساتشوستس للتكنولوجيا بتحليل خوارزمياتهم عن طريق تشغيل الذكاء الاصطناعي في لعبة بونغ. قاموا بتشغيل أمثلة معادية عن طريق تغذية الذكاء الاصطناعي بمثيلات حيث يتم عرض الكرة في مكان أقل على الشاشة مما هي عليه في الواقع.随着 نمو تأثير الأمثلة المعادية، بدأت التقنيات التصحيحية التقليدية في الفشل، بينما تمكنت CARRL من الفوز بمزيد من الألعاب بالمقارنة. كما تم اختبار CARRL في مهمة تجنب الاصطدام. تم تنفيذ المهمة في بيئة افتراضية حيث حاول两个 وكيلان مختلفان تغيير مواقعهما بدون الاصطدام ببعضهما البعض. قام فريق البحث بتغيير إدراك الوكيل الأول للوكيل الثاني، وقام CARRL بنجاح بتحويل الوكيل الأول حول الوكيل الثاني، حتى في ظروف عدم اليقين العالية، على الرغم من أن هناك نقطة أصبحت فيها CARRL أكثر حذرًا وأصبح ي避ي وجهته تمامًا.

على أي حال، أوضح مايكل إيفرت، الباحث في قسم علوم الطيران والفضاء في معهد ماساتشوستس للتكنولوجيا، الذي قاد الدراسة، أن البحث قد يكون له آثار على قدرة الروبوتات على التعامل مع المواقف غير المتوقعة. كما أوضح إيفرت من خلال أخبار معهد ماساتشوستس للتكنولوجيا:

“يمكن للأشخاص أن يكونوا معادين، مثل الوقوف أمام روبوت لمنع حساساته، أو التفاعل معهم، وليس بالضرورة بنوايا جيدة”، يقول إيفرت. “كيف يمكن لروبوت أن يفكر في كل الأشياء التي قد يحاول الناس القيام بها، ومحاولة تجنبهم؟ ما هي أنواع النماذج المعادية التي نريد الدفاع عنها؟ هذا شيء نفكر في كيفية القيام به”.