افتراضات شائعة حول عيوب التعلم الآلي قد تكون خاطئة

الشبكات العصبية العميقة هي واحدة من أهم الجوانب في الذكاء الاصطناعي (AI)، حيث يتم استخدامها لمعالجة الصور والبيانات من خلال النمذجة الرياضية. وهي مسؤولة عن بعض أكبر الإنجازات في هذا المجال، ولكنها أيضًا تعطّل بطرق مختلفة. يمكن أن يكون لهذه العيوب تأثير صغير أو غير موجود، مثل سوء التعرف على الصور، أو تأثير دراماتيكي وقاتل، مثل عطل في السيارات ذاتية القيادة.

أظهرت الأبحاث الجديدة التي أجريت في جامعة هيوستن أن افتراضاتنا الشائعة حول هذه العيوب قد تكون خاطئة، مما قد يساعد في تقييم موثوقية الشبكات في المستقبل.

نشرت الورقة البحثية في Nature Machine Intelligence في نوفمبر.

أمثلة معارضة

التعلم الآلي وأنواع أخرى من الذكاء الاصطناعي هي أساسية في العديد من القطاعات والمهام، مثل الأنظمة المصرفية وأمن المعلومات. وفقًا لكميرون باكنر، أستاذ مساعد في الفلسفة في جامعة هيوستن، يجب أن ن理解 الفشل الناجم عن “الأمثلة المعارضة”. تحدث هذه الأمثلة المعارضة عندما يخطئ نظام الشبكة العصبية العميقة في تحليل الصور والبيانات عند مواجهة معلومات خارج المدخلات المستخدمة في تطوير الشبكة.

نادرًا ما تحدث الأمثلة المعارضة، لأنها غالبًا ما يتم إنشاؤها أو اكتشافها بواسطة شبكة تعلم آلي أخرى.

قال باكنر: “بعض هذه الأحداث المعارضة يمكن أن تكون عوضاً عن ذلك آثاراً، ونحن بحاجة إلى معرفة ما هي هذه الآثار جيدًا لكي نعرف كيف موثوقية هذه الشبكات”.

يقول باكنر إن العطل يمكن أن يكون ناتجًا عن التفاعل بين الأنماط الفعلية وما تقصده الشبكة لمعالجته، مما يعني أنه ليس خطأً كاملاً.

الأنماط كآثار

قال باكنر: “فهم الآثار للأمثلة المعارضة يتطلب استكشاف إمكانية وجود بعض هذه الأنماط كآثار”. “لذلك، هناك حاليًا تكاليف في إهمال هذه الأنماط وخطورة في استخدامها بلا مبالاة”.

على الرغم من أن هذا ليس هو الحال دائمًا، إلا أن التخريب المتعمد هو أعلى خطر متعلق بهذه الأحداث المعارضة التي تسبب عيوبًا في التعلم الآلي.

قال باكنر: “يعني ذلك أن الجهات الخبيثة يمكن أن تضلل الأنظمة التي تعتمد على شبكة موثوقة بشكل عام”. “هذا له تطبيقات أمنية”.

يمكن أن يكون هذا اختراقًا لجهات خبيثة لأنظمة الأمان التي تعتمد على تقنية التعرف على الوجوه، أو إشارات مرور خاطئة لتضليل المركبات ذاتية القيادة.

أظهرت الأبحاث السابقة أن بعض الأمثلة المعارضة تحدث بشكل طبيعي، عندما يفسر نظام التعلم الآلي البيانات من خلال تفاعل غير متوقع، وهو مختلف عن الأخطاء في البيانات. هذه الأمثلة المعارضة الناتجة بشكل طبيعي نادرة، والطريقة الحالية الوحيدة لاكتشافها هي من خلال الذكاء الاصطناعي.

然而، يقول باكنر إن الباحثين بحاجة إلى إعادة التفكير في كيفية معالجتهم للشذوذ.

يوضح باكنر هذه الشذوذات أو الآثار من خلال تشبيهها بضوء الفلاش في الصورة، الذي لا يعود إلى عيب في عدسة الكاميرا، ولكن إلى تفاعل الضوء مع الكاميرا.

إذا كنت تعرف كيف تفسر ضوء الفلاش، يمكنك استخراج معلومات هامة مثل موقع الشمس. وبالتالي، يعتقد باكنر أنه من الممكن استخراج معلومات قيمة بنفس القدر من الأحداث المعاكسة في التعلم الآلي التي تسببها الآثار.

يقول باكنر أيضًا أن كل هذا لا يعني تلقائيًا أن التعلم العميق ليس صحيحًا.

قال: “بعض هذه الأحداث المعارضة يمكن أن تكون آثاراً، ونحن بحاجة إلى معرفة ما هي هذه الآثار حتى نعرف كيف موثوقية هذه الشبكات”.

باكنر يقول أن كل هذا لا يعني أن التعلم العميق ليس صحيحًا.

“بعض هذه الأحداث المعارضة يمكن أن تكون آثاراً”، قال. “نحن بحاجة إلى معرفة ما هي هذه الآثار حتى نعرف كيف موثوقية هذه الشبكات”.