Étude montre que les modèles d’IA ne correspondent pas au traitement visuel humain

Une nouvelle étude de l’Université York montre que les réseaux de neurones convolutionnels profonds (DCNN) ne correspondent pas au traitement visuel humain en utilisant la perception de forme configurale. Selon le professeur James Elder, co-auteur de l’étude, cela pourrait avoir des implications réelles et dangereuses pour les applications d’IA. 

La nouvelle étude intitulée « Les modèles d’apprentissage profond échouent à capturer la nature configurale de la perception de forme humaine » a été publiée dans la revue Cell Press iScience. 

Il s’agit d’une étude collaborative menée par Elder, qui occupe la chaire de recherche de l’Université York en vision humaine et informatique, ainsi que le poste de co-directeur du Centre pour l’IA et la société de l’Université York, et le professeur Nicholas Baker, qui est professeur adjoint de psychologie et ancien boursier postdoctoral VISTA à l’Université York.

Stimuli visuels novateurs « Frankenstein »

L’équipe s’est appuyée sur des stimuli visuels novateurs appelés « Frankenstein », qui les ont aidés à explorer la façon dont le cerveau humain et les DCNN traitent les propriétés d’objets holistiques et configurales. 

« Les Frankenstein sont simplement des objets qui ont été démontés et remontés de la mauvaise manière », explique Elder. « En conséquence, ils ont toutes les bonnes caractéristiques locales, mais aux mauvaises places. » 

L’étude a montré que les DCNN ne sont pas trompés par les Frankenstein comme le système visuel humain. Cela révèle une insensibilité aux propriétés d’objets configurales. 

« Nos résultats expliquent pourquoi les modèles d’IA profonds échouent dans certaines conditions et soulignent la nécessité de considérer des tâches au-delà de la reconnaissance d’objets pour comprendre le traitement visuel dans le cerveau », poursuit Elder. « Ces modèles profonds prennent des « raccourcis » lors de la résolution de tâches de reconnaissance complexes. Même si ces raccourcis fonctionnent dans de nombreux cas, ils peuvent être dangereux dans certaines des applications d’IA que nous développons actuellement avec nos partenaires industriels et gouvernementaux. »

Image: Université York

Implications dans le monde réel

Elder affirme que l’une de ces applications concerne les systèmes de sécurité vidéo pour la circulation routière. 

« Les objets dans une scène de circulation routière encombrée — les véhicules, les bicyclettes et les piétons — se cachent les uns les autres et arrivent à l’œil du conducteur comme un mélange de fragments déconnectés », explique-t-il. « Le cerveau a besoin de regrouper correctement ces fragments pour identifier les catégories et les emplacements corrects des objets. Un système d’IA pour la surveillance de la sécurité routière qui n’est capable de percevoir que les fragments individuellement échouera dans cette tâche, risquant de mal comprendre les risques pour les usagers de la route vulnérables. » 

Les chercheurs ajoutent que les modifications apportées à la formation et à l’architecture visant à rendre les réseaux plus similaires au cerveau n’ont pas abouti à un traitement configural. Aucun des réseaux n’a pu prédire avec précision les jugements humains d’objets d’essai à essai. 

« Nous supposons que pour correspondre à la sensibilité configurale humaine, les réseaux doivent être formés pour résoudre un éventail plus large de tâches d’objets au-delà de la reconnaissance de catégorie », conclut Elder.