Studio dimostra che i modelli di intelligenza artificiale non eguagliano l’elaborazione visiva umana

Uno studio recente dell’Università di York mostra che le reti neurali convoluzionali profonde (DCNN) non eguagliano l’elaborazione visiva umana utilizzando la percezione della forma configurale. Secondo il professor James Elder, coautore dello studio, ciò potrebbe avere gravi e pericolose implicazioni nel mondo reale per le applicazioni di intelligenza artificiale.

Lo studio intitolato “I modelli di apprendimento profondo non riescono a catturare la natura configurale della percezione della forma umana” è stato pubblicato sulla rivista Cell Press iScience.

Si tratta di uno studio collaborativo condotto da Elder, che detiene la cattedra di ricerca dell’Università di York in Visione Umana e Computazionale, nonché la posizione di co-direttore del Centro di York per l’Intelligenza Artificiale e la Società, e dal professor Nicholas Baker, che è un assistente professore di psicologia e un ex borsista post-dottorato VISTA presso l’Università di York.

Stimoli Visivi Novelli “Frankensteins”

Il team si è affidato a stimoli visivi novelli chiamati “Frankensteins”, che li hanno aiutati a esplorare come sia il cervello umano che le DCNN elaborino le proprietà oggettive olistiche e configurali.

“I Frankensteins sono semplicemente oggetti che sono stati smontati e rimontati nel modo sbagliato”, dice Elder. “Di conseguenza, hanno tutte le caratteristiche locali corrette, ma nei posti sbagliati”.

Lo studio ha scoperto che le DCNN non sono confuse dai Frankensteins come il sistema visivo umano. Ciò rivela un’insensibilità alle proprietà configurali degli oggetti.

“I nostri risultati spiegano perché i modelli di intelligenza artificiale profondi falliscono in determinate condizioni e indicano la necessità di considerare compiti al di là del riconoscimento degli oggetti per comprendere l’elaborazione visiva nel cervello”, continua Elder. “Questi modelli tendono a prendere ‘scorciatoie’ quando risolvono compiti di riconoscimento complessi. Sebbene queste scorciatoie possano funzionare in molti casi, possono essere pericolose in alcune delle applicazioni di intelligenza artificiale che stiamo attualmente lavorando con i nostri partner industriali e governativi”.

Immagine: Università di York

Implicazioni nel Mondo Reale

Elder afferma che una di queste applicazioni è il sistema di sicurezza video per il traffico.

“Gli oggetti in una scena di traffico affollata – i veicoli, le biciclette e i pedoni – si ostruiscono a vicenda e arrivano all’occhio di un guidatore come un mucchio di frammenti disconnessi”, dice. “Il cervello ha bisogno di raggruppare correttamente questi frammenti per identificare le categorie e le posizioni corrette degli oggetti. Un sistema di intelligenza artificiale per il monitoraggio della sicurezza del traffico che è in grado di percepire solo i frammenti individualmente fallirà in questo compito, potenzialmente fraintendendo i rischi per gli utenti della strada vulnerabili”.

I ricercatori affermano inoltre che le modifiche all’addestramento e all’architettura finalizzate a rendere le reti più simili al cervello non hanno raggiunto l’elaborazione configurale. Nessuna delle reti è stata in grado di prevedere con precisione i giudizi oggettivi umani trial-per-trial.

“Speculiamo che per eguagliare la sensibilità configurale umana, le reti debbano essere addestrate per risolvere una gamma più ampia di compiti oggettivi al di là del riconoscimento delle categorie”, conclude Elder