Modelli e piattaforme di IA
Studio dimostra che i modelli di intelligenza artificiale non eguagliano l’elaborazione visiva umana
Punti chiaveI modelli di visione AI non riescono a cogliere le forme olistiche degli oggetti, a…
Vedi di più
- I modelli di visione AI non riescono a cogliere le forme olistiche degli oggetti, a differenza della percezione umana.
- Questo difetto potrebbe portare a una pericolosa interpretazione errata dei rischi in applicazioni reali come la sicurezza stradale.
- Potrebbe essere necessario addestrare le reti su compiti più ampi, andando oltre il semplice riconoscimento.
Uno studio recente dell’Università di York mostra che le reti neurali convoluzionali profonde (DCNN) non eguagliano l’elaborazione visiva umana utilizzando la percezione della forma configurale. Secondo il professor James Elder, coautore dello studio, ciò potrebbe avere gravi e pericolose implicazioni nel mondo reale per le applicazioni di intelligenza artificiale.
Lo studio intitolato “I modelli di apprendimento profondo non riescono a catturare la natura configurale della percezione della forma umana” è stato pubblicato sulla rivista Cell Press iScience.
Si tratta di uno studio collaborativo condotto da Elder, che detiene la cattedra di ricerca dell’Università di York in Visione Umana e Computazionale, nonché la posizione di co-direttore del Centro di York per l’Intelligenza Artificiale e la Società, e dal professor Nicholas Baker, che è un assistente professore di psicologia e un ex borsista post-dottorato VISTA presso l’Università di York.
Stimoli Visivi Novelli “Frankensteins”
Il team si è affidato a stimoli visivi novelli chiamati “Frankensteins”, che li hanno aiutati a esplorare come sia il cervello umano che le DCNN elaborino le proprietà olistiche e configurali degli oggetti.
“I Frankensteins sono semplicemente oggetti che sono stati smontati e rimontati nel modo sbagliato”, dice Elder. “Di conseguenza, hanno tutte le caratteristiche locali corrette, ma nei posti sbagliati”.
Lo studio ha scoperto che le DCNN non sono confuse dai Frankensteins come il sistema visivo umano. Ciò rivela un’insensibilità alle proprietà configurali degli oggetti.
“I nostri risultati spiegano perché i modelli di intelligenza artificiale profondi falliscono in determinate condizioni e indicano la necessità di considerare compiti al di là del riconoscimento degli oggetti per comprendere l’elaborazione visiva nel cervello”, continua Elder. “Questi modelli tendono a prendere ‘scorciatoie’ quando risolvono compiti di riconoscimento complessi. Sebbene queste scorciatoie possano funzionare in molti casi, possono essere pericolose in alcune delle applicazioni di intelligenza artificiale su cui stiamo attualmente lavorando con i nostri partner industriali e governativi”.

Immagine: Università di York
Implicazioni nel Mondo Reale
Elder afferma che una di queste applicazioni è il sistema di sicurezza video per il traffico.
“Gli oggetti in una scena di traffico affollata – i veicoli, le biciclette e i pedoni – si ostruiscono a vicenda e arrivano all’occhio di un guidatore come un mucchio di frammenti disconnessi”, dice. “Il cervello ha bisogno di raggruppare correttamente questi frammenti per identificare le categorie e le posizioni corrette degli oggetti. Un sistema di intelligenza artificiale per il monitoraggio della sicurezza del traffico che è in grado di percepire solo i frammenti individualmente fallirà in questo compito, potenzialmente fraintendendo i rischi per gli utenti della strada vulnerabili”.
I ricercatori affermano inoltre che le modifiche all’addestramento e all’architettura finalizzate a rendere le reti più simili al cervello non hanno raggiunto l’elaborazione configurale. Nessuna delle reti è stata in grado di prevedere con precisione i giudizi umani sugli oggetti in ciascuna singola prova.
“Speculiamo che per eguagliare la sensibilità configurale umana, le reti debbano essere addestrate per risolvere una gamma più ampia di compiti riguardanti gli oggetti al di là del riconoscimento delle categorie”, conclude Elder












