Studiul arată că modelele de IA nu se potrivesc cu procesarea vizuală umană

Un nou studiu de la Universitatea York arată că rețelele neuronale convolutive profunde (DCNN) nu se potrivesc cu procesarea vizuală umană prin utilizarea percepției configurale a formei. Conform profesorului James Elder, coautor al studiului, acest lucru poate avea implicații reale și periculoase pentru aplicațiile de IA.

Noul studiu, intitulat “Modelele de învățare profundă nu reușesc să capteze natura configurală a percepției umane a formei“, a fost publicat în revista Cell Press iScience.

A fost un studiu colaborativ al lui Elder, care deține Catedra de Cercetare a Universității York în Viziune Umană și Computațională, precum și poziția de Co-Director al Centrului pentru IA și Societate al Universității York, și al profesorului Nicholas Baker, care este asistent de psihologie și fost bursier postdoctoral VISTA la Universitatea York.

Stimuli Vizuali Noi “Frankensteins”

Echipa s-a bazat pe stimuli vizuali noi, denumiți “Frankensteins”, care le-au ajutat să exploreze modul în care atât creierul uman, cât și DCNN procesează proprietățile configurale ale obiectelor.

“Frankensteins sunt pur și simplu obiecte care au fost descompuse și reasamblate în mod greșit”, spune Elder. “Ca urmare, au toate caracteristicile locale corecte, dar în locuri greșite.”

Studiul a constatat că DCNN nu sunt confundate de Frankensteins, la fel ca sistemul vizual uman. Acest lucru revelează o insensibilitate la proprietățile configurale ale obiectelor.

“Rezultatele noastre explică de ce modelele de IA profunde nu reușesc în anumite condiții și subliniază necesitatea de a considera sarcini dincolo de recunoașterea obiectelor pentru a înțelege procesarea vizuală în creier”, continuă Elder. “Aceste modele profunde tind să ia “scurtături” atunci când rezolvă sarcini complexe de recunoaștere. Deși aceste scurtături pot funcționa în multe cazuri, pot fi periculoase în unele dintre aplicațiile de IA pe care le dezvoltăm în prezent cu partenerii noștri din industrie și guvern.”

Imagine: Universitatea York

Implicații în Lumea Reală

Elder spune că una dintre aceste aplicații este sistemul de siguranță a traficului video.

“Obiectele dintr-o scenă de trafic aglomerat – vehiculele, bicicletele și pietonii – se obstrucționează reciproc și ajung la ochiul șoferului sub forma unui amestec de fragmente desconectate”, spune el. “Creierul are nevoie să grupeze corect aceste fragmente pentru a identifica categoriile și locațiile corecte ale obiectelor. Un sistem de IA pentru monitorizarea siguranței traficului care poate percepe doar fragmentele individual nu va reuși în această sarcină, putând să înțeleagă greșit riscurile pentru utilizatorii vulnerabili ai drumului.”

Cercetătorii spun, de asemenea, că modificările aduse pentru a face rețelele mai asemănătoare cu creierul nu au atins procesarea configurală. Niciuna dintre rețele nu a putut să prevadă cu acuratețe judecățile umane obiective de la încercare la încercare.

“Speculăm că, pentru a se potrivi cu sensibilitatea configurală umană, rețelele trebuie să fie antrenate pentru a rezolva o gamă mai largă de sarcini de obiecte dincolo de recunoașterea categoriilor”, concluzionează Elder.