Modele și platforme AI

Studiul arată că modelele de IA nu se potrivesc cu procesarea vizuală umană

Alex McFarland
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieModelele de vedere AI nu reușesc să înțeleagă formele obiectelor în mod holistic, spre…
Vezi mai mult
  • Modelele de vedere AI nu reușesc să înțeleagă formele obiectelor în mod holistic, spre deosebire de percepția umană.
  • Acest defect ar putea interpreta greșit și periculos riscurile în aplicații reale, cum ar fi siguranța rutieră.
  • Antrenarea rețelelor pe sarcini mai largi, dincolo de simpla recunoaștere, ar putea fi necesară.

Un nou studiu de la Universitatea York arată că rețelele neuronale convolutive profunde (DCNN) nu se potrivesc cu procesarea vizuală umană prin utilizarea percepției configurale a formei. Conform profesorului James Elder, coautor al studiului, acest lucru poate avea consecințe grave și periculoase în aplicații reale pentru aplicațiile de IA.

Noul studiu, intitulat “Modelele de învățare profundă nu reușesc să capteze natura configurală a percepției umane a formei“, a fost publicat în revista Cell Press iScience.

A fost un studiu colaborativ al lui Elder, care deține Catedra de Cercetare a Universității York în Viziune Umană și Computațională, precum și poziția de Co-Director al Centrului pentru IA și Societate al Universității York, și al profesorului Nicholas Baker, care este profesor asistent de psihologie și fost bursier postdoctoral VISTA la Universitatea York.

Stimuli Vizuali Noi “Frankensteins”

Echipa s-a bazat pe stimuli vizuali noi, denumiți “Frankensteins”, care le-au ajutat să exploreze modul în care atât creierul uman, cât și DCNN procesează proprietățile holistice și configurale ale obiectelor.

“Frankensteins sunt pur și simplu obiecte care au fost descompuse și reasamblate în mod greșit”, spune Elder. “Ca urmare, au toate caracteristicile locale corecte, dar în locuri greșite.”

Studiul a constatat că spre deosebire de sistemul vizual uman, DCNN nu sunt derutate de Frankensteins. Acest lucru revelează o insensibilitate la proprietățile configurale ale obiectelor.

“Rezultatele noastre explică de ce modelele de IA profunde nu reușesc în anumite condiții și subliniază necesitatea de a considera sarcini dincolo de recunoașterea obiectelor pentru a înțelege procesarea vizuală în creier”, continuă Elder. “Aceste modele profunde tind să ia “scurtături” atunci când rezolvă sarcini complexe de recunoaștere. Deși aceste scurtături pot funcționa în multe cazuri, pot fi periculoase în unele dintre aplicațiile de IA pe care le dezvoltăm în prezent cu partenerii noștri din industrie și guvern.”

Imagine: Universitatea York

Implicații în Lumea Reală

Elder spune că una dintre aceste aplicații este sistemele video de siguranță rutieră.

“Obiectele dintr-o scenă de trafic aglomerat – vehiculele, bicicletele și pietonii – se obstrucționează reciproc și ajung la ochiul șoferului sub forma unui amestec de fragmente desconectate”, spune el. “Creierul are nevoie să grupeze corect aceste fragmente pentru a identifica categoriile și locațiile corecte ale obiectelor. Un sistem de IA pentru monitorizarea siguranței traficului care poate percepe doar fragmentele individual nu va reuși în această sarcină, putând să înțeleagă greșit riscurile pentru utilizatorii vulnerabili ai drumului.”

Cercetătorii spun, de asemenea, că modificările aduse antrenării și arhitecturii pentru a face rețelele mai asemănătoare cu creierul nu au atins procesarea configurală. Niciuna dintre rețele nu a putut să prevadă cu acuratețe evaluările umane ale obiectelor la nivelul fiecărei încercări.

“Speculăm că, pentru a se potrivi cu sensibilitatea configurală umană, rețelele trebuie să fie antrenate pentru a rezolva o gamă mai largă de sarcini de obiecte dincolo de recunoașterea categoriilor”, concluzionează Elder.

Alex conduce operațiunile de știri alimentate de AI ale Unite.AI, combinând jurnalismul, cercetarea și automatizarea pentru a susține o acoperire rapidă și scalabilă a inteligenței artificiale. Munca sa ajută la asigurarea că dezvoltările emergente ale AI sunt aduse la lumină eficient, menținând standardele editoriale ale publicației.