AI-modeller och plattformar

Studie visar att AI-modeller inte matchar mänsklig visuell bearbetning

Alex McFarland
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterAI-visionmodeller misslyckas med att förstå helhetsobjektets former till skillnad från…
Visa mer
  • AI-visionmodeller misslyckas med att förstå helhetsobjektets former till skillnad från mänsklig perception.
  • Denna brist kan farligt missbedöma risker i verkliga tillämpningar som trafiksäkerhet.
  • Att träna nätverk på bredare uppgifter utöver enkel igenkänning kan vara nödvändigt.

En ny studie från York University visar att djupa konvolutionsneuronnät (DCNN) inte matchar mänsklig visuell bearbetning genom att använda konfigural formperception. Enligt professor James Elder, medförfattare till studien, kan detta ha allvarliga och farliga konsekvenser i verkliga tillämpningar för AI-applikationer.

Den nya studien med titeln “Deep learning models fail to capture the configural nature of human shape perception” publicerades i Cell Press-tidskriften iScience.

Det var en samarbetsstudie mellan Elder, som innehar York Research Chair in Human and Computer Vision, samt Co-Director för Yorks Center for AI & Society, och professor Nicholas Baker, som är biträdande professor i psykologi och tidigare VISTA-postdoktorand vid York.

Nya visuella stimuli “Frankensteins”

Teamet använde nya visuella stimuli som kallades “Frankensteins”, som hjälpte dem att undersöka hur både den mänskliga hjärnan och DCNN bearbetar holistiska, konfigurala objektegenskaper.

“Frankensteins är bara objekt som har tagits isär och satts ihop på fel sätt”, säger Elder. “Som ett resultat har de alla rätt lokala egenskaper, men på fel platser.”

Studien fann att DCNN inte förvirras av Frankensteins som det mänskliga visuella systemet är. Detta visar en okänslighet för konfigurala objektegenskaper.

“Våra resultat förklarar varför djupa AI-modeller misslyckas under vissa förhållanden och pekar på behovet av att överväga uppgifter utöver objektigenkänning för att förstå visuell bearbetning i hjärnan”, fortsätter Elder. “Dessa djupa modeller tenderar att ta ‘genvägar’ när de löser komplexa igenkänningsuppgifter. Medan dessa genvägar kan fungera i många fall, kan de vara farliga i vissa av de verkliga världens AI-applikationer som vi för närvarande arbetar med våra industri- och regeringspartners.”

Bild: York University

Konsekvenser i verkliga tillämpningar

Elder säger att en av dessa applikationer är trafiksäkerhetssystem för video.

“Objekten i en livlig trafikmiljö – fordon, cyklar och fotgängare – blockerar varandra och anländer till en förarens öga som en samling av frånkopplade fragment”, säger han. “Hjärnan behöver korrekt gruppera dessa fragment för att identifiera objektens rätta kategorier och positioner. Ett AI-system för trafiksäkerhetsövervakning som bara kan uppfatta fragmenten individuellt kommer att misslyckas med denna uppgift, potentiellt missförstå riskerna för utsatta trafikanter.”

Forskarna säger också att ändringar i träning och arkitektur som syftar till att göra nätverk mer hjärnliknande inte uppnådde konfigural bearbetning. Inga av nätverken kunde korrekt förutsäga människors bedömningar av objekt i varje enskilt försök.

“Vi spekulerar att för att matcha mänsklig konfigural känslighet, måste nätverken tränas för att lösa en bredare serie objektsuppgifter utöver kategoriigenkänning”, avslutar Elder

Alex leder Unite.AI:s AI-drivna nyhetsverksamhet, som kombinerar journalistik, forskning och automation för att stödja snabb och skalbar bevakning av artificiell intelligens. Hans arbete hjälper till att säkerställa att framväxande AI‑utvecklingar lyfts fram effektivt samtidigt som publikationens redaktionella standarder upprätthålls.