Studie viser, at AI-modeller ikke matcher menneskeligt visuelt proces

En ny studie fra York University viser, at dybe convolutionelle neurale netværk (DCNN) ikke matcher menneskeligt visuelt proces ved at bruge konfigurationsform perception. Ifølge professor James Elder, medforfatter af studiet, kan dette have alvorlige og farlige virkelighedsimplikationer for AI-anvendelser.

Den nye studie med titlen “Deep learning-modeller fejler at fange den konfigurationsmæssige natur af menneskelig form perception” blev offentliggjort i Cell Press-tidsskriftet iScience.

Det var en samarbejdsstudie mellem Elder, der er indehaver af York Research Chair i Human og Computer Vision, samt meddirektør for York’s Center for AI & Society, og professor Nicholas Baker, der er en assistentprofessor i psykologi og tidligere VISTA-postdoc ved York.

Ny visuel stimuli “Frankensteins”

Holdet afhængigt af ny visuel stimuli kaldet “Frankensteins”, som hjalp dem med at undersøge, hvordan både det menneskelige hjerte og DCNN’erne behandler holistiske, konfigurationsmæssige objekt egenskaber.

“Frankensteins er blot objekter, der er taget fra hinanden og samlet igen på forkert måde,” siger Elder. “Som resultat har de alle de rigtige lokale funktioner, men på forkert sted.”

Studiet fandt, at DCNN’erne ikke er forvirrede af Frankensteins som det menneskelige visuelle system er. Dette afslører en insensitivitet over for konfigurationsmæssige objekt egenskaber.

“Vores resultater forklarer, hvorfor dybe AI-modeller fejler under visse betingelser og peger på behovet for at overveje opgaver ud over objektgenkendelse for at forstå visuelt proces i hjernen,” fortsætter Elder. “Disse dybe modeller tenderer til at tage ‘genveje’, når de løser komplekse genkendelsesopgaver. Selvom disse genveje kan fungere i mange tilfælde, kan de være farlige i nogle af de virkelighedsanvendelser, vi arbejder på med vores industri- og regeringspartnere.”

Billede: York University

Virkelighedsimplikationer

Elder siger, at en af disse anvendelser er trafikvideo-sikkerhedssystemer.

“Objekterne i en travl trafikscene – køretøjer, cykler og fodgængere – blokerer hinanden og ankommer til øjet på en chauffør som en samling af løsrevne fragmenter,” siger han. “Hjernen har brug for at korrekt gruppere disse fragmenter for at identificere de korrekte kategorier og placeringer af objekterne. Et AI-system for trafiksikkerheds-overvågning, der kun kan opfange fragmenterne individuelt, vil fejle i denne opgave og potentielt misforstå risikoen for sårbare vejbrugere.”

Forskere siger også, at ændringer i træning og arkitektur rettet mod at gøre netværk mere hjernelignende ikke opnåede konfigurationsmæssig proces. Ingen af netværkene kunne nøjagtigt forudsige prøve-for-prøve menneskelige objektbedømmelser.

“Vi formoder, at for at matche menneskelig konfigurationsfølsomhed, må netværk trænes til at løse en bredere række af objektopgaver ud over kategorigenkendelse,” afslutter Elder