AI-modeller og platforme
Studie viser, at AI-modeller ikke matcher menneskelig visuel bearbejdning
NøglepunkterAI-visionmodeller forstår ikke helhedsorienterede objekters former på samme måde som…
Vis mere
- AI-visionmodeller forstår ikke helhedsorienterede objekters former på samme måde som menneskelig opfattelse.
- Denne fejl kan farligt misforstå risici i praktiske anvendelser som f.eks. trafiksikkerhed.
- Det kan være nødvendigt at træne netværk på bredere opgaver ud over simpel genkendelse.
En ny studie fra York University viser, at dybe konvolutionelle neurale netværk (DCNN) ikke matcher menneskelig visuel bearbejdning ved at bruge formopfattelse baseret på delenes indbyrdes forhold. Ifølge professor James Elder, medforfatter af studiet, kan dette have alvorlige og farlige virkelighedsimplikationer for AI-anvendelser.
Den nye studie med titlen “Deep learning-modeller fejler at fange den konfigurationsmæssige natur af menneskelig form perception” blev offentliggjort i Cell Press-tidsskriftet iScience.
Det var en samarbejdsstudie mellem Elder, der er indehaver af York Research Chair i Human og Computer Vision, samt meddirektør for York’s Center for AI & Society, og professor Nicholas Baker, der er en assistentprofessor i psykologi og tidligere VISTA-postdoc ved York.
Ny visuel stimuli “Frankensteins”
Holdet benyttede nye visuelle stimuli kaldet “Frankensteins”, som hjalp dem med at undersøge, hvordan både den menneskelige hjerne og DCNN’erne behandler holistiske, konfigurationsmæssige objekt egenskaber.
“Frankensteins er blot objekter, der er taget fra hinanden og samlet igen på forkert måde,” siger Elder. “Som resultat har de alle de rigtige lokale kendetegn, men på forkert sted.”
Studiet fandt, at DCNN’erne ikke er forvirrede af Frankensteins som det menneskelige visuelle system er. Dette afslører en insensitivitet over for konfigurationsmæssige objekt egenskaber.
“Vores resultater forklarer, hvorfor dybe AI-modeller fejler under visse betingelser og peger på behovet for at overveje opgaver ud over objektgenkendelse for at forstå visuel bearbejdning i hjernen,” fortsætter Elder. “Disse dybe modeller tenderer til at tage ‘genveje’, når de løser komplekse genkendelsesopgaver. Selvom disse genveje kan fungere i mange tilfælde, kan de være farlige i nogle af de virkelighedsanvendelser, vi arbejder på med vores industri- og regeringspartnere.”

Billede: York University
Virkelighedsimplikationer
Elder siger, at en af disse anvendelser er trafikvideo-sikkerhedssystemer.
“Objekterne i en travl trafikscene – køretøjer, cykler og fodgængere – blokerer hinanden og ankommer til øjet på en chauffør som en samling af løsrevne fragmenter,” siger han. “Hjernen har brug for at korrekt gruppere disse fragmenter for at identificere de korrekte kategorier og placeringer af objekterne. Et AI-system for trafiksikkerheds-overvågning, der kun kan opfange fragmenterne individuelt, vil fejle i denne opgave og potentielt misforstå risikoen for sårbare vejbrugere.”
Forskere siger også, at ændringer i træning og arkitektur rettet mod at gøre netværk mere hjernelignende ikke opnåede konfigural bearbejdning. Ingen af netværkene kunne nøjagtigt forudsige prøve-for-prøve menneskelige objektbedømmelser.
“Vi formoder, at for at matche menneskelig konfigurationsfølsomhed, må netværk trænes til at løse en bredere række af objektopgaver ud over kategorigenkendelse,” afslutter Elder












