Dypt læringssystem lærer bedre når det blir distraherende

Datavitenskapsmenn fra Nederland og Spania har funnet ut hvordan et dypt læringssystem lærer bedre når det blir distraherende. Det kunstige intelligensen (AI) er rettet mot bildegenkjenning og kan lære å gjenkjenne omgivelsene. Teamet klarte å forenkle læreprosessen etter å ha tvunget systemet til å fokusere på sekundære egenskaper.

Convolutional Neural Networks

Det dypte læringssystemet baserer seg på convolutional neural networks (CNN), som er en form for dypt læring for AI-systemer.

Estefanía Talavera Martinez er foreleser og forsker ved Bernoulli-instituttet for matematikk, datavitenskap og kunstig intelligens ved Universitetet i Groningen i Nederland.

“Disse CNN-ene er suksessfulle, men vi forstår ikke helt hvordan de fungerer”, sier Talavera Martinez.

Talavera Martinez har brukt CNN-er til å analysere bilder fra bærbare kameraer mens hun studerte menneskelig atferd. Noen av hennes arbeid har dreiet seg om å studere menneskelige interaksjoner med mat, så hun satte ut å få systemet til å gjenkjenne de ulike settingene hvor mennesker møter mat.

“Jeg merket at systemet gjorde feil i klassifiseringen av noen bilder og trengte å vite hvorfor dette skjedde”, sa hun.

Hun brukte varmekart og analyserte hvilke deler av bildene som ble brukt av CNN-ene til å identifisere settingen.

“Dette ledet til hypotesen at systemet ikke så på nok detaljer”, sa hun.

Et eksempel som ble gitt var et AI-system som lærte seg å bruke kopper til å identifisere et kjøkken. I dette eksempelet kunne AI feilaktig klassifisere områder som stuer og kontorer, som også ofte har kopper.

Talavera Martinez og hennes team satte deretter ut å utvikle en løsning. Hennes kolleger inkluderte David Morales og Beatriz Remeseiro, begge i Spania. Den foreslåtte løsningen var å distrahere systemet fra deres primære mål.

Utvikling av løsningen

Teamet trente CNN-er med en standard bildekolleksjon av fly eller biler, og de identifiserte hvilke deler av bildene som ble brukt for klassifisering gjennom varmekart. Disse delene av bildene ble deretter uskarpe i bildekolleksjonen, og bildekolleksjonen ble brukt for en ny runde med trening.

“Dette tvinger systemet til å se etter andre identifikatorer. Og ved å bruke denne ekstra informasjonen, blir det mer finmasket i sin klassifisering”, sa Talavera Martinez.

Det nye systemet fungerte godt i standard bildekolleksjonene og var suksessfullt i bildene som ble samlet inn fra bærbare kameraer.

“Vår treningregime gir oss resultater som er like andre tilnærminger, men er mye enklere og krever mindre beregnings tid”, sa hun.

Tidligere forsøk på å øke finmasket klassifisering har fokusert på kombinasjonen av ulike sett av CNN-er, men den nyutviklede tilnærmingen er mye lettere.

“Denne studien ga oss en bedre forståelse av hvordan disse CNN-ene lærer, og det har hjulpet oss å forbedre treningsprogrammet”, sa Talavera Martinez.