Forskere søger hjælp fra neurovidenskab for at overvinde datasætbias

Et hold af forskere fra MIT, Harvard University og Fujitsu, Ltd. har søgt at finde ud af, hvordan en maskinlæringsmodel kan overvinde datasætbias. De har brugt en neurovidenskabelig tilgang til at studere, hvordan træningsdata påvirker, om en kunstig neuralt netværk kan lære at genkende objekter, den aldrig har set før.

Forskningen er offentliggjort i Nature Machine Intelligence.

Mangfoldighed i træningsdata

Studiets resultater viste, at mangfoldighed i træningsdata påvirker, om et neuralt netværk kan overvinde bias. Men data-mangfoldighed kan også have en negativ indvirkning på netværkets præstation. Forskerne viste også, at måden, en neuralt netværk trænes på, også kan påvirke, om det kan overvinde en biased datasæt.

Xavier Boix er en forskningsvidenskabelig medarbejder i afdelingen for hjernen og kognitive videnskaber (BCS) og Center for hjerner, sind og maskiner (CBMM). Han er også hovedforfatter af artiklen.

“Et neuralt netværk kan overvinde datasætbias, hvilket er opmuntrende. Men hovedkonklusionen her er, at vi skal tage data-mangfoldighed med i betragtning. Vi skal holde op med at tro, at hvis vi bare samler en masse rå data, så kommer det til at føre os et sted hen. Vi skal være meget omhyggelige med, hvordan vi designer datasæt fra starten,” siger Boix.

Holdet tog en neurovidenskabelig tilgang til at udvikle den nye metode. Ifølge Boix er det almindeligt at bruge kontrollerede datasæt i eksperimenter, så holdet byggede datasæt, der indeholdt billeder af forskellige objekter i forskellige poser. De kontrollerede derefter kombinationerne, så nogle datasæt var mere mangfoldige end andre. Et datasæt med flere billeder, der viser objekter fra kun ét synspunkt, er mindre mangfoldigt, mens et datasæt med flere billeder, der viser objekter fra flere synspunkter, er mere mangfoldigt.

Forskerne tog disse datasæt og brugte dem til at træne et neuralt netværk til billedklassifikation. De studerede derefter, hvor godt det var til at identificere objekter fra synspunkter, netværket ikke havde set under træningen.

De fandt, at de mere mangfoldige datasæt tillader netværket at bedre generalisere nye billeder eller synspunkter, og dette er afgørende for at overvinde bias.

“Men det er ikke, som om mere data-mangfoldighed altid er bedre; der er en spænding her. Når det neurale netværk bliver bedre til at genkende nye ting, det ikke har set før, så bliver det også sværere for det at genkende ting, det allerede har set,” siger Boix.

Metoder til træning af neurale netværk

Holdet fandt også, at en model, der er trænet separat for hver opgave, er bedre i stand til at overvinde bias i forhold til en model, der er trænet til begge opgaver samtidig.

“Resultaterne var virkelig slående. Faktisk troede vi, det var en fejl, da vi først gjorde dette eksperiment. Det tog os flere uger at realisere, det var et rigtigt resultat, fordi det var så uventet,” fortsætter Boix.

En dybere analyse afslørede, at neuronnetspecialisering er involveret i denne proces. Når det neurale netværk trænes til at genkende objekter i billeder, opstår to typer af neuroner. Den ene neuron specialiserer sig i at genkende objekt-kategorien, mens den anden specialiserer sig i at genkende synspunktet.

De specialiserede neuroner bliver mere fremtrædende, når netværket trænes til at udføre opgaver separat. Men når et netværk trænes til at udføre begge opgaver på samme tid, bliver nogle neuroner udvandet. Dette betyder, at de ikke specialiserer sig i en opgave, og de er mere tilbøjelige til at blive forvirrede.

“Men det næste spørgsmål nu er, hvordan disse neuroner kom der? Du træner det neurale netværk, og de opstår fra læringsprocessen. Ingen sagde til netværket, at det skulle inkludere disse typer af neuroner i sin arkitektur. Det er det fascinerende,” siger Boix.

Forskerne vil se på at udforske dette spørgsmål i deres fremtidige arbejde samt anvende den nye metode til mere komplekse opgaver.