En kartell av innflytelsesrike datasett dominerer maskinlæringsforskning, hvis en ny studie

En ny rapport fra University of California og Google Research har funnet ut at et lite antall ‘benchmark’ maskinlæringsdatasett, hovedsakelig fra innflytelsesrike vestlige institusjoner, og ofte fra regjeringens organisasjoner, dominerer stadig mer AI-forskningssektoren.

Forskerne konkluderer med at denne tendensen til å ‘standardisere’ til høyt populariserte åpne kildekodedatasett, som ImageNet, fører til en rekke praktiske, etiske og også politiske bekymringer.

Blant deres funn – basert på kjerne data fra Facebook -ledede samfunnsprosjektet Papers With Code (PWC) – hevder forfatterne at ‘vidt brukte datasett introduseres av bare en håndfull eliteinstitusjoner’, og at denne ‘konsolideringen’ har økt til 80% i de senere år.

‘[Vi] finner at det er økende ulikhet i datasettbruk globalt, og at mer enn 50% av alle datasettbruk i vårt utvalg av 43 140 korresponderer til datasett introdusert av tolv elite, primært vestlige, institusjoner.’

En kart over ikke-oppgave-spesifikke datasettbruk de siste ti årene. Kriteriet for inklusjon er hvor institusjonen eller bedriften står for mer enn 50% av kjente bruksområder. Vist til høyre er Gini-koeffisienten for konsentrasjon av datasett over tid for både institusjoner og datasett. Kilde: https://arxiv.org/pdf/2112.01716.pdf

De dominerende institusjonene inkluderer Stanford University, Microsoft, Princeton, Facebook, Google, Max Planck-instituttet og AT&T. Fire av de ti beste datasett-kildene er korporative institusjoner.

Rapporten karakteriserer også den økende bruken av disse elite-datasettene som ‘et kjøretøy for ulikhet i vitenskapen’. Dette er fordi forskningsteam som søker samfunnets godkjenning er mer motivert til å oppnå state-of-the-art (SOTA) resultater mot en konsistent datasett enn de er til å generere originale datasett som ikke har noen slik status, og som ville kreve at kolleger tilpasser seg nye målinger i stedet for standard-indeksene.

I alle fall, som rapporten erkjenner, er å lage sin egen datasett en prohibitivt dyrt foretak for mindre ressurssterke institusjoner og team.

‘Den prima facie vitenskapelige gyldighet som tildeles av SOTA-benchmarking er generisk forvirret med den sosiale troverdigheten forskerne oppnår ved å vise at de kan konkurrere på en vidt anerkjent datasett, selv om en mer kontekst-spesifik benchmark kanskje er mer teknisk passende.

‘Vi påstår at disse dynamikkene skaper en “Matthew-effekt” (dvs. “de rike blir rikere og de fattige blir fattigere”) hvor suksessfulle benchmark, og de elite-institusjonene som introduserer dem, får en ubetydelig størrelse innen feltet.

Den rapporten har tittelen Redusert, gjenbrukt og resirkulert: Livet til et datasett i maskinlæringsforskning, og kommer fra Bernard Koch og Jacob G. Foster ved UCLA, og Emily Denton og Alex Hanna ved Google Research.

Arbeidet reiser en rekke spørsmål om den økende trenden mot konsolidering som den dokumenterer, og har blitt møtt med generell godkjenning på Open Review. En anmelder fra NeurIPS 2021 kommenterte at arbeidet er ‘ekstremt relevant for alle som er involvert i maskinlæringsforskning.’ og forutså at det ville bli inkludert som pensum på universitetskurser.

Fra nødvendighet til korrupte

Forfatterne påpeker at den nåværende kulturen av ‘slå-benchmark’ oppstod som en kur for mangelen på objektive vurderingsverktøy som førte til at interessen og investeringene i AI kollapset for andre gang for over tretti år siden, etter nedgangen i forretningsentusiasmen mot ny forskning i ‘Eksper-systemer’:

‘Benchmark typisk formaliserer en bestemt oppgave gjennom et datasett og en tilhørende kvantitativ vurderingsmetode. Praksisen ble opprinnelig introdusert til [maskinlæringsforskning] etter “AI-vinteren” på 1980-tallet av regjeringsfinansierere, som søkte å bedre vurdere verdien mottatt på bevilgninger.’

Rapporten argumenterer for at de opprinnelige fordelene med denne uformelle kulturen av standardisering (reduserer barrierer for deltakelse, konsistente målinger og mer agile utviklingsmuligheter) begynner å bli overveiet av ulemper som naturlig oppstår når en samling data blir mektig nok til å effektivt definere sine ‘bruksvilkår’ og omfang av innflytelse.

Forfatterne foreslår, i linje med mye nylig industri- og akademisk tenkning på saken, at forskningssamfunnet lenger ikke stiller nye problemer hvis disse ikke kan håndteres gjennom eksisterende benchmark-datasett.

De påpeker også at blind tilslutning til dette lille antall ‘gull’ datasett oppmuntre forskere til å oppnå resultater som er overfitted (dvs. at de er datasett-spesifikke og ikke sannsynligvis vil fungere like bra på virkelige data, på nye akademiske eller originale datasett, eller selv nødvendigvis på andre datasett i ‘gullstandarden’).

‘Gitt den observerte høye konsentrasjonen av forskning på et lite antall benchmark-datasett, mener vi at diversifisering av vurderingsformer er spesielt viktig for å unngå overfitting til eksisterende datasett og misrepresentere fremgangen i feltet.’

Regjeringspåvirkning i datavisjonsforskning

Ifølge rapporten er datavisjonsforskning merket mer av syndromet den beskriver enn andre sektorer, med forfatterne som påpeker at naturlig språkbehandling (NLP) forskning er langt mindre berørt. Forfatterne mener at dette kan skyldes at NLP-samfunn er ‘mer sammenhengende’ og større i størrelse, og at NLP-datasett er mer tilgjengelige og enklere å kuratere, samt at de er mindre og mindre ressurskrevende når det gjelder datainnsamling.

I datavisjon, og spesielt med hensyn til ansiktsgjenkjenning (FR) datasett, hevder forfatterne at korporative, statlige og private interesser ofte kolliderer:

‘Korporative og regjeringsinstitusjoner har mål som kan komme i konflikt med personvern (f.eks. overvåking), og deres vektlegging av disse prioritetene er sannsynligvis å være forskjellig fra de som holdes av akademikere eller AI’s bredere samfunnsstakeholdere.’

For ansiktsgjenkjenning, fant forskerne at forekomsten av rent akademiske datasett synker dramatisk mot gjennomsnittet:

‘[Fire] av de åtte datasettene (33,69% av totalt bruk) ble eksklusivt finansiert av korporasjoner, det amerikanske militæret eller den kinesiske regjeringen (MS-Celeb-1M, CASIA-Webface, IJB-A, VggFace2). MS-Celeb-1M ble til slutt trukket tilbake på grunn av kontrovers omkring verdien av personvern for forskjellige interessenter.’

De beste datasettene brukt i bildegenerering og ansiktsgjenkjenning forskningssamfunn.

I ovennevnte graf, som forfatterne påpeker, ser vi også at det relativt nye feltet bildegenerering (eller bilde-syntese) er tungt avhengig av eksisterende, langt eldre datasett som ikke var ment for denne bruken.

Faktisk observerer rapporten en økende trend for ‘migrering’ av datasett bort fra deres opprinnelige formål, og stiller spørsmål om deres egnethet for behovene til nye eller perifere forskningssektorer, og omfang av hvilken grad budsjettbegrensninger kan ‘generisere’ omfanget av forskernes ambisjoner inn i den smalere rammen som både det tilgjengelige materialet og en kultur så opptatt av år-for-år-benchmark-rangeringer at nye datasett har vanskelig for å få fotfeste.

‘Våre funn indikerer også at datasett regelmessig overføres mellom forskjellige oppgave-samfunn. På den mest ekstreme siden, er flertallet av benchmark-datasett i omløp for noen oppgave-samfunn skapt for andre oppgaver.’

Med hensyn til maskinlæringsluminariene (inkludert Andrew Ng) som har stadig bedt om mer mangfold og kurering av datasett i de senere årene, støtter forfatterne denne holdningen, men mener at denne type innsats, selv om den er vellykket, potensielt kan bli underminert av den nåværende kulturens avhengighet av SOTA-resultater og etablerte datasett:

‘Vår forskning tyder på at det bare å bede ML-forskere om å utvikle flere datasett, og å flytte incitamentsstrukturer så at datasettutvikling blir verdsatt og belønnet, kanskje ikke er nok til å diversifisere datasettbruk og de perspektivene som til slutt former og setter MLR-forskningsagendaer.

‘I tillegg til å motivere datasettutvikling, foresprår vi likeverdige politiske inngrep som prioriterer betydelig finansiering for personer i mindre ressurssterke institusjoner for å skape høykvalitetsdatasett. Dette ville diversifisere — fra et sosialt og kulturelt perspektiv — de benchmark-datasett som brukes til å evaluere moderne ML-metoder.’

 6. desember 2021, 16:49 GMT+2 – Rettet possessiv i overskrift. – MA