En Kartell Av Inflytelserika Datasets Dominerar Maskinläringsforskning, En Ny Studie Föreslår

En ny rapport från University of California och Google Research har funnit att ett litet antal “benchmark”-maskinläringsdataset, till stor del från inflytelserika västerländska institutioner och ofta från regeringsorgan, alltmer dominerar AI-forskningssektorn.

Forskarna drar slutsatsen att denna tendens att “standardisera” till högt populära öppna källkodsdataset, som t.ex. ImageNet, väcker ett antal praktiska, etiska och till och med politiska orosmoment.

Bland deras fynd – baserade på kärndata från Facebook -ledda communityprojektet Papers With Code (PWC) – hävdar författarna att ‘allmänt använda dataset introduceras av bara ett fåtal elitinstitutioner’, och att denna “konsolidering” har ökat till 80% under de senaste åren.

‘[Vi] finner att det finns en ökande ojämlikhet i datasetanvändning globalt, och att mer än 50% av alla datasetanvändningar i vår sample om 43 140 motsvarade dataset som introducerades av tolv elit-, primärt västerländska, institutioner.’

En karta över icke-uppgiftsspecifika datasetanvändningar under de senaste tio åren. Kriterierna för inkludering är att institutionen eller företaget står för mer än 50% av kända användningar. Till höger visas Gini-koefficienten för datasetkoncentration över tid för både institutioner och dataset. Källa: https://arxiv.org/pdf/2112.01716.pdf

De dominerande institutionerna inkluderar Stanford University, Microsoft, Princeton, Facebook, Google, Max Planck-institutet och AT&T. Fyra av de tio bästa datasetkällorna är företagsinstitutioner.

Rapporten karakteriserar också den ökande användningen av dessa elitdataset som ‘ett fordon för ojämlikhet i vetenskapen’. Detta beror på att forskarteam som söker samhällets godkännande är mer motiverade att uppnå state-of-the-art (SOTA)-resultat mot en konsekvent dataset än att generera originaldataset som saknar sådan status, och som skulle kräva att peer-granskare anpassar sig till nya mått istället för standardindex.

I vilket fall som helst, som rapporten erkänner, är det att skapa sitt eget dataset en prohibitivt dyrt företag för mindre välresurserade institutioner och team.

‘Det prima facie vetenskapliga giltigheten som ges av SOTA-benchmarking är generiskt förvirrad med den sociala trovärdigheten forskare får genom att visa att de kan konkurrera på ett allmänt erkänt dataset, även om ett mer kontextspecifikt benchmark kanske vore mer tekniskt lämpligt.

‘Vi hävdar att dessa dynamiker skapar en “Matthew-effekt” (dvs. “de rika blir rikare och de fattiga blir fattigare”) där framgångsrika benchmarkar och de elitinstitutioner som introducerar dem, får en oproportionerligt stor status inom fältet.

Den rapporten heter Reduced, Reused and Recycled: The Life of a Dataset in Machine Learning Research, och kommer från Bernard Koch och Jacob G. Foster vid UCLA, och Emily Denton och Alex Hanna vid Google Research.

Arbetet väcker ett antal frågor om den växande trenden mot konsolidering som den dokumenterar, och har mött allmänt godkännande på Open Review. En recensent från NeurIPS 2021 kommenterade att arbetet är ‘extremt relevant för alla som är involverade i maskinläringsforskning.’ och förutspår dess inkludering som tilldelad läsning på universitetskurser.

Från Nödvändighet Till Korruption

Författarna noterar att den nuvarande kulturen av ‘slå-benchmarken’ uppstod som en lösning för bristen på objektiva utvärderingsverktyg som orsakade intresse och investeringar i AI att kollapsa för andra gången för över trettio år sedan, efter minskningen av företagens entusiasm för ny forskning i ‘Expert Systems’:

‘Benchmarkar formaliserar vanligtvis en särskild uppgift genom ett dataset och en associerad kvantitativ utvärderingsmetod. Praktiken infördes ursprungligen i [maskinlärningsforskning] efter “AI-vintern” på 1980-talet av regeringsfinansiärer, som sökte en mer exakt bedömning av värdet som erhållits från bidrag.’

Rapporten hävdar att de initiala fördelarna med denna informella kultur av standardisering (reducerar hinder för deltagande, konsekventa mått och fler agila utvecklingsmöjligheter) börjar att övervägas av de nackdelar som naturligt uppstår när en samling data blir tillräckligt kraftfull för att effektivt definiera sina “användningsvillkor” och omfattning.

Författarna föreslår, i linje med mycket av den senaste industri- och akademiska tanken på området, att forskarsamhället inte längre ställer nya problem om dessa inte kan lösas med hjälp av existerande benchmark-dataset.

De noterar också att blind tillgivenhet till detta lilla antal “guld”-dataset uppmuntrar forskare att uppnå resultat som är överanpassade (dvs. som är specifika för datasetet och inte sannolikt kommer att fungera nästan lika bra på riktiga data, på nya akademiska eller ursprungliga dataset, eller ens nödvändigtvis på olika dataset i “guldstandarden”).

‘Givet den observerade höga koncentrationen av forskning på ett litet antal benchmark-dataset, tror vi att diversifiering av utvärderingsformer är särskilt viktigt för att undvika överanpassning till existerande dataset och missrepresentera framsteg inom fältet.’

Regeringens Inflytande I Datorseende-Forskning

Enligt rapporten är datorseende-forskning särskilt påverkad av det syndrom den beskriver, till skillnad från andra sektorer, där författarna noterar att naturlig språkbehandling (NLP)-forskning är mindre påverkad. Författarna föreslår att detta kan bero på att NLP-samhällen är ‘mer sammanhängande’ och större i storlek, och att NLP-dataset är mer tillgängliga och lättare att kurera, samt mindre resurskrävande i termer av datainsamling.

I datorseende, och särskilt i fråga om ansiktsigenkänning (FR)-dataset, hävdar författarna att företags-, stats- och privata intressen ofta kolliderar:

‘Företags- och regeringsinstitutioner har mål som kan komma i konflikt med integritet (t.ex. övervakning), och deras viktning av dessa prioriteringar är troligen annorlunda än de som hålls av akademiker eller AI:s bredare samhällsintressenter.’

För ansiktsigenkänning uppgifter, fann forskarna att förekomsten av rent akademiska dataset sjunker dramatiskt mot genomsnittet:

‘[Fyra] av de åtta dataseten (33,69% av totala användningar) var uteslutande finansierade av företag, den amerikanska militären eller den kinesiska regeringen (MS-Celeb-1M, CASIA-Webface, IJB-A, VggFace2). MS-Celeb-1M drogs tillbaka på grund av kontroverser kring värdet av integritet för olika intressenter.’

De topp-dataset som används i Image Generation och Face Recognition-forsknings-samhällen.

I ovanstående graf, som författarna noterar, ser vi också att den relativt nya fältet Image Generation (eller Image Synthesis) är starkt beroende av existerande, äldre dataset som inte var avsedda för detta användningsområde.

I själva verket observerar rapporten en växande trend för “migration” av dataset bort från deras avsedda syfte, vilket ifrågasätter deras lämplighet för behoven hos nya eller utliggande forskningssektorer, och i vilken utsträckning budgetbegränsningar kan “generera” omfattningen av forskarnas ambitioner till den smalare ramen som tillhandahålls av det tillgängliga materialet och av en kultur som är så besatt av år-för-år-benchmark-rankningar att nya dataset har svårt att få fäste.

‘Våra fynd tyder också på att dataset regelbundet överförs mellan olika uppgiftssamhällen. I den mest extrema änden skapades majoriteten av benchmark-dataseten i cirkulation för vissa uppgiftssamhällen för andra uppgifter.’

Med tanke på maskinlärings-luminarier (inklusive Andrew Ng) som alltmer har krävt mer diversifiering och kurering av dataset under de senaste åren, stöder författarna meningen, men tror att sådana ansträngningar, även om de är framgångsrika, potentiellt kan undergrävas av den nuvarande kulturens beroende av SOTA-resultat och etablerade dataset:

‘Vår forskning tyder på att det bara att kräva att maskinläringsforskare utvecklar fler dataset, och att skifta incitamentsstrukturer så att dataset-utveckling värderas och belönas, kanske inte är tillräckligt för att diversifiera dataset-användning och de perspektiv som slutligen formar och fastställer maskinlärningsforsknings-agendor.

‘Förutom att uppmuntra dataset-utveckling, förespråkar vi för jämställdhetsinriktade politiska ingrepp som prioriterar betydande finansiering för personer i mindre resursstarka institutioner för att skapa högkvalitativa dataset. Detta skulle diversifiera — från ett socialt och kulturellt perspektiv — de benchmark-dataset som används för att utvärdera moderna maskinlärningsmetoder.’

 6:e december 2021, 16:49 GMT+2 – Rättat tillhörande i rubrik. – MA