Kartel vlivných datových sad dominuje výzkum strojového učení, naznačuje nová studie

Nová studie z University of California a Google Research zjistila, že malé množství “referenčních” datových sad strojového učení, převážně z vlivných západních institucí a často z vládních organizací, dominuje sektoru výzkumu umělé inteligence.

Výzkumníci dospěli k závěru, že tendence “výchozího” nastavení na velmi populární open source datové sady, jako je ImageNet, vyvolává řadu praktických, etických a dokonce i politických problémů.

Mezi jejich zjištěními – založenými na základních datech z projektu Papers With Code (PWC) vedeného Facebookem – autoři tvrdí, že ‘široce používané datové sady jsou představeny pouze několika elitními institucemi’, a že tato “konsolidace” se v posledních letech zvýšila na 80%.

‘[My] zjistili, že existuje rostoucí nerovnost ve využívání datových sad globálně, a že více než 50% všech využití datových sad v naší vzorku 43 140 odpovídalo datovým sadám představeným dvanácti elitními, převážně západními, institucemi.’

Mapa nespecifických úkolů pro datové sady za posledních deset let. Kritériem pro zařazení je instituce nebo společnost, která představuje více než 50% známých využití. Zobrazeno vpravo je Gini koeficient pro koncentraci datových sad v čase pro instituce i datové sady. Zdroj: https://arxiv.org/pdf/2112.01716.pdf

Dominantními institucemi jsou Stanford University, Microsoft, Princeton, Facebook, Google, Max Planck Institute a AT&T. Čtyři z deseti nejlepších zdrojů datových sad jsou korporátní instituce.

Studie také charakterizuje rostoucí využívání těchto elitních datových sad jako ‘prostředek nerovnosti ve vědě’. To je způsobeno tím, že výzkumné týmy, které hledají komunitní uznání, jsou více motivovány k dosažení špičkových výsledků (SOTA) proti konzistentní datové sadě než k vytváření původních datových sad, které by vyžadovaly, aby jejich kolegové přizpůsobili nové metriky místo standardních indexů.

V každém případě, jak studie uvádí, vytváření vlastních datových sad je pro méně zdrojově vybavené instituce a týmy prohibitivně nákladné.

‘prima facie vědecká validita poskytnutá SOTA benchmarkingem je obecně spojená se sociální kredibilitou, kterou výzkumníci získávají tím, že ukazují, že mohou soutěžit na široce uznávané datové sadě, i když by mohla být technicky vhodnější kontextově specifická benchmark.

‘Domníváme se, že tyto dynamiky vytvářejí “Matthewův efekt” (tj. “bohatí se stávají bohatšími a chudí chudšími”), kde úspěšné benchmarky a elitní instituce, které je představují, získávají nadměrnou pozornost v oboru.

Studie paper se jmenuje Reduced, Reused and Recycled: Život datové sady ve výzkumu strojového učení a pochází od Bernarda Kocha a Jacoba G. Fostera z UCLA a Emily Denton a Alexe Hanny z Google Research.

Práce vyvolává řadu problémů se rostoucím trendem konsolidace, který dokumentuje, a setkala se s obecným uznáním na Open Review. Jeden recenzent z NeurIPS 2021 komentoval, že práce je ‘extrémně relevantní pro každého, kdo je zapojen do výzkumu strojového učení.’ a předpovídal, že bude zařazena jako povinná literatura na univerzitních kurzech.

Od nutnosti ke korupci

Autoři poznamenávají, že současná kultura “porazit benchmark” vznikla jako řešení nedostatku objektivních nástrojů pro hodnocení, které způsobily pokles zájmu a investic do umělé inteligence před více než třiceti lety, po poklesu podnikatelského nadšení pro výzkum v “Expert Systems”:

‘Benchmarky obecně formalizují konkrétní úkol prostřednictvím datové sady a přidružené kvantitativní metriky hodnocení. Praxe byla původně zavedena do [výzkumu strojového učení] po “AI Winter” v 80. letech vládou, která chtěla přesněji zhodnotit hodnotu získanou z grantů.’

Studie argumentuje, že počáteční výhody této neformální kultury standardizace (snížení bariér pro účast, konzistentní metriky a více agilní rozvojové příležitosti) začínají být převažovány nevýhodami, které přirozeně vznikají, když se datová sada stane dostatečně silnou, aby efektivně definovala své “podmínky použití” a rozsah vlivu.

Autoři navrhují, v souladu s mnoha nedávnými průmyslovými a akademickými názory na tuto otázku, že výzkumná komunita již nepředkládá nové problémy, pokud je nelze řešit pomocí stávajících referenčních datových sad.

Navíc poznamenávají, že slepá závislost na tomto malém počtu “zlatých” datových sad podporuje výzkumníky, aby dosáhli výsledků, které jsou přefitované (tj. specifické pro datovou sadu a nepravděpodobně fungující stejně dobře na reálných datech, na nových akademických nebo původních datech, nebo dokonce nutně na různých datech v “zlatém standardu”).

‘Vzhledem k pozorované vysoké koncentraci výzkumu na malé množství referenčních datových sad se domníváme, že je obzvláště důležité diversifikovat formy hodnocení, aby se zabránilo přefitování stávajícím datovým sadám a nesprávnému znázornění pokroku v oboru.’

Vliv vlády ve výzkumu počítačového vidění

Podle studie je výzkum počítačového vidění zjevně více ovlivněn tímto syndromem než jiné sektory, přičemž autoři poznamenávají, že výzkum zpracování přirozeného jazyka (NLP) je méně postižen. Autoři se domnívají, že to může být způsobeno tím, že komunity NLP jsou ‘více koherentní’ a větší, a že datové sady NLP jsou přístupnější a snazší na kuraci, a také menší a méně náročné na zdroje při sběru dat.

Ve výzkumu počítačového vidění, a zejména ve výzkumu rozpoznávání obličeje (FR), autoři tvrdí, že korporátní, státní a soukromé zájmy často kolidují:

‘Korporátní a vládní instituce mají cíle, které mohou být v rozporu s ochranou soukromí (například dohled), a jejich vážení těchto priorit je pravděpodobně odlišné od těch, které zastávají akademici nebo širší zájmové skupiny AI.’

Pro úkoly rozpoznávání obličeje výzkumníci zjistili, že incidence čistě akademických datových sad dramaticky klesá proti průměru:

‘[Čtyři] z osmi datových sad (33,69% celkového využití) byly výhradně financovány korporacemi, vojenskými nebo čínskou vládou (MS-Celeb-1M, CASIA-Webface, IJB-A, VggFace2). MS-Celeb-1M byla nakonec stažena kvůli kontroverzi kolem hodnoty soukromí pro různé zájmové skupiny.’

Nejlepší datové sady používané ve výzkumných komunitách generování obrázků a rozpoznávání obličeje.

V výše uvedeném grafu, jak autoři poznamenávají, vidíme, že relativně nová oblast generování obrázků (nebo syntézy obrázků) silně závisí na existujících, mnohem starších datech, které nebyly určeny pro tento účel.

Skutečně studie pozoruje rostoucí trend “migrace” datových sad pryč od jejich původního účelu, což vyvolává otázky o jejich vhodnosti pro potřeby nových nebo okrajových výzkumných oblastí, a o tom, do jaké míry mohou být omezení rozpočtu “generická” ve svém rozsahu pro ambice výzkumníků do užšího rámce poskytovaného dostupnými materiály a kulturou tak posedlou ročním benchmarkingem, že nové datové sady mají potíže s získáním pozornosti.

‘Naše zjištění také ukazují, že datové sady se pravidelně přenášejí mezi různými komunitami úkolů. Na nejextrémnějším konci většina benchmarkových datových sad v oběhu pro některé komunity úkolů byla vytvořena pro jiné úkoly.’

Pokud jde o prominentní osobnosti strojového učení (včetně Andrew Ng), kteří v posledních letech stále více volají po větší rozmanitosti a kuraci datových sad, autoři podporují tento postoj, ale věří, že takový úsilí, i kdyby bylo úspěšné, by mohlo být potenciálně ohroženo současnou kulturou, která závisí na SOTA-výsledcích a zavedených datech:

‘Naše výzkum naznačuje, že jednoduše volat po výzkumnících strojového učení, aby vyvinuli více datových sad, a měnit stimulační struktury, aby se vývoj datových sad hodnotil a odměňoval, nemusí být dostatečné k diversifikaci využití datových sad a perspektiv, které nakonec formují a stanovují agendy výzkumu strojového učení.

‘Kromě stimulování vývoje datových sad jsme pro equity-orientované politické zásahy, které priorizují významné financování pro lidi v méně zdrojově vybavených institucích, aby vytvořily vysoce kvalitní datové sady. To by diversifikovalo – z hlediska sociálního a kulturního – referenční datové sady používané pro hodnocení moderních metod strojového učení.’

6. prosince 2021, 16:49 GMT+2 – Opraveno přivlastňovací tvar v nadpisu. – MA