Hoe Google de trainingsvereisten voor AI met 10.000 keer verlaagde

De kunstmatige intelligentie-industrie staat voor een fundamenteel paradox. Terwijl machines nu data op enorme schaal kunnen verwerken, is het leren nog steeds verrassend inefficiënt, met het probleem van afnemende rendementen. Traditionele machine learning-benaderingen vereisen enorme, gelabelde datasets die miljoenen dollars kunnen kosten en jaren kunnen duren om te creëren. Deze benaderingen werken meestal onder de veronderstelling dat meer data leidt tot betere AI-modellen. Echter, onderzoekers van Google (GOOGL ) hebben onlangs een innovatieve methode geïntroduceerd die deze langdurige overtuiging in twijfel trekt. Zij demonstreren dat vergelijkbare AI-prestaties kunnen worden behaald met tot 10.000 keer minder trainingsdata. Deze ontwikkeling heeft het potentieel om fundamenteel te veranderen hoe we AI benaderen. In dit artikel zullen we onderzoeken hoe onderzoekers van Google deze doorbraak hebben bereikt, het potentieel toekomstige effect van de ontwikkeling en de uitdagingen en richtingen die voor ons liggen.

De grote datavergelijking in AI

Gedurende decennia is de mantra “meer data is beter AI” de aanpak van de industrie voor AI geweest. Grote taalmodellen zoals GPT-4 verbruiken triljoenen tokens tijdens de training. Deze data-hongerige aanpak creëert een significante barrière voor organisaties die niet over uitgebreide middelen of gespecialiseerde datasets beschikken. Ten eerste is de kosten van menselijke labeling aanzienlijk hoog. Deskundige annotators vragen hoge tarieven, en het enorme volume aan data dat nodig is, maakt projecten duur. Ten tweede is de meeste verzamelde data vaak redundant en kan het geen cruciale rol spelen in het leerproces. De traditionele methode worstelt ook met veranderende eisen. Wanneer beleid verandert of nieuwe soorten problematische inhoud verschijnen, moeten bedrijven het labelingsproces opnieuw starten. Dit proces creëert een constante cyclus van dure data-verzameling en model-hertraining.

Het aanpakken van grote datavergelijkingen met actief leren

Een van de bekende manieren om deze datavergelijkingen aan te pakken is door actief leren te empoweren. Deze aanpak is afhankelijk van een zorgvuldige curatieproces dat de meest waardevolle trainingsvoorbeelden voor menselijke labeling identificeert. Het onderliggende idee is dat modellen het beste leren van voorbeelden die ze het meest verwarrend vinden, in plaats van alle beschikbare data passief te consumeren. In tegenstelling tot traditionele AI-methoden, die grote datasets vereisen, neemt actief leren een meer strategische aanpak door zich te concentreren op het verzamelen van alleen de meest informatieve voorbeelden. Deze aanpak helpt om de inefficiëntie van het labelen van voor de hand liggende of redundante data te vermijden, die weinig waarde voor het model heeft. In plaats daarvan richt actief leren zich op randgevallen en onzekere voorbeelden die het potentieel hebben om de modelprestaties aanzienlijk te verbeteren.

Door de inspanningen van deskundigen te concentreren op deze sleutelvoorbeelden, stelt actief leren modellen in staat om sneller en effectiever te leren met veel minder datapunten. Deze aanpak heeft het potentieel om zowel de datavergelijking als de inefficiëntie van traditionele machine learning-benaderingen aan te pakken.

Google’s actieve leerbenadering

Google’s onderzoeksteam heeft deze paradigma met succes toegepast. Hun nieuwe actieve leerbenadering demonstreert dat zorgvuldig gecureerde, hoge kwaliteit voorbeelden enorme hoeveelheden gelabelde data kunnen vervangen. Bijvoorbeeld, zij laten zien dat modellen getraind op minder dan 500 door experts gelabelde voorbeelden de prestaties van systemen getraind op 100.000 traditionele labels kunnen evenaren of overtreffen.

Het proces werkt via wat Google een “LLM-as-Scout”-systeem noemt. Het grote taalmodel scant eerst door enorme hoeveelheden ongelabelde data, om gevallen te identificeren waarin het zich het meest onzeker voelt. Deze grensgevallen vertegenwoordigen precies de scenario’s waarin het model menselijke leiding nodig heeft om zijn besluitvorming te verbeteren. Het proces begint met een initiële model dat grote datasets labelt met behulp van basisprompts. Het systeem clusterd vervolgens voorbeelden op basis van hun voorspelde classificaties en identificeert gebieden waar het model verwarring tussen verschillende categorieën vertoont. Deze overlappende clusters onthullen de precieze punten waar menselijke expertise het meest waardevol kan zijn.

De methode richt zich expliciet op paren van voorbeelden die het dichtst bij elkaar liggen maar verschillende labels hebben. Deze grensgevallen vertegenwoordigen precies de scenario’s waarin menselijke expertise het meest telt. Door de inspanningen van deskundige labeling te concentreren op deze verwarrende voorbeelden, bereikt het systeem opmerkelijke efficiëntiegewinnen.

Kwaliteit boven kwantiteit

Het onderzoek onthult een sleutelvinding met betrekking tot datakwaliteit die een algemene veronderstelling in AI in twijfel trekt. Het demonstreert dat expertlabels, met hun hoge geloofwaardigheid, consistent beter presteren dan grote, crowdsourced annotaties. Zij maten dit met behulp van Cohen’s Kappa, een statistisch instrument dat beoordeelt hoe goed de voorspellingen van het model overeenkomen met de mening van experts, voorbij wat zou gebeuren door toeval. In Google’s experimenten bereikten expertannotators Cohen’s Kappa-scores boven 0,8, wat aanzienlijk beter is dan wat crowdsourcing typisch biedt.

Deze hogere consistentie stelt modellen in staat om effectief te leren van veel minder voorbeelden. In tests met Gemini Nano-1 en Nano-2, evenaarden of overtroffen modellen de expertalignering met slechts 250-450 zorgvuldig geselecteerde voorbeelden, in vergelijking met ongeveer 100.000 willekeurige crowdsourced labels. Dat is een reductie van drie tot vier ordes van grootte. Echter, de voordelen zijn niet alleen beperkt tot het gebruik van minder data. Modellen getraind met deze benadering presteren vaak beter dan modellen getraind met traditionele methoden. Voor complexe taken en grotere modellen bereikten de prestatieverbeteringen 55-65% ten opzichte van de baseline, wat een meer substantiële en betrouwbare alignering met beleidsexperts aantoont.

Waarom deze doorbraak nu belangrijk is

Deze ontwikkeling komt op een kritiek moment voor de AI-industrie. Terwijl modellen groter en geavanceerder worden, is de traditionele aanpak van het schalen van trainingsdata steeds minder duurzaam. De milieukosten van het trainen van enorme modellen blijven groeiend, en de economische barrières voor toegang blijven hoog voor veel organisaties.

Google’s methode pakt meerdere industrie-uitdagingen tegelijk aan. De dramatische reductie in labelkosten maakt AI-ontwikkeling toegankelijker voor kleinere organisaties en onderzoeksteams. De snellere iteratiecycli maken het mogelijk om snel aan te passen aan veranderende eisen, wat essentieel is in dynamische domeinen zoals contentmoderatie of cybersecurity.

De aanpak heeft ook bredere implicaties voor AI-veiligheid en betrouwbaarheid. Door zich te concentreren op de gevallen waarin modellen het meest onzeker zijn, identificeert de methode natuurlijk potentiële foutmodi en randgevallen. Dit proces creëert robuustere systemen die hun beperkingen beter begrijpen.

De bredere implicaties voor AI-ontwikkeling

Deze doorbraak suggereert dat we mogelijk een nieuwe fase van AI-ontwikkeling ingaan waarin efficiëntie belangrijker is dan schaal. De traditionele “groter is beter”-aanpak voor trainingsdata kan plaatsmaken voor meer geavanceerde methoden die datakwaliteit en strategische selectie prioriteren.

De milieueffecten alleen al zijn aanzienlijk. Het trainen van grote AI-modellen vereist momenteel enorme computationele middelen en energieverbruik. Als vergelijkbare prestaties kunnen worden behaald met aanzienlijk minder data, kan de koolstofvoetafdruk van AI-ontwikkeling aanzienlijk afnemen.

Het democratiserende effect kan even belangrijk zijn. Kleine onderzoeksteams en organisaties die eerder niet in staat waren om enorme data-verzamelingen te betalen, hebben nu een pad naar concurrerende AI-systemen. Deze ontwikkeling kan innovatie versnellen en meer diverse perspectieven in AI-ontwikkeling creëren.

Beperkingen en overwegingen

Ondanks de veelbelovende resultaten, staat de methode voor een aantal praktische uitdagingen. De vereiste voor expertannotators met Cohen’s Kappa-scores boven 0,8 kan de toepasbaarheid beperken in domeinen met onvoldoende expertise of duidelijke evaluatiecriteria. Het onderzoek richt zich voornamelijk op classificatieTaken en contentveiligheids-toepassingen. Of dezelfde dramatische verbeteringen van toepassing zijn op andere soorten AI-taken, zoals taalgeneratie of redenering, moet nog worden onderzocht.

De iteratieve aard van actief leren introduceert complexiteit in vergelijking met traditionele batchverwerkingbenaderingen. Organisaties moeten nieuwe workflows en infrastructuur ontwikkelen om de vraag-antwoordcycli te ondersteunen die continue modelverbetering mogelijk maken.

Toekomstig onderzoek zal waarschijnlijk geautomatiseerde benaderingen voor het behouden van expertniveau annotatiekwaliteit en domeinspecifieke adaptaties van de kernmethode onderzoeken. De integratie van actief leren principes met andere efficiëntietechnieken, zoals parameter-efficient fine-tuning, kan extra prestatieverbeteringen opleveren.

De bottom line

Google’s onderzoek toont aan dat gerichte, hoge kwaliteit data effectiever kan zijn dan enorme datasets. Door zich te concentreren op het labelen van alleen de meest waardevolle voorbeelden, verlaagden zij de trainingsbehoeften met tot 10.000 keer, terwijl de prestaties verbeterden. Deze aanpak verlaagt de kosten, versnelt de ontwikkeling, vermindert de milieueffecten en maakt geavanceerde AI toegankelijker. Het markeert een significante verschuiving naar efficiënte en duurzame AI-ontwikkeling.