Google-onderzoekers ontdekken underspecification-probleem dat veel AI-modellen tegenhoudt

Onlangs heeft een team van onderzoekers van Google (GOOGL ) een veelvoorkomende oorzaak voor de mislukkingen van AI-modellen geïdentificeerd, waarbij underspecification wordt aangewezen als een van de belangrijkste redenen waarom machine learning-modellen vaak heel anders presteren in de echte wereld dan tijdens testen en ontwikkeling.

Machine learning-modellen falen vaak als ze taken in een echte wereldomgeving uitvoeren, zelfs als de modellen optimaal presteren in het lab. Er zijn veel redenen waarom de mismatch tussen training/ontwikkeling en echte wereldprestaties optreedt. Een van de meest voorkomende redenen waarom AI-modellen falen bij echte wereldtaken, is een concept dat bekend staat als gegevensverschuiving. Gegevensverschuiving verwijst naar een fundamenteel verschil tussen het type gegevens dat wordt gebruikt om een machine learning-model te ontwikkelen en de gegevens die in het model worden ingevoerd tijdens de toepassing. Als voorbeeld zullen computer vision-modellen die zijn getraind op hoge kwaliteit beeldgegevens, moeite hebben om te presteren wanneer ze gegevens krijgen die zijn vastgelegd met lage kwaliteit camera’s die in de dagelijkse omgeving van het model worden aangetroffen.

Volgens MIT Technology Review heeft een team van 40 verschillende onderzoekers bij Google een andere reden geïdentificeerd waarom de prestaties van een machine learning-model zo drastisch kunnen variëren. Het probleem is “underspecification”, een statistisch concept dat problemen beschrijft waarbij waargenomen fenomenen veel mogelijke oorzaken hebben, waarvan niet alle worden geaccounteerd door het model. Volgens de leider van de studie, Alex D’Amour, wordt het probleem waargenomen in veel machine learning-modellen, waarbij hij zegt dat het fenomeen “overal plaatsvindt”.

De typische methode om een machine learning-model te trainen, bestaat uit het voeden van het model met een grote hoeveelheid gegevens die het kan analyseren en relevante patronen uit kan halen. Vervolgens wordt het model gevoed met voorbeelden die het nog niet heeft gezien en wordt het gevraagd om de aard van die voorbeelden te voorspellen op basis van de kenmerken die het heeft geleerd. Zodra het model een bepaald niveau van nauwkeurigheid heeft bereikt, wordt de training meestal als voltooid beschouwd.

Volgens het Google-onderzoeksteam moet er meer worden gedaan om ervoor te zorgen dat de modellen echt kunnen generaliseren naar niet-trainingsgegevens. De klassieke methode van trainen van machine learning-modellen zal verschillende modellen produceren die allemaal hun tests kunnen doorstaan, maar deze modellen zullen op kleine manieren verschillen die onbeduidend lijken, maar dat niet zijn. Verschillende knooppunten in de modellen zullen verschillende willekeurige waarden hebben toegewezen, of de trainingsgegevens kunnen op verschillende manieren worden geselecteerd of weergegeven. Deze variaties zijn klein en vaak willekeurig, en als ze geen grote impact hebben op de prestaties van de modellen tijdens de training, zijn ze gemakkelijk over het hoofd gezien. Echter, wanneer de impact van al deze kleine veranderingen zich ophoopt, kunnen ze leiden tot grote variaties in echte wereldprestaties.

Deze underspecification is problematisch omdat het betekent dat, zelfs als het trainingsproces in staat is om goede modellen te produceren, het ook een slecht model kan produceren en het verschil zou niet worden ontdekt totdat het model de productie heeft verlaten en in gebruik is genomen.

Om de impact van underspecification te beoordelen, onderzocht het onderzoeksteam een aantal verschillende modellen. Elk model werd getraind met behulp van hetzelfde trainingsproces, en vervolgens werden de modellen onderworpen aan een reeks tests om de verschillen in prestaties te benadrukken. In één geval werden 50 verschillende versies van een beeldherkenningsysteem getraind op de ImageNet-dataset. De modellen waren allemaal hetzelfde, behalve de neurale netwerkwaarden die ze willekeurig waren toegewezen tijdens het begin van de training. De stresstests die werden gebruikt om de verschillen in de modellen te bepalen, werden uitgevoerd met ImageNet-C, een variatie op de oorspronkelijke dataset bestaande uit beelden die zijn gewijzigd door contrast- of helderheidsaanpassing. De modellen werden ook getest op ObjectNet, een reeks beelden met alledaagse objecten in ongebruikelijke oriëntaties en contexten. Ondanks dat alle 50 modellen ongeveer dezelfde prestaties hadden op de trainingsdataset, varieerde de prestatie sterk toen de modellen werden getest met de stresstests.

Het onderzoeksteam vond soortgelijke resultaten toen ze twee verschillende NLP-systemen trainden en stresstestten, evenals toen ze verschillende andere computer vision-modellen testten. In elk geval vertoonden de modellen een grote variatie onderling, ondanks dat het trainingsproces voor alle modellen hetzelfde was.

Volgens D’Amour moeten machine learning-onderzoekers en -ingenieurs veel meer stresstests uitvoeren voordat ze modellen in de echte wereld vrijgeven. Dit kan moeilijk zijn, aangezien stresstests moeten worden aangepast aan specifieke taken met behulp van gegevens uit de echte wereld, die moeilijk te verkrijgen kunnen zijn voor bepaalde taken en contexten. Een mogelijke oplossing voor het probleem van underspecification is om meerdere modellen tegelijk te produceren en vervolgens de modellen te testen op een reeks echte wereldtaken, waarbij het model wordt geselecteerd dat consistent de beste resultaten laat zien. Het ontwikkelen van modellen op deze manier kost veel tijd en middelen, maar de trade-off kan de moeite waard zijn, vooral voor AI-modellen die worden gebruikt in medische contexten of andere gebieden waar veiligheid een belangrijke zorg is. Zoals D’Amour via MIT Technology Review verklaarde:

“We moeten beter worden in het specificeren van exacte eisen voor onze modellen. Omdat vaak gebeurt dat we deze eisen pas ontdekken nadat het model is mislukt in de wereld.”