Google-forskare upptäcker underspecifikationsproblem som hämmar många AI-modeller

Nyligen har ett team av forskare från Google (GOOGL ) identifierat en vanlig orsak till att AI-modeller misslyckas, och pekar på underspecifikation som en av de primära anledningarna till att maskinlärningsmodeller ofta fungerar mycket sämre i den verkliga världen än under testning och utveckling.

Maskinlärningsmodeller misslyckas ofta när de hanterar uppgifter i en verklig miljö, även om modellerna fungerar optimalt i laboratoriet. Det finns många anledningar till att skillnaden mellan utveckling och verklig prestanda uppstår. En av de vanligaste anledningarna till att AI-modeller misslyckas under verkliga uppgifter är ett begrepp som kallas dataskift. Dataskift syftar på en grundläggande skillnad mellan den typ av data som används för att utveckla en maskinlärningsmodell och den data som matas in i modellen under tillämpning. Som exempel kommer datorseende-modeller som tränats på högkvalitetsbilddata att ha svårt att fungera när de matas med data som tagits med lågkvalitetskameror som finns i modellens dagliga miljö.

Enligt MIT Technology Review har ett team om 40 olika forskare på Google identifierat en annan anledning till att prestandan hos en maskinlärningsmodell kan variera så drastiskt. Problemet är “underspecifikation”, ett statistiskt begrepp som beskriver problem där observerade fenomen har många möjliga orsaker, varav inte alla är tillräckligt täckta av modellen. Enligt studiens ledare Alex D’Amour förekommer detta fenomen i många maskinlärningsmodeller och hävdar att det “händer överallt”.

Den typiska metoden för att träna en maskinlärningsmodell innebär att mata in en stor mängd data som modellen kan analysera och extrahera relevanta mönster från. Därefter matas modellen exempel som den inte sett tidigare och får i uppgift att förutsäga exempelens natur baserat på de funktioner den har lärt sig. När modellen har uppnått en viss nivå av precision anses vanligtvis utbildningen vara avslutad.

Enligt Google-forskarteamet behöver mer göras för att säkerställa att modellerna kan verkligen generalisera till icke-träningsdata. Den klassiska metoden för att träna maskinlärningsmodeller kommer att producera olika modeller som alla kan passera test, men dessa modeller kommer att skilja sig åt på små sätt som kan tyckas obetydliga men inte är det. Olika noder i modellerna kan ha olika slumpmässiga värden tilldelade, eller träningsdata kan väljas eller representeras på olika sätt. Dessa variationer är små och ofta godtyckliga, och om de inte har en stor inverkan på hur modellerna fungerar under utbildning, är de lätta att förbise. Men när effekten av alla dessa små förändringar ackumuleras, kan de leda till stora variationer i verklig prestanda.

Denna underspecifikation är problematisk eftersom den innebär att, även om utbildningsprocessen kan producera bra modeller, kan den också producera en dålig modell och skillnaden upptäcks inte förrän modellen har lämnat produktionen och kommit i användning.

För att bedöma underspecifikationens inverkan undersökte forskarteamet ett antal olika modeller. Varje modell tränades med samma utbildningsprocess, och sedan utsattes modellerna för en serie tester för att belysa skillnader i prestanda. I ett fall tränades 50 olika versioner av ett bildigenkänningsystem på ImageNet-databasen. Modellerna var alla desamma utom de neurala nätverksvärden som de slumpmässigt tilldelades under utbildningens början. Stress-testerna som användes för att bestämma skillnader i modellerna genomfördes med ImageNet-C, en variation av den ursprungliga databasen bestående av bilder som ändrats genom kontrast- eller ljusstyrkejustering. Modellerna testades också på ObjectNet, en serie bilder med vardagsföremål i ovanliga orienteringar och sammanhang. Även om alla 50 modeller hade ungefär samma prestanda på träningsdatabasen, varierade prestandan kraftigt när modellerna kördes genom stress-testerna.

Forskarteamet fann liknande resultat när de tränade och testade två olika NLP-system, samt när de testade olika datorseende-modeller. I varje fall avvek modellerna kraftigt från varandra, trots att utbildningsprocessen för alla modeller var densamma.

Enligt D’Amour behöver maskinlärningsforskare och ingenjörer göra mycket mer stress-testning innan de släpper modeller i vildmarken. Det kan vara svårt att göra, eftersom stress-tester behöver anpassas till specifika uppgifter med data från den verkliga världen, data som kan vara svåra att få tag på för vissa uppgifter och sammanhang. En möjlig lösning på underspecifikationsproblemet är att producera många modeller på en gång och sedan testa modellerna på en serie verkliga uppgifter, och välja den modell som konsekvent visar de bästa resultaten. Att utveckla modeller på det sättet tar mycket tid och resurser, men kompromissen kan vara värd det, särskilt för AI-modeller som används i medicinska sammanhang eller andra områden där säkerhet är en främsta prioritet. Som D’Amour förklarade via MIT Technology Review:

“Vi behöver bli bättre på att specificera exakt vad våra krav är för våra modeller. Eftersom det som ofta händer är att vi upptäcker dessa krav först efter att modellen har misslyckats i världen.”