Djupinlärningssystem lär sig bättre när det distraheras

Datorforskare från Nederländerna och Spanien har fastställt hur ett djupinlärningssystem lär sig bättre när det distraheras. Den artificiella intelligensen (AI) är inriktad på bildigenkänning och kan lära sig att känna igen sin omgivning. Teamet kunde förenkla läroprocessen efter att ha tvingat systemet att fokusera på sekundära egenskaper.

Konvolutionsneuronnät

Djupinlärningssystemet bygger på konvolutionsneuronnät (CNN), som är en form av djupinlärning för AI-system.

Estefanía Talavera Martinez är föreläsare och forskare vid Bernoulli-institutet för matematik, datavetenskap och artificiell intelligens vid universitetet i Groningen i Nederländerna.

“Dessa CNN är framgångsrika, men vi förstår inte helt hur de fungerar”, säger Talavera Martinez.

Talavera Martinez har använt CNN för att analysera bilder som kommer från bärbara kameror medan hon studerar mänskligt beteende. En del av hennes arbete har handlat om att studera mänskliga interaktioner med mat, så hon satte sig för att göra systemet att känna igen de olika miljöer där människor möter mat.

“Jag märkte att systemet gjorde fel i klassificeringen av vissa bilder och behövde veta varför detta hände”, sa hon.

Hon använde värmebilder och analyserade vilka delar av bilderna som användes av CNN för att identifiera miljön.

“Detta ledde till hypotesen att systemet inte tittade på tillräckligt med detaljer”, sa hon.

Ett exempel som gavs var att ett AI-system lärde sig att använda muggar för att identifiera ett kök. I detta exempel kunde AI felaktigt klassificera områden som vardagsrum och kontor, som också ofta har muggar.

Talavera Martinez och hennes team satte sedan igång för att utveckla en lösning. Hennes kollegor inkluderade David Morales och Beatriz Remeseiro, båda i Spanien. Den föreslagna lösningen var att distrahera systemet från deras primära mål.

Att utveckla lösningen

Teamet tränade CNN med en standardbildsamling av flygplan eller bilar, och de identifierade vilka delar av bilderna som användes för klassificering genom värmebilder. Dessa delar av bilderna suddades ut i bildsamlingen, och bildsamlingen användes för en andra omgång av träning.

“Detta tvingar systemet att leta efter identifierare på andra ställen. Och genom att använda denna extra information blir det mer detaljerat i sin klassificering”, sa Talavera Martinez.

Det nya systemet fungerade bra i standardbildsamlingen och var framgångsrikt i bilderna som samlades in från bärbara kameror.

“Vår träningsregim ger oss resultat som liknar andra tillvägagångssätt, men är mycket enklare och kräver mindre beräknings tid”, sa hon.

Tidigare försök att öka detaljerad klassificering har fokuserat på kombinationen av olika uppsättningar av CNN, men den nyligen utvecklade metoden är mycket lättare.

“Denna studie gav oss en bättre förståelse för hur dessa CNN lär sig, och det har hjälpt oss att förbättra träningsprogrammet”, sa Talavera Martinez.