AI-modeller kämpar för att förutsäga människors oregelbundna beteende under Covid-19-pandemin

Detalj- och serviceföretag runt om i världen använder AI-algoritmer för att förutsäga kundbeteenden, ta lager av lager, uppskatta marknadsföringseffekter och upptäcka möjliga fall av bedrägeri. De maskinlärningsmodeller som används för att göra dessa förutsägelser är tränade på mönster som härrör från den normala, vardagliga aktiviteten hos människor. Tyvärr har vår vardagliga aktivitet förändrats under coronaviruspandemin, och som MIT Technology Review rapporterade, så kastas nuvarande maskinlärningsmodeller av detta. Allvaret i problemet skiljer sig från företag till företag, men många modeller har påverkats negativt av den plötsliga förändringen i människors beteende under de senaste veckorna.

När coronaviruspandemin inträffade, förändrades människors köpvanor dramatiskt. Före pandemins början var de vanligast köpta objekten saker som telefonfodral, telefonladdare, hörlurar, köksredskap. Efter pandemins början blev Amazons topp 10-söktermer saker som Clorox-torkdukar, Lysol-sprej, pappershanddukar, handsanitizer, ansiktsmasker och toalettpapper. Under den sista veckan i februari blev alla Amazons toppsökningar relaterade till produkter som människor behövde för att skydda sig från Covid-19. Korrelationen mellan Covid-19-relaterade produktsökningar/inköp och spridningen av sjukdomen är så tillförlitlig att den kan användas för att spåra spridningen av pandemin över olika geografiska områden. Ändå bryter maskinlärningsmodellerna samman när modellens indata är för annorlunda än de data som användes för att träna modellen.

Volatiliteten i situationen har gjort automatiseringen av leveranskedjor och lager svår. Rael Cline, vd för den London-baserade konsultfirman Nozzle, förklarade att företag försöker optimera för efterfrågan på toalettpapper för en vecka sedan, medan “alla vill köpa pussel eller gymutrustning den här veckan”.

Andra företag har sina egna problem. Ett företag som tillhandahåller investeringsrekommendationer baserat på sentimentet i olika nyhetsartiklar, men eftersom sentimentet i nyhetsartiklarna just nu ofta är mer pessimistiskt än vanligt, kan investeringsråden vara kraftigt snedvridna mot det negativa. Samtidigt använde en streamingvideoföretag rekommendationsalgoritmer för att föreslå innehåll till tittare, men när många människor plötsligt prenumererade på tjänsten, började deras rekommendationer att bli fel. Ett annat företag som ansvarar för att leverera detaljhandlare i Indien med kryddor och såser upptäckte att bulkbeställningar bröt deras prediktionsmodeller.

Olika företag hanterar problemen orsakade av pandemibeteenden på olika sätt. Vissa företag reviderar helt enkelt sina uppskattningar nedåt. Människor fortsätter att prenumerera på Netflix och köpa produkter på Amazon, men de har skurit ner på lyxutgifter, skjutit upp inköp av stora artiklar. På sätt och vis kan människors utgiftsbeteenden ses som en kontraktion av deras vanliga beteende.

Andra företag har varit tvungna att bli mer hands-on med sina modeller och låta ingenjörer göra viktiga justeringar av modellen och dess träningsdata. Till exempel är Phrasee ett AI-företag som använder naturlig språkbehandling och genereringsmodeller för att skapa kopior och annonser för en mängd olika kunder. Phrasee låter alltid ingenjörer kontrollera vilken text modellen genererar, och företaget har börjat manuellt filtrera bort vissa fraser i sin kopia. Phrasee har beslutat att förbjuda genereringen av fraser som kan uppmuntra farliga aktiviteter under en tid av social distansering, fraser som “party-kläder”. De har också beslutat att begränsa termer som kan leda till ångest, som “förbered dig”, “säkra upp” eller “lagerupp”.

Covid-19-krisen har visat att ovanliga händelser kan kasta av även väldigt vältränade modeller som vanligtvis är tillförlitliga, eftersom saker kan bli mycket värre än de värsta fallscenarier som vanligtvis ingår i träningsdata. Rajeev Sharma, vd för AI-konsultfirman Pactera Edge, förklarade för MIT Technology Review att maskinlärningsmodeller kunde göras mer tillförlitliga genom att tränas på ovanliga händelser som Covid-19-pandemin och den stora depressionen, utöver de vanliga upp- och nedgångarna.