AI-modeller har svårt att förutsäga människors oregelbundna beteende under Covid-19-pandemin

Detaljhandels- och serviceföretag runt om i världen använder AI-algoritmer för att förutsäga kundbeteenden, ta lager av lager, uppskatta marknadsföringseffekter och upptäcka möjliga fall av bedrägeri. De maskinlärningsmodeller som används för att göra dessa förutsägelser är tränade på mönster som härrör från det normala, vardagliga beteendet hos människor. Tyvärr har vår vardagliga aktivitet förändrats under coronaviruspandemin, och som MIT Technology Review rapporterade, så kastas nuvarande maskinlärningsmodeller omkull som ett resultat. Allvaret i problemet varierar från företag till företag, men många modeller har negativt påverkats av den plötsliga förändringen i människors beteende under de senaste veckorna.

När coronaviruspandemin inträffade, förändrades människors köpbeteenden dramatiskt. Före pandemins början var de vanligast köpta objekten saker som mobilskal, mobil-laddare, hörlurar, köksredskap. Efter pandemins början blev Amazons topp 10-söktermer saker som Clorox-torkar, Lysol-spray, pappershanddukar, handsanitizer, ansiktsmasker och toalettpapper. Under den sista veckan i februari blev alla Amazons toppsökter relaterade till produkter som människor behövde för att skydda sig från Covid-19. Korrelationen mellan Covid-19-relaterade produktsökningar/köp och spridningen av sjukdomen är så tillförlitlig att den kan användas för att spåra spridningen av pandemin över olika geografiska områden. Men maskinlärningsmodeller bryter samman när modellens indata är för annorlunda än de data som användes för att träna modellen.

Situationens volatilitet har gjort det svårt att automatisera leveranskedjor och lager. Rael Cline, VD för den London-baserade konsultfirman Nozzle, förklarade att företag försöker optimera efterfrågan på toalettpapper för en vecka sedan, medan “alla vill köpa pussel eller gymutrustning” den här veckan.

Andra företag har sina egna problem. Ett företag ger investeringsråd baserat på sentimentet i olika nyhetsartiklar, men eftersom sentimentet i nyhetsartiklarna just nu ofta är mer pessimistiskt än vanligt, kan investeringsrådet vara kraftigt snedvridet mot det negativa. Medan ett streaming-video-företag använder rekommendationsalgoritmer för att föreslå innehåll till tittare, men eftersom många människor plötsligt prenumererar på tjänsten, började deras rekommendationer att bli mindre träffsäkra. Ett annat företag som ansvarar för att leverera kryddor och såser till detaljhandlare i Indien upptäckte att bulkbeställningar bröt deras förutsägelsemodeller.

Olika företag hanterar problemen orsakade av pandemibeteenden på olika sätt. Vissa företag reviderar helt enkelt sina uppskattningar nedåt. Människor fortsätter att prenumerera på Netflix (NFLX ) och köpa produkter på Amazon (AMZN ), men de har skurit ner på lyxutgifter, skjutit upp inköp av stora artiklar. I en viss mening kan människors utgiftsbeteenden ses som en kontraktion av deras vanliga beteende.

Andra företag har varit tvungna att bli mer handgripliga med sina modeller och låta ingenjörer göra viktiga justeringar av modellen och dess träningsdata. Till exempel är Phrasee ett AI-företag som använder naturligt språkbehandling och genereringsmodeller för att skapa kopior och annonser för en mängd olika kunder. Phrasee låter alltid ingenjörer kontrollera vilken text modellen genererar, och företaget har börjat manuellt filtrera bort vissa fraser i sin kopia. Phrasee har beslutat att förbjuda genereringen av fraser som kan uppmuntra farliga aktiviteter under en tid av social distansering, fraser som “party-kläder”. De har också beslutat att begränsa termer som kan leda till ångest, som “förbered dig”, “säkra upp” eller “lagra”.

Covid-19-krisen har visat att ovanliga händelser kan kasta omkull även högt utvecklade modeller som vanligtvis är tillförlitliga, eftersom saker kan bli mycket värre än de värsta fallscenarier som vanligtvis ingår i träningsdata. Rajeev Sharma, VD för AI-konsultföretaget Pactera Edge, förklarade för MIT Technology Review att maskinlärningsmodeller kunde göras mer tillförlitliga genom att träna dem på ovanliga händelser som Covid-19-pandemin och den stora depressionen, utöver de vanliga upp- och nedgångarna.