AI-modeller kämpar för att förutsäga människors oregelbundna beteende under Covid-19-pandemin

Detaljhandels- och tjänsteföretag runt om i världen använder AI-algoritmer för att förutsäga kundbeteenden, inventera lager, uppskatta marknadsföringseffekter och upptäcka möjliga fall av bedrägeri. De maskininlärningsmodeller som används för att göra dessa förutsägelser är tränade på mönster som härrör från människors normala vardagliga aktivitet. Tyvärr har vår dagliga verksamhet förändrats under coronavirus-pandemin, och som MIT Technology Review rapporterade nuvarande maskininlärningsmodeller förkastas som ett resultat. Problemets svårighetsgrad skiljer sig från företag till företag, men många modeller har påverkats negativt av den plötsliga förändringen i människors beteende under de senaste veckorna.

När coronavirus-pandemin inträffade förändrades människors köpvanor dramatiskt. Innan pandemin började var de vanligast köpta föremålen saker som telefonfodral, telefonladdare, hörlurar, köksutrustning. Efter starten av pandemin blev Amazons topp 10 söktermer saker som Clorox-servetter, Lysol-spray, pappershanddukar, handdesinfektionsmedel, ansiktsmasker och toalettpapper. Under den sista veckan i februari blev de populäraste Amazon-sökningarna relaterade till produkter som människor måste skydda sig från Covid-19. Korrelationen mellan Covid-19-relaterade produktsökningar/köp och spridningen av sjukdomen är så tillförlitlig att den kan användas för att spåra spridningen av pandemin över olika geografiska regioner. Ändå går maskininlärningsmodeller sönder när modellens indata skiljer sig för mycket från de data som används för att träna modellen.

Situationens volatilitet har försvårat automatisering av försörjningskedjor och lager. Rael Cline, VD för London-baserade konsultföretaget Nozzle, förklarade att företag försöker optimera för efterfrågan på slitpapper för en vecka sedan, medan "den här veckan vill alla köpa pussel eller gymutrustning."

Andra företag har sin egen del av problem. Ett företag ger investeringsrekommendationer baserat på olika nyhetsartiklars sentiment, men eftersom sentimentet för nyhetsartiklar för tillfället ofta är mer pessimistiskt än vanligt kan investeringsråden vara kraftigt snedställda mot det negativa. Samtidigt använde ett strömmande videoföretag rekommendationsalgoritmer för att föreslå innehåll till tittarna, men eftersom många människor plötsligt prenumererade på tjänsten började deras rekommendationer falla från märket. Ännu ett företag som ansvarade för att förse återförsäljare i Indien med kryddor och såser upptäckte att bulkbeställningar bröt deras prediktiva modeller.

Olika företag hanterar problemen som orsakas av pandemiska beteendemönster på olika sätt. Vissa företag reviderar helt enkelt sina uppskattningar nedåt. Människor fortsätter fortfarande att prenumerera på Netflix och köpa produkter på Amazon, men de har dragit ner på lyxutgifterna och skjutit upp köp av stora biljetter. På sätt och vis kan människors utgiftsbeteende ses som en sammandragning av deras vanliga beteende.

Andra företag har varit tvungna att få mer hand-on med sina modeller och har låtit ingenjörer göra viktiga justeringar av modellen och dess utbildningsdata. Till exempel är Phrasee ett AI-företag som använder naturlig språkbehandling och genereringsmodeller för att skapa kopior och annonser för en mängd olika kunder. Phrasee låter alltid ingenjörer kontrollera vilken text modellen genererar, och företaget har börjat manuellt filtrera bort vissa fraser i sin kopia. Phrasee har beslutat att förbjuda generering av fraser som kan uppmuntra farliga aktiviteter under en tid av social distans, fraser som "festkläder". De har också bestämt sig för att begränsa termer som kan leda till ångest, som att "hålla på dig", "spänna fast" eller "förråd".

Covid-19-krisen har visat att galna händelser kan kasta av sig även välutbildade modeller som vanligtvis är tillförlitliga, eftersom saker och ting kan bli mycket värre än de värsta scenarierna som vanligtvis ingår i träningsdata. Rajeev Sharma, VD för AI-konsultföretaget Pactera Edge, förklarade för MIT Technology Review att maskininlärningsmodeller skulle kunna göras mer tillförlitliga genom att tränas på galna händelser som Covid-19-pandemin och den stora depressionen, förutom de vanliga svängningarna uppåt och nedåt.