AI-modeller sliter med å forutsie menneskers irregulære atferd under Covid-19-pandemien

Butikk- og tjenesteselskaper over hele verden bruker AI-algoritmer til å forutsie kundeatferd, holde oversikt over lagerbeholdning, estimere markedsimpakt og oppdage mulige tilfeller av svindel. De maskinlæringsmodellene som brukes til å gjøre disse forutsigelsene, er trenet på mønster som er avledet fra den normale, daglige aktiviteten til mennesker. Dessverre har vår daglige aktivitet endret seg under koronapandemien, og som MIT Technology Review rapporterte, blir nåværende maskinlæringsmodeller kastet ut av denne grunn. Alvorlighetsgraden av problemet varierer fra selskap til selskap, men mange modeller har blitt negativt berørt av den plutselige endringen i menneskers atferd over de siste ukene.

Når koronapandemien inntrådte, skiftet menneskers kjøpsvaner dramatisk. Før pandemien var de mest kjøpte objektene ting som mobiltelefonhusholdningsutstyr, mobiltelefonlader, hodetelefoner, kjøkkenutstyr. Etter starten av pandemien ble Amazons topp 10 søkeord ting som Clorox-veiskyer, Lysol-spray, papirruller, hånddesinfeksjonsmiddel, ansiktsmasker og toalettpapir. Over de siste ukene i februar ble alle Amazons toppsøk relatert til produkter mennesker trengte for å beskytte seg mot Covid-19. Korrelasjonen mellom Covid-19-relaterte produktsøk og -kjøp og spredningen av sykdommen er så pålitelig at den kan brukes til å spore spredningen av pandemien over ulike geografiske regioner. Likevel bryter maskinlæringsmodellene sammen når modellens inndata er for forskjellig fra dataene som ble brukt til å trene modellen.

Volatiliteten i situasjonen har gjort det vanskelig å automatisere leveranskjeder og lagerbeholdning. Rael Cline, administrerende direktør i den londonbaserte konsulenten Nozzle, forklarte at selskaper prøver å optimalisere etterspørselen etter toalettpapir for en uke siden, mens “alle nå ønsker å kjøpe puslespill eller treningsutstyr”.

Andre selskaper har sine egne problemer. Et selskap gir investeringsanbefalinger basert på holdningen i ulike nyhetsartikler, men siden holdningen i nyhetsartiklene for tiden ofte er mer pessimistisk enn vanlig, kan investeringsrådene bli sterkt skjev mot det negative. I mellomtiden bruker en strømmevideotjeneste anbefalingsalgoritmer til å foreslå innhold til seerne, men da mange mennesker plutselig abonnerte på tjenesten, begynte anbefalingene å falle fra målet. Et annet selskap som er ansvarlig for å forsyne detaljhandlere i India med kondimenter og sauser, oppdaget at bulkbestillinger brøt deres prediktive modeller.

Ulike selskaper håndterer problemene forårsaket av pandemibehaviorismønster på ulike måter. Noen selskaper revisjonere bare sine estimater nedover. Folk fortsatt å abonnere på Netflix (NFLX ) og kjøpe produkter på Amazon (AMZN ), men de har kutta ned på luksusutgifter, utsatt kjøp av større varer. I en viss forstand kan menneskers utgiftsvaner sees på som en kontraksjon av deres vanlige atferd.

Andre selskaper har måttet bli mer hånd-til-hånd med sine modeller og har ingeniører som gjør viktige justeringer av modellen og dens treningdata. For eksempel er Phrasee et AI-selskap som bruker naturlig språkbehandling og genereringsmodeller til å lage kopier og annonser for en rekke kunder. Phrasee har alltid ingeniører som sjekker hva modellen genererer, og selskapet har begynt å manuelt filtrere ut visse fraser i sin kopi. Phrasee har besluttet å forby generering av fraser som kan oppmuntre til farlige aktiviteter under en tid med sosial distansering, fraser som “party-antrekk”. De har også besluttet å begrense termer som kan føre til angst, som “forbered deg”, “gjør deg klar” eller “lagre opp”.

Koronakrisen har vist at uventede hendelser kan kaste ut selv høyt trenede modeller som vanligvis er pålitelige, ettersom ting kan bli mye verre enn de verste scenariene som vanligvis er inkludert i treningdata. Rajeev Sharma, administrerende direktør i AI-konsulenten Pactera Edge, forklarte til MIT Technology Review at maskinlæringsmodeller kunne bli mer pålitelige ved å bli trenet på uventede hendelser som koronapandemien og den store depresjonen, i tillegg til de vanlige opp- og nedadgående fluktuasjonene.