AI-modeller kæmper med at forudsige menneskers uregelmæssige adfærd under Covid-19-pandemien

Butiks- og servicevirksomheder verden over bruger AI-algoritmer til at forudsige kundernes adfærd, opgøre lagerbeholdninger, estimere marketingvirkninger og opdage mulige tilfælde af svindel. De maskinlæringsmodeller, der bruges til at lave disse forudsigelser, er trænet på mønstre, der er afledt fra den normale, daglige aktivitet hos mennesker. Desværre har vores daglige aktivitet ændret sig under coronaviruspandemien, og som MIT Technology Review har rapporteret, kastes nuværende maskinlæringsmodeller af sporet som følge heraf. Alvorligheden af problemet varierer fra virksomhed til virksomhed, men mange modeller er blevet negativt påvirket af den pludselige ændring i menneskers adfærd over de sidste par uger.

Da coronaviruspandemien opstod, skiftede menneskers købsvaner dramatisk. Før pandemien var de mest købte genstande ting som telefonhuse, telefonopladringsenheder, hovedtelefoner, køkkenredskaber. Efter pandemien blev Amazons top 10-søgeord ting som Clorox-vaskeklude, Lysol-spray, papirruller, hånddesinfektion, ansigtsmasker og toiletpapir. Over de sidste uger af februar blev alle Amazons top-søgord relateret til produkter, som mennesker havde brug for for at beskytte sig selv mod Covid-19. Korrelationen mellem Covid-19-relaterede produktsøgninger/køb og spredningen af sygdommen er så pålidelig, at den kan bruges til at spore spredningen af pandemien over forskellige geografiske områder. Alligevel bryder maskinlæringsmodellerne sammen, når modellens inputdata er for forskellig fra den data, der blev brugt til at træne modellen.

Situationens volatilitet har gjort automatiseringen af forsyningskæder og lagerbeholdninger svær. Rael Cline, administrerende direktør for den London-baserede konsulentvirksomhed Nozzle, forklarede, at virksomheder forsøger at optimere efterspørgslen på toiletpapir for en uge siden, mens “alle nu vil købe puslespil eller fitnessudstyr denne uge”.

Andre virksomheder har deres egne problemer. En virksomhed giver investeringsanbefalinger baseret på stemningen i forskellige nyhedsartikler, men da stemningen i nyhedsartiklerne i øjeblikket ofte er mere pessimistisk end normalt, kan investeringsrådet være stærkt fordrejet mod det negative. Imens bruger en streamingvideo-virksomhed anbefalingsalgoritmer til at foreslå indhold til seerne, men da mange mennesker pludselig tilmeldte sig tjenesten, begyndte deres anbefalinger at falde fra målet. Endnu en virksomhed, der er ansvarlig for at forsyne detailhandlere i Indien med kondimenter og saucer, opdagede, at bulkbestillinger brød deres prædiktionsmodeller.

Forskellige virksomheder håndterer problemerne forårsaget af pandemibehaviorismen på forskellige måder. Nogle virksomheder justerer simpelthen deres estimater nedad. Mennesker fortsætter med at abonnere på Netflix (NFLX ) og købe produkter på Amazon (AMZN ), men de har skåret ned på luksusudgifter og udsat køb af større varer. På en måde kan menneskers udgifter opfattes som en kontraktion af deres normale adfærd.

Andre virksomheder har måttet blive mere håndfaste med deres modeller og få ingeniører til at lave vigtige justeringer af modellen og dens træningsdata. For eksempel er Phrasee en AI-virksomhed, der bruger naturligt sprogbehandling og genereringsmodeller til at oprette kopier og annoncer for en række kunder. Phrasee har altid ingeniører, der checker, hvilken tekst modellen genererer, og virksomheden er begyndt at manuelt filtrere visse fraser ud af deres kopier. Phrasee har besluttet at forbyde genereringen af fraser, der kan opmuntre til farlige aktiviteter under en periode med social afstand, fraser som “festtøj”. De har også besluttet at begrænse termer, der kan føre til angst, som “forbered dig”, “gør dig klar” eller “lagre op”.

Covid-19-krisen har vist, at uventede begivenheder kan kaste endda højt trænede modeller, der normalt er pålidelige, af sporet, fordi ting kan blive meget værre end de værste scenarier, der normalt er inkluderet i træningsdata. Rajeev Sharma, administrerende direktør for AI-konsulentvirksomheden Pactera Edge, forklarede til MIT Technology Review, at maskinlæringsmodeller kan gøres mere pålidelige ved at blive trænet på uventede begivenheder som Covid-19-pandemien og den store depression, samt de normale op- og nedadgående fluktuationer.