AI-modeller kæmper med at forudsige menneskers uregelmæssige adfærd under Covid-19-pandemien

Detail- og servicevirksomheder verden over bruger AI-algoritmer til at forudsige kundeadfærd, opgøre lagerbeholdning, estimere marketingvirkninger og opdage mulige tilfælde af svindel. De maskinlæringsmodeller, der bruges til at lave disse forudsigelser, er trænet på mønstre, der er afledt fra den normale, daglige aktivitet hos mennesker. Desværre er vores daglige aktivitet ændret under coronaviruspandemien, og som MIT Technology Review har rapporteret, bliver nuværende maskinlæringsmodeller kastet over ende som følge heraf. Alvorligheden af problemet varierer fra virksomhed til virksomhed, men mange modeller er blevet negativt påvirket af den pludselige ændring i menneskers adfærd over de sidste par uger.

Når coronaviruspandemien opstod, skiftede menneskers købsvaner dramatisk. Før pandemiens begyndelse var de mest købte genstande ting som telefonhuse, telefonopladringsenheder, hovedtelefoner, køkkenredskaber. Efter pandemiens begyndelse blev Amazons top 10-søgeord ting som Clorox-udviskningsklude, Lysol-spray, papirruller, hånddesinfektionsmidler, ansigtsmasker og toiletpapir. Over den sidste uge i februar blev Amazons top-søg alle relateret til produkter, som mennesker havde brug for for at beskytte sig selv mod Covid-19. Korrelationen mellem Covid-19-relaterede produktsøgninger/køb og spredningen af sygdommen er så pålidelig, at den kan bruges til at spore spredningen af pandemien over forskellige geografiske områder. Alligevel bryder maskinlæringsmodeller sammen, når modellens inddata er for forskellig fra de data, der er brugt til at træne modellen.

Volatiliteten i situationen har gjort automatiseringen af forsyningskæder og lagerbeholdninger svær. Rael Cline, administrerende direktør for den London-baserede konsulentvirksomhed Nozzle, forklarede, at virksomheder forsøger at optimere efterspørgslen på toiletpapir for en uge siden, mens “alle vil købe puslespil eller fitnessudstyr denne uge”.

Andre virksomheder har deres eget sæt problemer. En virksomhed giver investeringsanbefalinger baseret på sentimentet i forskellige nyhedsartikler, men fordi sentimentet i nyhedsartiklerne lige nu ofte er mere pessimistisk end normalt, kan investeringsrådet være stærkt skævt mod det negative. Imens bruger en streamingvideo-virksomhed anbefalingsalgoritmer til at foreslå indhold til seere, men da mange mennesker pludselig tilmeldte sig tjenesten, begyndte deres anbefalinger at falde fra målet. Endnu en virksomhed, der er ansvarlig for at forsyne detailhandlere i Indien med kondimenter og saucer, opdagede, at bulkordrer brød deres prædiktionsmodeller.

Forskellige virksomheder håndterer problemerne forårsaget af pandemibeteende på forskellige måder. Nogle virksomheder justerer simpelthen deres anslåede nedad. Mennesker fortsætter med at abonnere på Netflix og købe produkter på Amazon, men de har skåret ned på luksusudgifter og udsat køb af store artikler. På en måde kan menneskers udgifter opfattes som en kontraktion af deres normale adfærd.

Andre virksomheder er blevet mere håndfaste med deres modeller og har fået ingeniører til at lave vigtige justeringer af modellen og dens træningsdata. For eksempel er Phrasee en AI-virksomhed, der bruger naturlig sprogbehandling og genereringsmodeller til at oprette kopier og reklamer for en række kunder. Phrasee har altid ingeniører, der kontrollerer, hvilken tekst modellen genererer, og virksomheden er begyndt at manuelt filtrere visse fraser ud af deres kopier. Phrasee har besluttet at forbyde genereringen af fraser, der kan opmuntre til farlige aktiviteter under en periode med social afstand, fraser som “festtøj”. De har også besluttet at begrænse termer, der kan føre til angst, som “forbered dig”, “spænd dig” eller “lagre op”.

Covid-19-krisen har demonstreret, at freak-hændelser kan kaste endda højt trænede modeller, der normalt er pålidelige, af sporet, fordi ting kan blive meget værre end de værste scenarier, der normalt er inkluderet i træningsdata. Rajeev Sharma, administrerende direktør for AI-konsulentvirksomheden Pactera Edge, forklarede til MIT Technology Review, at maskinlæringsmodeller kunne gøres mere pålidelige ved at blive trænet på freak-hændelser som Covid-19-pandemien og den store depression, samt de normale op- og nedadgående fluktuationer.