AI-modeller sliter med å forutsi folks uregelmessige oppførsel under Covid-19-pandemien

Detaljhandels- og tjenesteselskaper rundt om i verden bruker AI-algoritmer for å forutsi kundeadferd, ta opp lagerbeholdning, estimere markedsføringseffekter og oppdage mulige tilfeller av svindel. Maskinlæringsmodellene som brukes til å lage disse spådommene er trent på mønstre som stammer fra den normale, dagligdagse aktiviteten til mennesker. Dessverre har vår daglige aktivitet endret seg under koronaviruspandemien, og som MIT Technology Review rapporterte at nåværende maskinlæringsmodeller blir kastet av som et resultat. Alvorlighetsgraden av problemet varierer fra selskap til selskap, men mange modeller har blitt negativt påvirket av den plutselige endringen i folks atferd i løpet av de siste ukene.

Da koronaviruspandemien inntraff, endret kjøpsvanene til folk seg dramatisk. Før utbruddet av pandemien var de mest kjøpte gjenstandene ting som telefondeksler, telefonladere, hodetelefoner, kjøkkenutstyr. Etter starten av pandemien ble Amazons topp 10 søkeord ting som Clorox-servietter, Lysol-spray, papirhåndklær, hånddesinfeksjon, ansiktsmasker og toalettpapir. I løpet av den siste uken i februar ble de beste Amazon-søkene alle relatert til produkter folk trengte å beskytte seg mot Covid-19. Korrelasjonen mellom Covid-19-relaterte produktsøk/kjøp og spredningen av sykdommen er så pålitelig at den kan brukes til å spore spredningen av pandemien over ulike geografiske regioner. Men maskinlæringsmodeller bryter sammen når modellens inngangsdata er for forskjellige fra dataene som brukes til å trene modellen.

Volatiliteten i situasjonen har gjort automatisering av forsyningskjeder og varelager vanskelig. Rael Cline, administrerende direktør for det London-baserte konsulentselskapet Nozzle, forklarte at selskaper prøver å optimalisere for etterspørselen etter slitepapir for en uke siden, mens "denne uken ønsker alle å kjøpe puslespill eller treningsutstyr."

Andre selskaper har sin egen andel av problemer. Ett selskap gir investeringsanbefalinger basert på sentimentet til ulike nyhetsartikler, men fordi sentimentet til nyhetsartikler for øyeblikket ofte er mer pessimistisk enn vanlig, kan investeringsrådene være sterkt skjevt mot det negative. I mellomtiden brukte et streaming-videoselskap anbefalingsalgoritmer for å foreslå innhold til seerne, men ettersom mange mennesker plutselig abonnerte på tjenesten begynte anbefalingene deres å falle fra merket. Nok et selskap som er ansvarlig for å forsyne detaljister i India med krydder og sauser oppdaget at bulkbestillinger brøt deres prediktive modeller.

Ulike selskaper håndterer problemene forårsaket av pandemiske atferdsmønstre på forskjellige måter. Noen selskaper nedjusterer ganske enkelt estimatene sine. Folk fortsetter fortsatt å abonnere på Netflix og kjøpe produkter på Amazon, men de har kuttet ned på luksusutgifter og utsatt kjøp av store billetter. På en måte kan folks forbruksatferd oppfattes som en sammentrekning av deres vanlige oppførsel.

Andre selskaper har måttet få mer hånd om modellene sine og har fått ingeniører til å gjøre viktige justeringer av modellen og dens treningsdata. For eksempel er Phrasee et AI-firma som bruker naturlig språkbehandling og generasjonsmodeller for å lage kopier og annonser for en rekke kunder. Phrasee lar alltid ingeniører sjekke hvilken tekst modellen genererer, og selskapet har begynt å manuelt filtrere ut visse fraser i sin kopi. Phrasee har bestemt seg for å forby generering av setninger som kan oppmuntre til farlige aktiviteter i en tid med sosial distansering, setninger som "festklær". De har også bestemt seg for å begrense termer som kan føre til angst, som "spenn på deg", "spenne opp" eller "lagre opp".

Covid-19-krisen har vist at freak-hendelser kan kaste av seg selv høyt trente modeller som vanligvis er pålitelige, ettersom ting kan bli mye verre enn de verste scenarioene som vanligvis er inkludert i treningsdata. Rajeev Sharma, administrerende direktør i AI-konsulentselskapet Pactera Edge, forklarte til MIT Technology Review at maskinlæringsmodeller kan gjøres mer pålitelige ved å bli trent på freak-hendelser som Covid-19-pandemien og den store depresjonen, i tillegg til de vanlige svingningene oppover og nedover.