AI-modellen hebben moeite om mensen’s onregelmatig gedrag te voorspellen tijdens de Covid-19-pandemie

Detailhandels- en dienstverleningsbedrijven over de hele wereld maken gebruik van AI-algoritmen om klantgedrag te voorspellen, voorraden te beheren, de impact van marketing te schatten en mogelijke gevallen van fraude te detecteren. De machine learning-modellen die voor deze voorspellingen worden gebruikt, zijn getraind op patronen die zijn afgeleid van de normale, dagelijkse activiteit van mensen. Helaas is onze dagelijkse activiteit veranderd tijdens de coronaviruspandemie, en zoals MIT Technology Review heeft gerapporteerd, worden de huidige machine learning-modellen hierdoor ontwricht. De ernst van het probleem verschilt van bedrijf tot bedrijf, maar veel modellen zijn negatief beïnvloed door de plotselinge verandering in het gedrag van mensen in de afgelopen weken.

Toen de coronaviruspandemie uitbrak, veranderden de aankoopgewoonten van mensen dramatisch. Voordat de pandemie begon, waren de meest gekochte objecten dingen zoals telefoonhoesjes, telefoonladers, koptelefoons, keukengerei. Na het begin van de pandemie werden de top 10 zoektermen van Amazon dingen zoals Clorox-doekjes, Lysol-spray, papieren handdoeken, handdesinfecterend middel, gezichtsmaskers en toiletpapier. In de loop van de laatste week van februari werden alle topzoekopdrachten van Amazon gerelateerd aan producten die mensen nodig hadden om zich te beschermen tegen Covid-19. De correlatie tussen Covid-19-gerelateerde productzoekopdrachten/aankopen en de verspreiding van de ziekte is zo betrouwbaar dat deze kan worden gebruikt om de verspreiding van de pandemie over verschillende geografische regio’s te volgen. Toch breken machine learning-modellen af wanneer de invoergegevens van het model te veel afwijken van de gegevens die zijn gebruikt om het model te trainen.

De volatiliteit van de situatie heeft het automatiseren van supply chains en voorraden moeilijk gemaakt. Rael Cline, de CEO van het in Londen gevestigde consultancybedrijf Nozzle, legde uit dat bedrijven proberen om de vraag naar toiletpapier van een week geleden te optimaliseren, terwijl “iedereen deze week puzzels of fitnessapparatuur wil kopen”.

Andere bedrijven hebben hun eigen problemen. Een bedrijf biedt beleggingsaanbevelingen op basis van de sentiment van verschillende nieuwsartikelen, maar omdat de sentiment van nieuwsartikelen op dit moment vaak meer pessimistisch is dan normaal, kan het beleggingsadvies sterk naar de negatieve kant hellen. Ondertussen gebruikt een streamingvideo-bedrijf aanbevelingsalgoritmen om content aan kijkers voor te stellen, maar toen veel mensen plotseling een abonnement op de dienst namen, begonnen hun aanbevelingen te falen. Nog een bedrijf dat retailers in India van condimenten en sauzen voorziet, ontdekte dat bulkbestellingen hun voorspellingsmodellen braken.

Verschillende bedrijven hanteren de problemen veroorzaakt door pandemiegewoonten op verschillende manieren. Sommige bedrijven passen hun schattingen simpelweg naar beneden aan. Mensen blijven nog steeds abonnementen nemen op Netflix en producten kopen op Amazon, maar ze hebben hun uitgaven aan luxeartikelen teruggeschroefd en aankopen van grote artikelen uitgesteld. In zekere zin kunnen de uitgavenpatronen van mensen worden opgevat als een contractie van hun normale gedrag.

Andere bedrijven moesten meer handmatig te werk gaan met hun modellen en hebben ingenieurs belangrijke aanpassingen aan het model en de trainingsgegevens laten maken. Zo gebruikt Phrasee, een AI-bedrijf, natuurlijke taalverwerking en generatiemodellen om kopie en advertenties voor verschillende klanten te maken. Phrasee laat altijd ingenieurs controleren welke tekst het model genereert, en het bedrijf is begonnen met het handmatig filteren van bepaalde zinnen in hun kopie. Phrasee heeft besloten om de generatie van zinnen die mogelijk gevaarlijke activiteiten tijdens een tijd van sociale distancing kunnen aanmoedigen, te verbieden, zoals “partykleding”. Ze hebben ook besloten om termen te beperken die tot angst kunnen leiden, zoals “bereid je voor”, “houd je vast” of “sla op”.

De Covid-19-crisis heeft aangetoond dat freakgebeurtenissen zelfs zeer getrainde modellen die normaal betrouwbaar zijn, kunnen ontwrichten, omdat dingen veel erger kunnen worden dan de worst-case-scenario’s die normaal in de trainingsgegevens worden opgenomen. Rajeev Sharma, CEO van het AI-consultancybedrijf Pactera Edge, legde aan MIT Technology Review uit dat machine learning-modellen betrouwbaarder zouden kunnen worden gemaakt door ze te trainen op freakgebeurtenissen zoals de Covid-19-pandemie en de Grote Depressie, naast de normale opwaartse en neerwaartse fluctuaties.