AI-modellen hebben moeite om mensen hun onregelmatige gedrag te laten voorspellen tijdens de Covid-19-pandemie

Detailhandels- en dienstverleningsbedrijven over de hele wereld maken gebruik van AI-algoritmen om klantgedrag te voorspellen, voorraden te beheren, marketingimpact te schatten en mogelijke gevallen van fraude te detecteren. De machine learning-modellen die worden gebruikt om deze voorspellingen te doen, zijn getraind op patronen die zijn afgeleid van de normale, dagelijkse activiteit van mensen. Helaas is onze dagelijkse activiteit veranderd tijdens de coronapandemie, en zoals MIT Technology Review heeft gerapporteerd, worden de huidige machine learning-modellen hierdoor ontwricht. De ernst van het probleem verschilt van bedrijf tot bedrijf, maar veel modellen zijn negatief beïnvloed door de plotselinge verandering in het gedrag van mensen in de afgelopen weken.

Toen de coronapandemie uitbrak, veranderden de aankoopgewoonten van mensen dramatisch. Voordat de pandemie begon, waren de meest gekochte voorwerpen dingen zoals telefoonhoesjes, telefoonladers, koptelefoons, keukengerei. Na het begin van de pandemie werden de top 10 zoektermen van Amazon (AMZN ) dingen zoals Clorox-doekjes, Lysol-spray, keukenpapier, handdesinfecterend middel, mondkapjes en toiletpapier. In de loop van de laatste week van februari werden alle topzoekopdrachten van Amazon gerelateerd aan producten die mensen nodig hadden om zich te beschermen tegen Covid-19. De correlatie tussen Covid-19-gerelateerde productzoekopdrachten/aankopen en de verspreiding van de ziekte is zo betrouwbaar dat het kan worden gebruikt om de verspreiding van de pandemie over verschillende geografische regio’s te volgen. Toch breken machine learning-modellen wanneer de invoergegevens van het model te veel afwijken van de gegevens die worden gebruikt om het model te trainen.

De volatiliteit van de situatie heeft het automatiseren van supply chains en voorraden moeilijk gemaakt. Rael Cline, de CEO van de in Londen gevestigde consultancy Nozzle, legde uit dat bedrijven proberen om de vraag naar toiletpapier van een week geleden te optimaliseren, terwijl “iedereen nu puzzels of fitnessapparatuur wil kopen”.

Andere bedrijven hebben hun eigen set problemen. Een bedrijf biedt beleggingsaanbevelingen op basis van de sentiment van verschillende nieuwsartikelen, maar omdat de sentiment van nieuwsartikelen op dit moment vaak meer pessimistisch is dan normaal, kan het beleggingsadvies sterk naar de negatieve kant hellen. Ondertussen gebruikt een streamingvideo-bedrijf aanbevelingsalgoritmen om content aan kijkers voor te stellen, maar toen veel mensen plotseling abonnee werden op de dienst, begonnen hun aanbevelingen te falen. Nog een ander bedrijf dat retailers in India van condimenten en sauzen voorziet, ontdekte dat bulkbestellingen hun voorspellingsmodellen braken.

Verse bedrijven hanteren de problemen die worden veroorzaakt door pandemiegewoonten op verschillende manieren. Sommige bedrijven passen hun schattingen simpelweg naar beneden aan. Mensen blijven nog steeds abonnee op Netflix (NFLX ) en kopen producten op Amazon, maar ze hebben hun uitgaven aan luxe artikelen teruggeschroefd en grote aankopen uitgesteld. In zekere zin kunnen de uitgavenpatronen van mensen worden opgevat als een inkrimping van hun normale gedrag.

Andere bedrijven moesten meer handmatig te werk gaan met hun modellen en hebben engineers belangrijke aanpassingen gemaakt aan het model en de trainingsgegevens. Bijvoorbeeld is Phrasee een AI-bedrijf dat natuurlijke taalverwerking en generatiemodellen gebruikt om kopie en advertenties te maken voor een verscheidenheid aan klanten. Phrasee laat altijd engineers controleren welke tekst het model genereert, en het bedrijf is begonnen met het handmatig filteren van bepaalde zinnen in hun kopie. Phrasee heeft besloten om het genereren van zinnen te verbieden die mogelijk gevaarlijke activiteiten tijdens de sociale distancing kunnen aanmoedigen, zinnen zoals “feestkleding”. Ze hebben ook besloten om termen te beperken die tot angst kunnen leiden, zoals “bereid je voor”, “houd je vast” of “sla op voorraad”.

De Covid-19-crisis heeft aangetoond dat extreme gebeurtenissen zelfs de meest getrainde modellen die normaal betrouwbaar zijn, kunnen ontwrichten, omdat dingen veel erger kunnen worden dan de worst-case-scenario’s die normaal in de trainingsgegevens worden opgenomen. Rajeev Sharma, CEO van AI-consultancy Pactera Edge, legde uit aan MIT Technology Review dat machine learning-modellen betrouwbaarder kunnen worden gemaakt door ze te trainen op extreme gebeurtenissen zoals de Covid-19-pandemie en de Grote Depressie, naast de normale opwaartse en neerwaartse fluctuaties.