AI-modellen worstelen om het onregelmatige gedrag van mensen tijdens de Covid-19-pandemie te voorspellen

Retail- en dienstverlenende bedrijven over de hele wereld maken gebruik van AI-algoritmen om het gedrag van klanten te voorspellen, de inventaris op te maken, de marketingeffecten in te schatten en mogelijke gevallen van fraude op te sporen. De machine learning-modellen die worden gebruikt om deze voorspellingen te doen, zijn getraind op patronen die zijn afgeleid van de normale, dagelijkse activiteit van mensen. Helaas is onze dagelijkse activiteit veranderd tijdens de pandemie van het coronavirus, en zo MIT Technology Review gerapporteerde huidige machine learning-modellen worden als gevolg daarvan weggegooid. De ernst van het probleem verschilt van bedrijf tot bedrijf, maar veel modellen zijn negatief beïnvloed door de plotselinge verandering in het gedrag van mensen in de loop van de afgelopen weken.

Toen de pandemie van het coronavirus uitbrak, veranderde het koopgedrag van mensen drastisch. Vóór het uitbreken van de pandemie waren de meest gekochte voorwerpen zaken als telefoonhoesjes, telefoonopladers, koptelefoons en keukengerei. Na het begin van de pandemie werden de top 10 zoektermen van Amazon zaken als Clorox-doekjes, Lysol-spray, papieren handdoeken, handdesinfecterend middel, gezichtsmaskers en toiletpapier. In de loop van de laatste week van februari werden de populairste Amazon-zoekopdrachten allemaal gerelateerd aan producten die mensen nodig hadden om zichzelf te beschermen tegen Covid-19. De correlatie tussen zoekopdrachten/aankopen van Covid-19-gerelateerde producten en de verspreiding van de ziekte is zo betrouwbaar dat deze kan worden gebruikt om de verspreiding van de pandemie over verschillende geografische regio's te volgen. Maar machine learning-modellen werken niet wanneer de invoergegevens van het model te veel verschillen van de gegevens die worden gebruikt om het model te trainen.

De volatiliteit van de situatie heeft automatisering van toeleveringsketens en voorraden bemoeilijkt. Rael Cline, de CEO van het in Londen gevestigde adviesbureau Nozzle, legde uit dat bedrijven een week geleden probeerden te optimaliseren voor de vraag naar toiletpapier, terwijl "deze week iedereen puzzels of fitnessapparatuur wil kopen."

Andere bedrijven hebben hun eigen deel van de problemen. Het ene bedrijf geeft beleggingsaanbevelingen op basis van het sentiment van verschillende nieuwsartikelen, maar omdat het sentiment van nieuwsartikelen op dit moment vaak pessimistischer is dan normaal, kan het beleggingsadvies sterk negatief uitslaan. Ondertussen gebruikte een bedrijf voor streaming video aanbevelingsalgoritmen om inhoud aan kijkers voor te stellen, maar toen veel mensen zich plotseling op de dienst abonneerden, begonnen hun aanbevelingen niet meer goed te komen. Weer een ander bedrijf dat verantwoordelijk is voor het leveren van specerijen en sauzen aan retailers in India, ontdekte dat bulkbestellingen hun voorspellende modellen niet doorstonden.

Verschillende bedrijven gaan op verschillende manieren om met de problemen die worden veroorzaakt door pandemische gedragspatronen. Sommige bedrijven herzien hun schattingen simpelweg naar beneden. Mensen blijven zich nog steeds abonneren op Netflix en producten kopen op Amazon, maar ze hebben bezuinigd op luxe-uitgaven en hebben aankopen van grote items uitgesteld. In zekere zin kan het bestedingsgedrag van mensen worden opgevat als een samentrekking van hun gebruikelijke gedrag.

Andere bedrijven moesten meer aan de slag met hun modellen en lieten ingenieurs belangrijke aanpassingen maken aan het model en de trainingsgegevens ervan. Phrasee is bijvoorbeeld een AI-bedrijf dat natuurlijke taalverwerkings- en generatiemodellen gebruikt om teksten en advertenties voor verschillende klanten te maken. Phrasee laat technici altijd controleren welke tekst het model genereert, en het bedrijf is begonnen bepaalde zinnen in de kopie handmatig uit te filteren. Phrasee heeft besloten om het genereren van uitdrukkingen die gevaarlijke activiteiten kunnen aanmoedigen in een tijd van sociale afstand, te verbieden, zoals “feestkleding”. Ze hebben ook besloten om termen te beperken die tot angst kunnen leiden, zoals ‘zet je schrap’, ‘maak je vast’ of ‘voorraad aan’.

De Covid-19-crisis heeft aangetoond dat bizarre gebeurtenissen zelfs hoogopgeleide modellen die doorgaans betrouwbaar zijn, van de wijs kunnen brengen, aangezien de dingen veel erger kunnen worden dan de worstcasescenario's die doorgaans in trainingsgegevens zijn opgenomen. Rajeev Sharma, CEO van AI-adviesbureau Pactera Edge, legt uit MIT Technology Review dat machine learning-modellen betrouwbaarder kunnen worden gemaakt door te worden getraind op buitenissige gebeurtenissen zoals de Covid-19-pandemie en de Grote Depressie, naast de gebruikelijke opwaartse en neerwaartse schommelingen.