Les modèles d’IA ont du mal à prédire les comportements irréguliers des personnes pendant la pandémie de Covid-19

Les entreprises de détail et de services du monde entier utilisent des algorithmes d’IA pour prédire les comportements des clients, gérer les stocks, estimer les impacts marketing et détecter les cas de fraude potentiels. Les modèles d’apprentissage automatique utilisés pour faire ces prédictions sont formés sur des modèles dérivés de l’activité quotidienne normale des personnes. Malheureusement, notre activité quotidienne a changé pendant la pandémie de coronavirus, et comme MIT Technology Review l’a rapporté, les modèles d’apprentissage automatique actuels sont perturbés en conséquence. La gravité du problème diffère d’une entreprise à l’autre, mais de nombreux modèles ont été négativement impactés par le changement soudain dans le comportement des personnes au cours des dernières semaines.

Lorsque la pandémie de coronavirus s’est produite, les habitudes d’achat des personnes ont changé de manière spectaculaire. Avant le début de la pandémie, les objets les plus souvent achetés étaient des choses comme des coques de téléphone, des chargeurs de téléphone, des écouteurs, des articles de cuisine. Après le début de la pandémie, les 10 premiers termes de recherche d’Amazon sont devenus des choses comme des lingettes Clorox, du spray Lysol, des serviettes en papier, du désinfectant pour les mains, des masques faciaux et du papier toilette. Au cours de la dernière semaine de février, les premières recherches Amazon sont toutes devenues liées à des produits dont les gens avaient besoin pour se protéger du Covid-19. La corrélation entre les recherches de produits liés au Covid-19 et la propagation de la maladie est si fiable qu’elle peut être utilisée pour suivre la propagation de la pandémie dans différentes régions géographiques. Pourtant, les modèles d’apprentissage automatique se brisent lorsque les données d’entrée du modèle sont trop différentes des données utilisées pour former le modèle.

La volatilité de la situation a rendu difficile l’automatisation des chaînes d’approvisionnement et des stocks. Rael Cline, le PDG de la société de conseil Nozzle basée à Londres, a expliqué que les entreprises essaient d’optimiser la demande de papier toilette il y a une semaine, tandis que « cette semaine, tout le monde veut acheter des puzzles ou du matériel de gym ».

D’autres entreprises ont leurs propres problèmes. Une entreprise fournit des recommandations d’investissement en fonction du sentiment de divers articles de presse, mais comme le sentiment des articles de presse actuellement est souvent plus pessimiste que d’habitude, les conseils d’investissement pourraient être fortement biaisés vers le négatif. Pendant ce temps, une entreprise de streaming vidéo utilise des algorithmes de recommandation pour suggérer du contenu aux téléspectateurs, mais comme de nombreuses personnes se sont abonnées soudainement au service, leurs recommandations ont commencé à ne plus correspondre. Une autre entreprise responsable de fournir des condiments et des sauces aux détaillants en Inde a découvert que les commandes en vrac ont brisé leurs modèles prédictifs.

Les différentes entreprises gèrent les problèmes causés par les modèles de comportement de la pandémie de différentes manières. Certaines entreprises révisent simplement leurs estimations à la baisse. Les gens continuent de s’abonner à Netflix et d’acheter des produits sur Amazon, mais ils ont réduit leurs dépenses de luxe, en reportant l’achat d’articles coûteux. D’une certaine manière, les comportements d’achat des gens peuvent être conçus comme une contraction de leur comportement habituel.

D’autres entreprises ont dû intervenir davantage dans leurs modèles et faire des ajustements importants au modèle et à ses données de formation. Par exemple, Phrasee est une entreprise d’IA qui utilise des modèles de traitement et de génération du langage naturel pour créer des copies publicitaires et des annonces pour une variété de clients. Phrasee a toujours des ingénieurs qui vérifient le texte généré par le modèle, et l’entreprise a commencé à filtrer manuellement certaines phrases dans ses copies. Phrasee a décidé d’interdire la génération de phrases qui pourraient encourager des activités dangereuses pendant une période de distanciation sociale, des phrases comme « tenue de fête ». Ils ont également décidé de restreindre les termes qui pourraient entraîner de l’anxiété, comme « préparez-vous », « attachez vos ceintures » ou « stockez-vous ».

La crise du Covid-19 a démontré que des événements exceptionnels peuvent perturber même des modèles très performants qui sont généralement fiables, car les choses peuvent empirer plus que les pires scénarios qui sont généralement inclus dans les données de formation. Rajeev Sharma, PDG de la société de conseil en IA Pactera Edge, a expliqué à MIT Technology Review que les modèles d’apprentissage automatique pourraient être rendus plus fiables en étant formés sur des événements exceptionnels comme la pandémie de Covid-19 et la Grande Dépression, en plus des fluctuations habituelles à la hausse et à la baisse.