Модели ИИ испытывают трудности в предсказании нестандартного поведения людей во время пандемии Covid-19

Розничные и сервисные компании по всему миру используют алгоритмы ИИ для предсказания поведения клиентов, учета запасов, оценки маркетинговых эффектов и обнаружения возможных случаев мошенничества. Модели машинного обучения, используемые для этих предсказаний, обучаются на закономерностях, полученных из обычной, повседневной деятельности людей. К сожалению, как сообщил MIT Technology Review, текущие модели машинного обучения нарушаются в результате изменения привычек людей во время пандемии коронавируса. Степень проблемы различается от компании к компании, но многие модели были негативно затронуты внезапным изменением поведения людей за последние несколько недель.

Когда произошла пандемия коронавируса, привычки покупок людей резко изменились. До начала пандемии наиболее часто покупаемыми предметами были такие вещи, как чехлы для телефонов, зарядные устройства, наушники, кухонная утварь. После начала пандемии в топ-10 поисковых запросов Amazon (AMZN ) вошли такие вещи, как салфетки Clorox, спрей Lysol, бумажные полотенца, дезинфицирующее средство для рук, маски и туалетная бумага. За последнюю неделю февраля все топовые поисковые запросы Amazon стали связаны с продуктами, необходимыми людям для защиты от Covid-19. Корреляция между поиском/покупкой продуктов, связанных с Covid-19, и распространением заболевания такова, что ее можно использовать для отслеживания распространения пандемии в разных географических регионах. Однако модели машинного обучения ломаются, когда входные данные модели слишком сильно отличаются от данных, использованных для обучения.

Нестабильность ситуации сделала автоматизацию цепочек поставок и запасов трудной. Рээл Клайн, генеральный директор лондонской консалтинговой компании Nozzle, объяснил, что компании пытаются оптимизировать спрос на туалетную бумагу на прошлой неделе, в то время как “на этой неделе все хотят купить головоломки или оборудование для фитнеса”.

Другие компании имеют свои собственные проблемы. Одна компания предоставляет инвестиционные рекомендации на основе настроений различных новостных статей, но поскольку настроение новостных статей в настоящее время часто более пессимистично, чем обычно, инвестиционные рекомендации могут быть сильно смещены в сторону негативных. Тем временем компания по потоковому видео использует алгоритмы рекомендаций, чтобы предложить контент зрителям, но поскольку многие люди внезапно подписались на эту службу, их рекомендации начали отклоняться от метки. Еще одна компания, ответственная за поставку розничным торговцам в Индии приправ и соусов, обнаружила, что их прогностические модели были сломаны из-за крупных заказов.

Разные компании справляются с проблемами, вызванными моделями поведения во время пандемии, по-разному. Некоторые компании просто пересматривают свои оценки вниз. Люди все еще продолжают подписываться на Netflix (NFLX ) и покупать продукты на Amazon, но они сократили расходы на роскошь, отложив покупки дорогих товаров. В某ком смысле, привычки расходов людей можно рассматривать как сжатие их обычных привычек.

Другие компании должны были более активно работать с моделями и вносить важные коррективы в модель и ее обучающие данные. Например, Phrasee – это фирма ИИ, которая использует модели обработки и генерации естественного языка для создания копий и рекламных объявлений для различных клиентов. Phrasee всегда имеет инженеров, которые проверяют, какой текст генерирует модель, и компания начала вручную фильтровать определенные фразы в своей копии. Phrasee решила запретить генерацию фраз, которые могут поощрять опасные действия во время социального дистанцирования, такие как “одежда для вечеринок”. Они также решили ограничить термины, которые могут привести к тревоге, такие как “готовьтесь”, “пристегнитесь” или “запаситесь”.

Кризис Covid-19 показал, что неожиданные события могут нарушить даже хорошо обученные модели, которые обычно надежны, поскольку все может стать намного хуже, чем худший сценарий, который обычно включен в обучающие данные. Раджив Шарма, генеральный директор консалтинговой фирмы ИИ Pactera Edge, объяснил MIT Technology Review, что модели машинного обучения могут быть сделаны более надежными, если они будут обучены на неожиданных событиях, таких как пандемия Covid-19 и Великая депрессия, в дополнение к обычным колебаниям вверх и вниз.