Modele AI mają trudności z przewidywaniem nieregularnego zachowania ludzi podczas pandemii COVID-19

Firmy detaliczne i usługowe na całym świecie wykorzystują algorytmy AI do przewidywania zachowań klientów, szacowania zapasów, oceny wpływu marketingu i wykrywania możliwych przypadków oszustw. Modele machine learning używane do dokonywania tych przewidywań są szkolone na wzorcach pochodzących z normalnej, codziennej aktywności ludzi. Niestety, nasza codzienna aktywność uległa zmianie podczas pandemii koronawirusa, a jak donosi MIT Technology Review, obecne modele machine learning są dezorientowane w wyniku tego. Nasilenie problemu różni się w zależności od firmy, ale wiele modeli zostało negatywnie dotkniętych przez nagłą zmianę w zachowaniu ludzi w ciągu ostatnich kilku tygodni.

Gdy wystąpiła pandemia koronawirusa, nawyki zakupowe ludzi uległy dramatycznej zmianie. Przed wystąpieniem pandemii najczęściej kupowanymi przedmiotami były rzeczy takie jak etui na telefon, ładowarki, słuchawki, artykuły kuchenne. Po rozpoczęciu pandemii najpopularniejsze wyszukiwania na Amazon (AMZN ) to rzeczy takie jak chusteczki Clorox, spray Lysol, ręczniki papierowe, środki dezynfekujące, maseczki i papier toaletowy. W ciągu ostatniego tygodnia lutego wszystkie najpopularniejsze wyszukiwania na Amazon dotyczyły produktów, których ludzie potrzebowali, aby chronić się przed COVID-19. Korelacja pomiędzy wyszukiwaniami produktów związanych z COVID-19 a rozprzestrzenianiem się choroby jest tak niezawodna, że można ją wykorzystać do śledzenia rozprzestrzeniania się pandemii w różnych regionach geograficznych. Jednak modele machine learning ulegają awarii, gdy dane wejściowe modelu są zbyt różne od danych użytych do szkolenia modelu.

Nieprzewidywalność sytuacji utrudnia automatyzację łańcuchów dostaw i zapasów. Rael Cline, dyrektor generalny londyńskiej firmy konsultingowej Nozzle, wyjaśnił, że firmy próbują zoptymalizować popyt na papier toaletowy z tygodnia temu, podczas gdy “w tym tygodniu wszyscy chcą kupić puzzle lub sprzęt do ćwiczeń”.

Inne firmy mają swoje własne problemy. Jedna firma świadczy usługi polegające na udzielaniu zaleceń inwestycyjnych na podstawie nastrojów różnych artykułów prasowych, ale ponieważ obecnie nastroje artykułów prasowych są często bardziej pesymistyczne niż zwykle, zalecenia inwestycyjne mogą być silnie spolaryzowane w kierunku negatywnym. Tymczasem firma świadcząca usługi wideostreamingu wykorzystywała algorytmy rekomendacji, aby sugerować treści widzom, ale gdy wiele osób nagle zasubskrybowało tę usługę, ich rekomendacje zaczęły tracić na trafności. Inna firma odpowiedzialna za dostarczanie detalicznych sklepów w Indiach przypraw i sosów odkryła, że duże zamówienia łamią ich modele predykcyjne.

Różne firmy radzą sobie z problemami spowodowanymi przez wzorce zachowań podczas pandemii na różne sposoby. Niektóre firmy po prostu obniżają swoje szacunki. Ludzie nadal subskrybują Netflix (NFLX ) i kupują produkty na Amazon, ale ograniczyli wydatki na luksusy, odwołując zakupy dużych przedmiotów. W pewnym sensie zachowania wydatkowe ludzi można postrzegać jako kurczenie się ich zwykłego zachowania.

Inne firmy musiały bardziej zaangażować się w swoje modele i wprowadzić istotne modyfikacje do modelu i jego danych szkoleniowych. Na przykład Phrasee to firma AI, która wykorzystuje modele przetwarzania i generowania języka naturalnego do tworzenia kopii i reklam dla różnych klientów. Phrasee zawsze sprawdza, jaki tekst generuje model, a firma zaczęła ręcznie filtrować pewne frazy w swojej kopii. Phrasee zdecydowała się zabronić generowania fraz, które mogą zachęcać do niebezpiecznych działań w czasie dystansu społecznego, fraz takich jak “strój na imprezę”. Zdecydowali się również ograniczyć terminy, które mogą prowadzić do lęku, takie jak “przygotuj się”, “zabezpiecz się” lub “zaopatrz się”.

Kryzys COVID-19 pokazał, że wyjątkowe zdarzenia mogą dezorientować nawet najlepiej wyszkolone modele, które zwykle są niezawodne, ponieważ sytuacja może być znacznie gorsza niż najgorsze scenariusze, które są zwykle uwzględniane w danych szkoleniowych. Rajeev Sharma, dyrektor generalny firmy konsultingowej AI Pactera Edge, wyjaśnił MIT Technology Review, że modele machine learning mogą być bardziej niezawodne, jeśli będą szkolone na wyjątkowych zdarzeniach, takich jak pandemia COVID-19 i Wielki Kryzys, oprócz zwykłych wahań w górę i w dół.