Modele AI mają trudności z przewidywaniem nieregularnych zachowań ludzi podczas pandemii Covid-19

Firmy detaliczne i usługowe na całym świecie wykorzystują algorytmy AI do przewidywania zachowań klientów, zarządzania zapasami, szacowania wpływu marketingu i wykrywania możliwych przypadków oszustw. Modele uczenia maszynowego wykorzystywane do dokonywania tych przewidywań są szkolone na podstawie wzorców pochodzących z normalnej, codziennej aktywności ludzi. Niestety, nasza codzienna aktywność uległa zmianie podczas pandemii koronawirusa, a jak donosi MIT Technology Review, obecne modele uczenia maszynowego są dezorientowane w wyniku tego. Nasilenie problemu różni się w zależności od firmy, ale wiele modeli zostało negatywnie dotkniętych przez gwałtowną zmianę w zachowaniu ludzi w ciągu ostatnich kilku tygodni.

Gdy wystąpiła pandemia koronawirusa, nawyki zakupowe ludzi uległy dramatycznej zmianie. Przed rozpoczęciem pandemii najczęściej kupowanymi przedmiotami były rzeczy takie jak etui na telefon, ładowarki, słuchawki, artykuły kuchenne. Po rozpoczęciu pandemii najpopularniejsze wyszukiwania na Amazon to takie rzeczy jak Clorox wipes, Lysol spray, ręczniki papierowe, żel dezynfekujący, maseczki i papier toaletowy. W ciągu ostatniego tygodnia lutego najpopularniejsze wyszukiwania na Amazon były wszystkie związane z produktami, których ludzie potrzebowali, aby chronić się przed Covid-19. Korelacja pomiędzy wyszukiwaniami/podjęciami produktów związanych z Covid-19 a rozprzestrzenianiem się choroby jest tak niezawodna, że można ją wykorzystać do śledzenia rozprzestrzeniania się pandemii w różnych regionach geograficznych. Jednak modele uczenia maszynowego ulegają awarii, gdy dane wejściowe modelu są zbyt odmienne od danych wykorzystanych do szkolenia modelu.

Zmienność sytuacji sprawiła, że automatyzacja łańcuchów dostaw i zapasów stała się trudna. Rael Cline, dyrektor generalny londyńskiej firmy konsultingowej Nozzle, wyjaśnił, że firmy próbują optymalizować popyt na papier toaletowy z tygodnia temu, podczas gdy “w tym tygodniu wszyscy chcą kupić układanki lub sprzęt do ćwiczeń”.

Inne firmy mają swoje własne problemy. Jedna firma świadczy usługi polegające na udzielaniu zaleceń inwestycyjnych na podstawie nastrojów różnych artykułów prasowych, ale ponieważ nastroj artykułów prasowych w tej chwili jest często bardziej pesymistyczny niż zwykle, porady inwestycyjne mogą być silnie spolaryzowane w kierunku negatywnym. Tymczasem firma świadcząca usługi streamingu wideo wykorzystywała algorytmy rekomendacji, aby sugerować treści widzom, ale gdy wiele osób nagle zapisało się do usługi, ich rekomendacje zaczęły się nie zgadzać. Inna firma odpowiedzialna za dostarczanie detalistom w Indiach przypraw i sosów odkryła, że zamówienia hurtowe uszkodziły ich modele predykcyjne.

Różne firmy radzą sobie z problemami spowodowanymi przez pandemię w różny sposób. Niektóre firmy po prostu zmniejszają swoje szacunki. Ludzie nadal subskrybują Netflix i kupują produkty na Amazon, ale ograniczają wydatki na luksusy, odkładając zakupy na drogie przedmioty. W pewnym sensie zachowania wydatkowe ludzi można postrzegać jako kurczenie się ich zwykłego zachowania.

Inne firmy musiały się bardziej zaangażować w swoje modele i wprowadzić zmiany w modelu i jego danych szkoleniowych. Na przykład Phrasee to firma AI, która wykorzystuje modele przetwarzania i generowania języka naturalnego do tworzenia kopii i reklam dla różnych klientów. Phrasee zawsze sprawdza, jaki tekst generuje model, a firma zaczęła ręcznie filtrować pewne frazy w swojej kopii. Phrasee zdecydowała się zabronić generowania fraz, które mogą zachęcać do niebezpiecznych działań w czasie dystansu społecznego, fraz takich jak “odzież na imprezę”. Zdecydowali się również ograniczyć terminy, które mogą prowadzić do lęku, takie jak “przygotuj się”, “zabezpiecz się” lub “zaopatrz się”.

Kryzys Covid-19 pokazał, że wyjątkowe zdarzenia mogą dezorientować nawet najbardziej zaawansowane modele, które zwykle są niezawodne, ponieważ rzeczy mogą stać się znacznie gorsze niż najgorsze scenariusze, które są zwykle uwzględniane w danych szkoleniowych. Rajeev Sharma, dyrektor generalny firmy konsultingowej AI Pactera Edge, wyjaśnił MIT Technology Review, że modele uczenia maszynowego mogą zostać uczynione bardziej niezawodnymi, szkoląc je na wyjątkowych zdarzeniach, takich jak pandemia Covid-19 i Wielki Kryzys, oprócz zwykłych wahania się w górę i w dół.