Nowe badanie rzuca światło na “zmęczenie algorytmiczne”

Nowe badanie przeprowadzone przez strategiczną firmę konsultingową Alice Labs i globalną firmę technologiczną Reaktor rzuca światło na to, co badacze nazywają „zmęczeniem algorytmicznym”. Zmęczenie algorytmiczne występuje, gdy osoby spędzają długi czas na czynnościach takich jak przeglądanie usług streamingowych. W tych momentach systemy AI mogą często zawieść w swoim zadaniu zaspokojenia oczekiwań użytkowników, jeśli nie dostarczają. Może to często sprawić, że konsumenci będą czuć się zmęczeni.

Nowe badanie zidentyfikowało trzy różne typy interakcji AI:

• Pasywne: Użytkownicy chcą pozostać bierni wobec systemu algorytmicznego.
• Prowadzące: Użytkownicy chcą prowadzić system algorytmiczny.
• Współpracujące: Użytkownicy chcą współpracować z systemem algorytmicznym.

Typ interakcji AI, który użytkownik wybiera, zależy od sytuacji i tego, czego potrzebuje, oraz jest również wpływany przez wcześniejsze doświadczenia ze smart technologią, taką jak zmęczenie algorytmiczne, gdy poprzedni system nie zaspokoił ich potrzeb.

Według badaczy, AI staje się czymś więcej niż tylko technologią, a marki zaczynają zdawać sobie sprawę z ważności tego, jak użytkownicy doświadczają i interaktywnie korzystają z algorytmów.

Kirsi Hantula jest jednym z badaczy w Alice Labs.

„Podczas gdy w wielu przypadkach są użyteczne, algorytmy nadal są ograniczone przez swoją maszynową naturę: nie mogą przewidzieć, kiedy użytkownicy mają zły dzień i potrzebują czegoś lżejszego do obejrzenia, ani nie są w stanie zrozumieć subtelnych i różnorodnych sposobów, w jakie gusta użytkowników ewoluują i rozwijają się w czasie”, mówi Hantula.

Ponieważ różne urządzenia zasilane przez AI były dostępne przez ponad dziesięć lat, wielu użytkowników jest już świadomych, jak taktycznie nawigować w niedoskonałych systemach. Oznacza to, że użytkownicy sami zaczęli walczyć ze zmęczeniem algorytmicznym. Na przykład, ktoś może ograniczyć urządzenie zasilane przez AI do jego podstawowych funkcji, takich jak używanie asystenta głosowego do prostych zadań.

Algorytmy rekomendacji

Badacze odkryli również, że więcej konsumentów teraz rezygnuje z algorytmów rekomendacji, przechodząc w kierunku zewnętrznych influencerów, aby kuratorować treści. Zewnętrzni influencerzy, lub latarnie, to inni ludzie, którzy dzielą podobne zainteresowania, a ci ludzie są często bardziej godni zaufania niż algorytmy.

Badacze twierdzą, że firmy powinny znaleźć sposoby, aby zwalczyć zmęczenie algorytmiczne, jeśli chcą ustanowić silniejsze relacje z konsumentami.

Olof Hoverfält jest Principal Consultant, Strategy and Business Design, w Reaktor.

„To nie jest tak, że trzeba wynajdować AI na nowo, AI działa dobrze”, mówi Hoverfält. „To jest o tworzeniu innego warstwy na górze tego systemu, czegoś, co pozwala na szybszą, bardziej wyrafinowaną interakcję między użytkownikiem a algorytmem. To jest o równowadze: dawaniu użytkownikowi równego prawa do podejmowania decyzji, pozwalając im wybierać i zmieniać, kiedy chcą być aktywnie zaangażowani w proces lub po prostu biernie prowadzeni przez niego.”

„Dla nas jest to również kwestia etyki. Uważamy, że systemy AI, które ściśle wiążą się z życiem ludzi, powinny być zaprojektowane w taki sposób, aby celebrować ludzką wszechstronność i ustanawiać użytkowników jako pozytywnych i kreatywnych agentów w podejmowaniu decyzji algorytmicznych”, mówi Hantula.

Nowe badanie jest częścią dwuletniej współpracy między Alice Labs a Centrum Badań Społeczeństwa Konsumentów Uniwersytetu w Helsinkach. Zostało sfinansowane przez Fundację Edukacji Ekonomicznej.