Nowe badanie rzuca światło na “zmęczenie algorytmiczne”

Nowe badanie przeprowadzone przez strategiczną firmę konsultingową Alice Labs i globalną firmę technologiczną Reaktor rzuca światło na to, co badacze nazywają „zmęczeniem algorytmicznym”. Zmęczenie algorytmiczne występuje, gdy osoby spędzają długi czas na czynnościach takich jak przeglądanie usług streamingowych. W tych momentach systemy sztucznej inteligencji często zawodzą w swoim zadaniu zaspokojenia oczekiwań użytkowników, jeśli nie dostarczają tego, co potrzebne. Może to często powodować, że konsumenci czują się zmęczeni.

Nowe badanie zidentyfikowało trzy różne typy interakcji z sztuczną inteligencją:

• Pasywne: Użytkownicy chcą pozostać bierni wobec systemu algorytmicznego.
• Wskazujące: Użytkownicy chcą kierować systemem algorytmicznym.
• Współpracujące: Użytkownicy chcą współpracować z systemem algorytmicznym.

Typ interakcji z sztuczną inteligencją, jaki wybiera użytkownik, zależy od sytuacji i od tego, czego potrzebuje, oraz jest również wpływany przez wcześniejsze doświadczenia z inteligentną technologią, taką jak zmęczenie algorytmiczne, gdy poprzedni system nie spełnił ich potrzeb.

Według badaczy, sztuczna inteligencja staje się coraz bardziej niż tylko technologia, a marki zaczynają zdawać sobie sprawę z ważności sposobu, w jaki użytkownicy doświadczają i interaktywnie współpracują z algorytmami.

Kirsi Hantula jest jednym z badaczy w Alice Labs.

„Podczas gdy algorytmy są przydatne w wielu przypadkach, nadal są ograniczone przez swoją maszynowość: nie mogą przewidzieć, kiedy użytkownicy mają zły dzień i potrzebują czegoś lżejszego do oglądania, ani nie są w stanie zrozumieć subtelnych i różnorodnych sposobów, w jakie gusta użytkowników ewoluują i rozwijają się w czasie”, mówi Hantula.

Ponieważ różne urządzenia zasilane sztuczną inteligencją są dostępne od ponad dziesięciu lat, wielu użytkowników jest już świadomych, jak taktycznie nawigować w niedoskonałych systemach. Oznacza to, że użytkownicy sami zaczynają walczyć ze zmęczeniem algorytmicznym. Na przykład, można ograniczyć urządzenie zasilane sztuczną inteligencją do jego podstawowych funkcji, takich jak używanie asystenta głosowego do prostych zadań.

Algorytmy rekomendacji

Badacze również stwierdzili, że coraz więcej konsumentów teraz rezygnuje z algorytmów rekomendacji, przechodząc w kierunku zewnętrznych influencerów, aby kuratorować treści. Zewnętrzni influencerzy, czyli latarnie morskie, to inni ludzie, którzy mają podobne zainteresowania, i ci ludzie są często bardziej godni zaufania niż algorytmy.

Badacze twierdzą, że firmy powinny znaleźć sposoby, aby zwalczyć zmęczenie algorytmiczne, jeśli chcą ustanowić silniejsze relacje z konsumentami.

Olof Hoverfält jest Starszym Konsultantem, Strategii i Projektowania Biznesu, w Reaktor.

„To nie chodzi o to, aby wymyślić na nowo sztuczną inteligencję, sztuczna inteligencja działa dobrze”, mówi Hoverfält. „To chodzi o stworzenie innego warstwy na górze tego systemu, czegoś, co pozwala na szybszą, bardziej wyrafinowaną interakcję między użytkownikiem a algorytmem. To chodzi o równość: dając użytkownikowi równą agencję w podejmowaniu decyzji, pozwalając im wybrać i zmienić, kiedy chcą być aktywnie zaangażowani w proces lub po prostu biernie kierowani przez niego.”

„Dla nas to również kwestia etyki. Uważamy, że systemy sztucznej inteligencji, które ściśle wiążą się z życiem ludzi, powinny być zaprojektowane w taki sposób, aby celebrować ludzką wszechstronność i ustanawiać użytkowników jako pozytywne i kreatywne agenci w podejmowaniu decyzji algorytmicznych”, mówi Hantula.

Nowe badanie jest częścią dwuletniej współpracy między Alice Labs a Centrum Badań Społeczeństwa Konsumenckiego Uniwersytetu w Helsinkach. Zostało sfinansowane przez Fundację Edukacji Ekonomicznej.