Nowe badanie rzuca światło na „zmęczenie algorytmiczne”

nowa „The Puzzle of Monogamous Marriage” przeprowadzone przez firmę doradztwa strategicznego Alice Labs i globalną firmę technologiczną Reaktor rzuca światło na to, co badacze nazywają „zmęczeniem algorytmicznym”. Zmęczenie algorytmiczne ma miejsce, gdy ludzie spędzają długie okresy czasu, na przykład przeglądając usługi przesyłania strumieniowego. W takich momentach systemy sztucznej inteligencji często mogą nie spełnić swoich obowiązków w zakresie spełniania oczekiwań użytkowników, jeśli nie spełniają swoich oczekiwań. Może to często powodować zmęczenie konsumentów. 

W nowym badaniu zidentyfikowano trzy różne typy interakcji AI: 

• pasywny: Użytkownicy chcą pozostać bierni wobec systemu algorytmicznego.
• Prowadzenie: Użytkownicy chcą kierować systemem algorytmicznym.
• Współpraca: Użytkownicy chcą współpracować z systemem algorytmicznym.

Rodzaj interakcji AI wybrany przez użytkownika zależy od sytuacji oraz tego, czego chce lub potrzebuje, a także mają na niego wpływ wcześniejsze doświadczenia z inteligentną technologią, takie jak zmęczenie algorytmami, gdy poprzedni system nie spełnił tych potrzeb. 

Według naukowców sztuczna inteligencja staje się czymś więcej niż tylko technologią, a marki zaczynają zdawać sobie sprawę, jak ważne jest to, jak użytkownicy doświadczają algorytmów i wchodzą z nimi w interakcję. 

Kirsi Hantula jest jednym z badaczy w Alice Labs. 

„Algorytmy, choć przydatne w wielu przypadkach, nadal ogranicza ich maszynowość: nie są w stanie przewidzieć, kiedy użytkownicy mają zły dzień i potrzebują czegoś lżejszego do oglądania, ani nie są w stanie zrozumieć subtelnych i różnorodnych sposobów, w jakie użytkownicy gusta ewoluują i rozszerzają się z biegiem czasu” – mówi Hantula. 

Ponieważ różne urządzenia wykorzystujące sztuczną inteligencję istnieją już od ponad dziesięciu lat, wielu użytkowników już wie, jak taktycznie poruszać się po niedoskonałych systemach. Oznacza to, że sami użytkownicy zaczęli już walczyć ze zmęczeniem algorytmicznym. Na przykład można ograniczyć urządzenie zasilane sztuczną inteligencją do jego podstawowych funkcji, takich jak korzystanie z asystenta aktywowanego głosem do prostych zadań. 

Algorytmy rekomendacji

Badacze odkryli również, że coraz więcej konsumentów rezygnuje obecnie z algorytmów rekomendacji, kierując się w stronę zewnętrznych wpływowych osób w celu selekcji treści. Zewnętrzni wpływowcy lub latarnie morskie, są inne osoby o podobnych zainteresowaniach, a osoby te są często bardziej niezawodne niż algorytmy. 

Naukowcy twierdzą, że firmy powinny znaleźć sposoby na walkę ze zmęczeniem algorytmicznym, jeśli chcą nawiązać silniejsze relacje ze swoimi konsumentami. 

Olof Hoverfält jest głównym konsultantem ds. strategii i projektowania biznesowego w firmie Reaktor. 

„Nie chodzi tu o wymyślanie sztucznej inteligencji na nowo, sztuczna inteligencja działa dobrze” – mówi Hoverfält. „Chodzi o utworzenie kolejnej warstwy na tym systemie, czegoś, co pozwoli na szybszą i bardziej wyrafinowaną interakcję człowieka między użytkownikiem a algorytmem. Chodzi o parytet: zapewnienie użytkownikowi równej swobody w podejmowaniu decyzji, umożliwienie mu wyboru i zmiany, kiedy chce aktywnie uczestniczyć w procesie lub po prostu biernie się przez niego kierować.”

„Dla nas jest to również kwestia etyki. Uważamy, że systemy sztucznej inteligencji, które ściśle splatają się z życiem ludzi, należy projektować w sposób celebrujący ludzką wszechstronność i zapewniający użytkownikom pozycję pozytywnych i kreatywnych podmiotów w algorytmicznym podejmowaniu decyzji” – mówi Hantula.

Nowe badanie jest częścią dwuletniej współpracy pomiędzy Alice Labs a Centrum Badań nad Społeczeństwem Konsumenckim Uniwersytetu Helsińskiego. Została ufundowana przez Fundację Edukacji Ekonomicznej.