Nová studie vrhá světlo na „algoritmickou únavu“

Nový studovat vedená strategickou poradenskou společností Alice Labs a globální technologickou firmou Reaktor vrhá světlo na to, co výzkumníci nazývají „algoritmická únava“. Algoritmická únava nastává, když jednotlivci tráví dlouhé časové úseky věcmi, jako je procházení streamovacích služeb. V těchto chvílích mohou systémy umělé inteligence často selhat ve své povinnosti uspokojit očekávání uživatelů, pokud nesplní. To může často způsobit, že se spotřebitelé cítí unavení. 

Nová studie identifikovala tři různé typy interakcí AI: 

• Pasivní: Uživatelé chtějí zůstat pasivní vůči algoritmickému systému.
• Vedení: Uživatelé chtějí řídit algoritmický systém.
• Spolupráce: Uživatelé chtějí spolupracovat s algoritmickým systémem.

Typ interakce AI, který uživatel zvolí, závisí na situaci a na tom, co chce nebo potřebuje, a je také ovlivněn předchozími zkušenostmi s inteligentní technologií, jako je například únava algoritmů, když předchozí systém tyto potřeby nedokázal splnit. 

Podle výzkumníků se AI stává více než jen technologií a značky si začínají uvědomovat důležitost toho, jak uživatelé používají algoritmy a jak s nimi komunikují. 

Kirsi Hantula je jedním z výzkumníků v Alice Labs. 

„Ačkoli jsou algoritmy v mnoha případech užitečné, jsou i nadále omezeny svou strojovostí: nedokážou předvídat, kdy mají uživatelé špatný den a potřebují něco lehčího na sledování, ani nejsou schopny porozumět jemným a rozmanitým způsobům, jakými uživatelé chutě se časem vyvíjejí a rozšiřují,“ říká Hantula. 

Protože různá zařízení poháněná umělou inteligencí existují již více než deset let, mnoho uživatelů si již uvědomuje, jak takticky procházet nedokonalými systémy. To znamená, že sami uživatelé již začali bojovat proti únavě algoritmů. Zařízení s umělou inteligencí lze například omezit na jeho základní funkce, jako je použití hlasově aktivovaného asistenta pro jednoduché úkoly. 

Algoritmy doporučení

Výzkumníci také zjistili, že více spotřebitelů se nyní odhlašuje od algoritmů doporučení a při správě obsahu se více přiklání k externím ovlivňovatelům. Externí influenceři, popř majáky, jsou jiní jedinci, kteří sdílejí podobné zájmy, a tito jedinci jsou často spolehlivější než algoritmy. 

Výzkumníci říkají, že společnosti by měly najít způsoby, jak bojovat s algoritmickou únavou, pokud chtějí navázat silnější vztahy se svými spotřebiteli. 

Olof Hoverfält je hlavním konzultantem pro strategii a obchodní design ve společnosti Reaktor. 

„Nejde ani tak o přerod AI, AI funguje dobře,“ říká Hoverfält. „Jde o vytvoření další vrstvy nad tímto systémem, něco, co umožňuje rychlejší a jemnější lidskou interakci mezi uživatelem a algoritmem. Jde o paritu: poskytnout uživateli rovné rozhodování nad rozhodováním, umožnit mu vybrat si a změnit se, když chtějí být aktivně zapojeni do procesu nebo jím jen pasivně řídit.“

„Pro nás je to také otázka etiky. Myslíme si, že systémy umělé inteligence, které se důvěrně prolínají s lidskými životy, by měly být navrženy tak, aby oslavovaly lidskou všestrannost a etablovaly uživatele jako pozitivní a kreativní činitele v algoritmickém rozhodování,“ říká Hantula.

Nová studie je součástí dvouleté spolupráce mezi Alice Labs a Centrem pro výzkum spotřebitelské společnosti Helsinské univerzity. Byl financován Nadací pro ekonomické vzdělávání.