Nová studie osvětluje „algoritmickou únavu“

Nová studie provedená strategickou poradenskou firmou Alice Labs a globální technologickou firmou Reaktor osvětluje, co výzkumníci nazývají „algoritmickou únavou“. Algoritmická únava nastává, když jednotlivci tráví dlouhé období času aktivitami, jako je procházení streamovacích služeb. V těchto okamžicích mohou často selhat systémy umělé inteligence ve své povinnosti splnit očekávání uživatelů, pokud nezajistí dodání. To může často způsobit, že spotřebitelé se cítí unaveni.

Nová studie identifikovala tři různé typy interakcí s umělou inteligencí:

• Pasivní: Uživatelé chtějí zůstat pasivní vůči algoritmickému systému.
• Návodná: Uživatelé chtějí navigovat algoritmický systém.
• Spolupracující: Uživatelé chtějí spolupracovat s algoritmickým systémem.

Typ interakce s umělou inteligencí, který uživatel vybere, závisí na situaci a na tom, co chce nebo potřebuje, a je také ovlivněn předchozími zkušenostmi se smart technologiemi, jako je algoritmická únava, kdy předchozí systém nezajistil dodání potřeb.

Podle výzkumníků se umělá inteligence stává více než jen technologií a značky začínají chápat důležitost toho, jak uživatelé prožívají a interagují s algoritmy.

Kirsi Hantula je jedním z výzkumníků v Alice Labs.

„Zatímco jsou algoritmy užitečné ve mnoha případech, zůstávají omezené svou strojovostí: nemohou předpovědět, kdy mají uživatelé špatný den a potřebují něco lehčího k sledování, ani nejsou schopné pochopit jemné a různé způsoby, kterými se chutě uživatelů vyvíjejí a rozšiřují v čase,“ říká Hantula.

Protože různé zařízení s umělou inteligencí existují již více než deset let, mnoho uživatelů již ví, jak navigovat nedokonalé systémy. To znamená, že uživatelé sami již začali bojovat proti algoritmické únavě. Například někdo může omezit zařízení s umělou inteligencí na jeho základní funkce, jako je použití hlasového asistenta pro jednoduché úkoly.

Algoritmy doporučení

Výzkumníci také zjistili, že více spotřebitelů nyní odmítá algoritmy doporučení a místo toho se obrací na externí vlivy, aby kurátorovali obsah. Externí vlivy, nebo majáky, jsou jiní jednotlivci, kteří sdílejí podobné zájmy, a tyto osoby jsou často spolehlivější než algoritmy.

Výzkumníci říkají, že společnosti by měly najít způsoby, jak bojovat proti algoritmické únavě, pokud chtějí navázat silnější vztahy se svými spotřebiteli.

Olof Hoverfält je Principal Consultant, Strategy and Business Design, v Reaktoru.

„Není to tak moc o tom, aby se algoritmy reinventovaly, algoritmy fungují dobře,“ říká Hoverfält. „Je to o vytvoření další vrstvy nad tímto systémem, něco, co umožňuje rychlejší, rafinovanější lidskou interakci mezi uživatelem a algoritmem. Je to o paritě: poskytnutí uživateli rovnocenné agentury při rozhodování, umožnění jim zvolit a změnit, kdy chtějí být aktivně zapojeni do procesu nebo pouze pasivně navigováni jím.“

„Pro nás je to také otázka etiky. Myslíme si, že systémy umělé inteligence, které se intimně prolínají s lidьми, by měly být navrženy tak, aby oslavovaly lidskou variabilitu a ustanovovaly uživatele jako pozitivní a kreativní agenty v algoritmickém rozhodování,“ říká Hantula.

Nová studie je součástí dvouleté spolupráce mezi Alice Labs a Centrem pro výzkum spotřebitelské společnosti Univerzity v Helsinkách. Byla financována Nadací pro ekonomické vzdělávání.