Novo estudo lança luz sobre 'fadiga algorítmica'

Um novo estudo conduzido pela consultoria estratégica Alice Labs e pela empresa global de tecnologia Reaktor lança luz sobre o que os pesquisadores chamam de “fadiga algorítmica”. A fadiga algorítmica ocorre quando os indivíduos passam longos períodos de tempo fazendo coisas como navegar em serviços de streaming. Nesses momentos, os sistemas de IA muitas vezes podem falhar em seu dever de satisfazer as expectativas dos usuários se não cumprirem. Muitas vezes, isso pode deixar os consumidores cansados. 

O novo estudo identificou três tipos diferentes de interações de IA: 

• passivo: Os usuários querem permanecer passivos em relação a um sistema algorítmico.
• Guiando: Os usuários querem guiar um sistema algorítmico.
• Colaborativo: Os usuários querem colaborar com um sistema algorítmico.

O tipo de interação de IA que um usuário seleciona depende da situação e do que ele deseja ou precisa, e também é afetado por experiências anteriores com tecnologia inteligente, como fadiga algorítmica quando um sistema anterior falhou em atender a essas necessidades. 

De acordo com os pesquisadores, a IA está se tornando mais do que apenas tecnologia, e as marcas estão começando a perceber a importância de como os usuários experimentam e interagem com os algoritmos. 

Kirsi Hantula é uma das pesquisadoras do Alice Labs. 

“Embora úteis em muitos casos, os algoritmos continuam a ser limitados por sua mecanicidade: eles não podem prever quando os usuários estão tendo um dia ruim e precisam de algo mais leve para assistir, nem são capazes de entender as maneiras sutis e variadas pelas quais os usuários os gostos evoluem e se expandem com o tempo”, diz Hantula. 

Como vários dispositivos baseados em IA existem há mais de dez anos, muitos usuários já sabem como navegar taticamente em sistemas imperfeitos. Isso significa que os próprios usuários já começaram a lutar contra a fadiga algorítmica. Por exemplo, pode-se limitar um dispositivo com inteligência artificial a suas funções básicas, como usar um assistente ativado por voz para tarefas simples. 

Algoritmos de Recomendação

Os pesquisadores também descobriram que mais consumidores agora estão optando por não usar algoritmos de recomendação, movendo-se mais para influenciadores externos para selecionar o conteúdo. Influenciadores externos ou faróis, são outros indivíduos que compartilham interesses semelhantes, e esses indivíduos costumam ser mais confiáveis ​​do que os algoritmos. 

Os pesquisadores dizem que as empresas devem encontrar maneiras de combater a fadiga algorítmica se quiserem estabelecer relacionamentos mais fortes com seus consumidores. 

Olof Hoverfält é Consultor Principal de Estratégia e Design de Negócios da Reaktor. 

“Não se trata tanto de reinventar a IA, a IA está funcionando bem”, diz Hoverfält. “Trata-se de criar mais uma camada sobre esse sistema, algo que permita uma interação humana mais rápida e refinada entre o usuário e o algoritmo. É uma questão de paridade: conceder ao usuário agência igual na tomada de decisão, permitindo que ele escolha e mude quando quiser se envolver ativamente no processo ou apenas ser guiado passivamente por ele.”

“Para nós, isso também é uma questão de ética. Acreditamos que os sistemas de IA que se entrelaçam intimamente com a vida das pessoas devem ser projetados de forma a celebrar a versatilidade humana e estabelecer os usuários como agentes positivos e criativos na tomada de decisões algorítmicas”, diz Hantula.

O novo estudo faz parte de uma colaboração de dois anos entre o Alice Labs e o Centro de Pesquisa da Sociedade do Consumidor da Universidade de Helsinque. Foi financiado pela Fundação para a Educação Econômica.