Novo Estudo Lança Luz Sobre a ‘Fadiga Algorítmica’

Um novo estudo realizado pela consultoria estratégica Alice Labs e pela empresa de tecnologia global Reaktor lança luz sobre o que os pesquisadores chamam de “fadiga algorítmica.” A fadiga algorítmica ocorre quando os indivíduos passam longos períodos de tempo fazendo coisas como navegar em serviços de streaming. Nesses momentos, os sistemas de IA podem frequentemente falhar em sua função de atender às expectativas dos usuários se não entregarem. Isso pode frequentemente deixar os consumidores se sentindo fatigados. 

O novo estudo identificou três tipos diferentes de interações de IA: 

• Passiva: Os usuários desejam permanecer passivos em relação a um sistema algorítmico.
• Orientadora: Os usuários desejam orientar um sistema algorítmico.
• Colaborativa: Os usuários desejam colaborar com um sistema algorítmico.

O tipo de interação de IA que um usuário seleciona depende da situação e do que eles querem ou precisam, e também é afetado por experiências anteriores com tecnologia inteligente, como a fadiga algorítmica quando um sistema anterior não atendeu às suas necessidades. 

De acordo com os pesquisadores, a IA está se tornando mais do que apenas tecnologia, e as marcas estão começando a perceber a importância de como os usuários experimentam e interagem com algoritmos. 

Kirsi Hantula é uma das pesquisadoras da Alice Labs. 

“Enquanto útil em muitas instâncias, os algoritmos continuam a ser limitados por sua natureza de máquina: eles não podem prever quando os usuários estão tendo um dia ruim e precisam de algo mais leve para assistir, nem são capazes de entender as maneiras sutis e variadas pelas quais os gostos dos usuários evoluem e se expandem ao longo do tempo”, diz Hantula. 

Como vários dispositivos com IA têm sido utilizados por mais de dez anos, muitos usuários já estão cientes de como navegar taticamente por sistemas imperfeitos. Isso significa que os próprios usuários já começaram a lutar contra a fadiga algorítmica. Por exemplo, alguém pode limitar um dispositivo com IA às suas funções básicas, como usar um assistente de voz ativado para tarefas simples. 

Algoritmos de Recomendação

Os pesquisadores também descobriram que mais consumidores agora estão optando por sair dos algoritmos de recomendação, movendo-se mais em direção a influenciadores externos para curar conteúdo. Influenciadores externos, ou faróis, são outras pessoas que compartilham interesses semelhantes, e essas pessoas são frequentemente mais confiáveis do que os algoritmos. 

Os pesquisadores dizem que as empresas devem encontrar maneiras de combater a fadiga algorítmica se quiserem estabelecer relacionamentos mais fortes com seus consumidores. 

Olof Hoverfält é Consultor Principal, Estratégia e Design de Negócios, na Reaktor. 

“Não se trata tanto de reinventar a IA, a IA está funcionando bem”, diz Hoverfält. “Trata-se de criar outra camada sobre o sistema, algo que permita uma interação humana mais rápida e refinada entre o usuário e o algoritmo. Trata-se de paridade: conceder ao usuário igual agência sobre a tomada de decisões, permitindo que eles escolham e mudem quando querem estar ativamente envolvidos no processo ou apenas guiados passivamente por ele.”

“Para nós, isso também é uma questão de ética. Acreditamos que os sistemas de IA que se entrelaçam intimamente com a vida das pessoas devem ser projetados de uma maneira que celebre a versatilidade humana e estabeleça os usuários como agentes positivos e criativos na tomada de decisões algorítmicas”, diz Hantula.

O novo estudo faz parte de uma colaboração de dois anos entre a Alice Labs e o Centro de Pesquisa da Sociedade de Consumidores da Universidade de Helsinque. Foi financiado pela Fundação para a Educação Econômica.