Michael Schrage, Autor de Recommendation Engines (The MIT Press) – Série de Entrevistas

Michael Schrage é um Pesquisador Sênior na Iniciativa sobre a Economia Digital da MIT Sloan School of Management. Um especialista procurado em inovação, métricas e efeitos de rede, ele é autor de Quem Você Quer que Seus Clientes Sejam?, A Hipótese do Inovador: Como Experimentos Baratos Valem Mais do que Boas Ideias (MIT Press), e outros livros.

Nesta entrevista, discutimos seu livro “Recommendation Engines“, que explora a história, tecnologia, negócios e impacto social dos motores de recomendação online.

O que o inspirou a escrever um livro sobre um tópico tão específico como “Motores de Recomendação”?

A estruturação da sua pergunta dá o jogo… Quando olhei seriamente para as tecnologias digitais e pontos de contato que verdadeiramente influenciam as vidas das pessoas em todo o mundo, quase sempre encontrei um ‘motor de recomendação’ impulsionando a decisão. Os recomendadores do Spotify determinam a música e as canções que as pessoas ouvem; os motores de recomendação do TikTok definem os ‘vídeos virais’ que as pessoas montam e compartilham; os recomendadores da Netflix foram projetados para facilitar o ‘assistir em série’ e os ‘assistentes em série’; o Google Maps e o Waze recomendam as melhores e/ou mais rápidas e/ou mais simples maneiras de chegar lá; o Tinder e o Match.com recomendam com quem você pode gostar de estar ou, você sabe, ‘ser’ com; o Stitch Fix recomenda o que você pode querer usar para fazer de você ‘você’; a Amazon irá recomendar o que você realmente deve comprar; a Academia e o ResearchGate irão recomendar a pesquisa mais relevante que você deve estar por dentro… Posso continuar – e faço, no livro – mas, tanto tecnicamente quanto conceitualmente, ‘Motores de Recomendação’ são o oposto de ‘específico’. Seu ponto e propósito cobrem a totalidade do desejo e decisão humanos.

Uma citação em seu livro é a seguinte: “Os recomendadores não são apenas sobre o que podemos comprar, são sobre quem podemos querer ser”. Como isso pode ser abusado por empresas ou atores malignos?

Não há dúvida de que a recomendação pode ser abusada. A pergunta clássica – Cui bono? – ‘Quem se beneficia?’ – se aplica. As recomendações são verdadeiramente destinadas a beneficiar o destinatário ou a entidade/empresa que faz a recomendação? Assim como é fácil para um colega, conhecido ou ‘amigo’ que o conhece oferecer conselhos que não estão realmente em seu melhor interesse, é um clique digital para ‘recomendadores orientados por dados’ sugerir que você compre algo que aumente ‘seu’ lucro às expensas de ‘sua’ utilidade ou satisfação. Em um nível, estou muito preocupado com o potencial – e a realidade – de abuso. Por outro lado, acho que a maioria das pessoas percebe rapidamente quando está sendo explorada ou manipulada por pessoas ou tecnologia. Me engane uma vez, vergonha para você; me engane duas ou três vezes, vergonha para mim. A recomendação é um daqueles domínios especiais onde é inteligente ser ético e ético ser inteligente.

Os salões de eco, onde os usuários são alimentados apenas com o que querem ver, independentemente da precisão, são um problema social?

Eli Pariser cunhou a excelente expressão ‘a bolha de filtro’ para descrever esse fenômeno e patologia. Concordo em grande parte com sua perspectiva. Na verdade, acho que agora é justo dizer que ‘a confirmação de viés’ – e não o sexo – é o que realmente impulsiona a maioria do comportamento humano adulto. A maioria das pessoas procura concordância a maior parte do tempo. Os recomendadores devem navegar um curso cuidadoso entre novidade, diversidade, relevância e serendipidade, porque – embora a confirmação excessiva seja entediante e redundante – a novidade e o desafio excessivos podem irritar e ofender. Sim, a busca por confirmação é um problema pessoal e social. No entanto, os recomendadores oferecem uma maneira relativamente inofensiva de trazer perspectivas e opções alternativas à atenção das pessoas. No entanto, eu me pergunto se a regulação e a revisão legal irão definir cada vez mais o futuro da recomendação.

As bolhas de filtro atualmente limitam a exposição a pontos de vista conflitantes, contraditórios e/ou desafiadores. Deve haver algum tipo de regulação que desencoraje esse tipo de super-filtragem?

Prefiro uma supervisão regulatória leve em vez de pesada. A maioria das plataformas que vejo faz um trabalho muito ruim ao rotular ‘notícias falsas’ ou estabelecer controle de qualidade. Gostaria de ver mais mecanismos inovadores explorados: deslize para a esquerda para uma tomada contrária; incorpore links que elaborem histórias ou vídeos de maneiras que aprofundem a compreensão ou descontextualizem o ‘viés’ que está sendo confirmado. Mas vamos ser claros: as arquiteturas de escolha que ‘desencorajam’ ou criam ‘fricções’ exigem sensibilidades de dados e design diferentes daquelas que ‘proíbem’ ou ‘censuram’ ou ‘impedem’. Acho que este é um problema muito difícil para as pessoas e as máquinas. O que o torna particularmente difícil é que os seres humanos – na verdade – são menos previsíveis do que muitos psicólogos e cientistas sociais acreditam. Há muitas ‘teorias da mente’ e ‘agência’ concorrentes nos dias de hoje. Quanto mais personalizadas as recomendações e os recomendadores se tornam, mais desafiadoras e anacrônicas as abordagens ‘tamanho único’ se tornam. É uma das muitas razões pelas quais este domínio me interessa.

Os usuários finais e a sociedade devem exigir explicabilidade sobre por que recomendações específicas são feitas?

Sim, sim e sim. Não apenas ‘explicabilidade’, mas ‘visibilidade’, ‘transparência’ e ‘interpretabilidade’, também. As pessoas devem ter o direito de ver e entender as tecnologias que as influenciam. Elas devem ser capazes de apreciar os algoritmos usados para influenciá-las e persuadi-las. Pense nisso como o contraparte algorítmico do ‘consentimento informado’ na medicina. Os pacientes têm o direito de obter – e os médicos têm o dever de fornecer – as razões e os motivos para escolher ‘este’ curso de ação em vez de ‘aquele’. Na verdade, argumento que o ‘consentimento informado’ – e seu futuro – na medicina e nos cuidados de saúde oferece um bom modelo para o futuro do ‘consentimento informado’ para os motores de recomendação.

Você acredita que é possível “hackear” o cérebro humano usando Motores de Recomendação?

O cérebro ou a mente? Não estou brincando. Estamos hackeando materialmente – eletricamente e quimicamente – neurônios e lobos? Ou estamos usando estímulos sensoriais menos invasivos para evocar comportamentos previsíveis? Francamente, acredito que alguns cérebros – e algumas mentes – são hackeáveis algumas vezes. Mas acredito que as pessoas se tornarão ‘marionetes de carne’ que dançam ao som das recomendações? Não. Olhe, algumas pessoas se tornam viciadas. Algumas pessoas perdem autonomia e autocontrole. E, sim, algumas pessoas querem explorar os outros. Mas a evidência esmagadora não me faz preocupar com a ‘armação de recomendação’. Estou mais preocupado com o abuso de confiança.

Uma citação em um artigo de pesquisa de Jason L. Harman e Jason L. Harman afirma o seguinte: “A confiança que os humanos depositam nas recomendações é fundamental para o sucesso dos sistemas de recomendação”. Você acredita que as mídias sociais traíram essa confiança?

Acredito nessa citação. Acredito que a confiança é, de fato, fundamental. Acredito que pessoas inteligentes e éticas verdadeiramente entendem e apreciam a importância da confiança. Com desculpas pelo comentário de Churchill sobre coragem, a confiança é a virtude que permite a conexão e o crescimento humanos saudáveis. Dito isso, estou confortável em argumentar que a maioria das plataformas de mídia social – sim, Twitter e Facebook, estou olhando para vocês! – não são construídas em torno ou baseadas na confiança. São baseadas em facilitar e ampliar a autoexpressão. A capacidade de expressar a si mesmo em escala literalmente não tem nada a ver com criar ou construir confiança. Não havia nada para trair. Com a recomendação, há.

Você afirma acreditar que o futuro dos Motores de Recomendação apresentará as melhores recomendações para aprimorar a mente. Em sua opinião, algum Motor de Recomendação atualmente está trabalhando em tal sistema?

Ainda não. Vejo isso como o próximo mercado de trilhão de dólares. Acho que a Amazon, o Google, a Alibaba e o Tencent querem chegar lá. Mas, quem sabe, pode haver um inovador empreendedor que nos surpreenda a todos: talvez um Spotify que incorpore mindfulness e conselhos sussurrados em tempo real possa ser a quebra de recomendação que melhora a mente.

Como você resumiria como os Motores de Recomendação permitem que os usuários melhor entendam a si mesmos?

As recomendações são sobre boas escolhas…. às vezes, até mesmo grandes escolhas. Quais são as escolhas que você aceita? Quais são as escolhas que você ignora? Quais são as escolhas que você rejeita? Ter a coragem de fazer – e responder – a essas perguntas fornece uma visão notável sobre quem você é e quem você pode querer se tornar. Somos as escolhas que fazemos; qualquer coisa que influencie essas escolhas tem um impacto e influência notáveis sobre nós.

Há algo mais que você gostaria de compartilhar sobre seu livro?

Sim – na primeira e última análise, meu livro é sobre o futuro do conselho e o futuro de quem você ‘realmente’ quer se tornar. É sobre o futuro do eu – seu ‘eu’. Acho que esse é um assunto tanto emocionante quanto importante, não acha?

Obrigado por compartilhar suas visões.

Aos nossos leitores, recomendo fortemente este livro, que está disponível na Amazon em Kindle ou papel. Você também pode visualizar mais opções de pedido na página MIT Press.