Michael Schrage, Autor de Recommendation Engines (The MIT Press) – Série de Entrevistas

Michael Schrage é um Pesquisador Sênior no Initiative on the Digital Economy da MIT Sloan School of Management. Um especialista procurado em inovação, métricas e efeitos de rede, ele é autor de Quem Você Quer que Seus Clientes Sejam?, A Hipótese do Inovador: Como Experimentos Baratos Valem Mais do que Boas Ideias (MIT Press), e outros livros.

Nesta entrevista, discutimos seu livro “Recommendation Engines“, que explora a história, tecnologia, negócios e impacto social dos motores de recomendação online.

O que o inspirou a escrever um livro sobre um tópico tão específico como “Motores de Recomendação”?

A forma como você estruturou a pergunta dá o jogo… Quando eu olhei seriamente para as tecnologias digitais e pontos de contato que realmente influenciam a vida das pessoas em todo o mundo, quase sempre encontrei um “motor de recomendação” impulsionando a decisão. Os recomendadores do Spotify determinam a música e as canções que as pessoas ouvem; os motores de recomendação do TikTok definem os “vídeos virais” que as pessoas montam e compartilham; os recomendadores da Netflix (NFLX ) foram projetados para facilitar a “maratona de visualização” e os “espectadores de maratona”; o Google Maps e o Waze recomendam as melhores e/ou mais rápidas e/ou mais simples maneiras de chegar lá; o Tinder e o Match.com recomendam com quem você pode gostar de estar ou, você sabe, “estar” com; o Stitch Fix (SFIX ) recomenda o que você pode querer vestir para fazer você “você”; a Amazon (AMZN ) recomendará o que você realmente deve comprar; a Academia e a ResearchGate recomendam a pesquisa mais relevante que você deve estar por dentro… Posso continuar – e faço, no livro – mas, tecnicamente e conceitualmente, “Motores de Recomendação” são o oposto de “estreito”. Seu ponto e propósito cobrem a totalidade do desejo e decisão humanos.

Uma citação em seu livro é a seguinte: “Recomendadores não são apenas sobre o que podemos comprar, são sobre quem podemos querer ser”. Como isso pode ser abusado por empresas ou atores mal-intencionados?

Não há dúvida de que a recomendação pode ser abusada. A pergunta clássica – Cui bono? – “Quem se beneficia?” – se aplica. As recomendações são verdadeiramente destinadas a beneficiar o destinatário ou a entidade/empresa que faz a recomendação? Assim como é fácil para um colega, conhecido ou “amigo” que o conhece oferecer conselhos que realmente não estão em seu melhor interesse, é um “snap” digital para “recomendadores impulsionados por dados” sugerir que você compre algo que aumente o “seu” lucro à custa da “sua” utilidade ou satisfação. Em um nível, estou muito preocupado com o potencial – e a realidade – de abuso. Em outro, acho que a maioria das pessoas percebe rapidamente quando está sendo explorada ou manipulada por pessoas ou tecnologia. Me engane uma vez, vergonha para você; me engane duas ou três vezes, vergonha para mim. A recomendação é um daqueles domínios especiais onde é inteligente ser ético e ético ser inteligente.

Os “quadrados de eco” onde os usuários são alimentados apenas com o que querem ver, independentemente da precisão, são um problema social?

Eli Pariser cunhou a excelente expressão “bolha de filtro” para descrever esse fenômeno e patologia. Concordo em grande parte com sua perspectiva. Na verdade, acho que agora é justo dizer que a “viés de confirmação” – e não o sexo – é o que realmente impulsiona a maioria do comportamento humano adulto. A maioria das pessoas procura concordância a maior parte do tempo. Os recomendadores devem navegar um curso cuidadoso entre novidade, diversidade, relevância e serendipidade, porque – embora a confirmação excessiva seja entediante e redundante – a novidade e o desafio excessivos podem irritar e ofender. Sim, a busca por confirmação é um problema pessoal e social. No entanto, os recomendadores oferecem uma maneira relativamente inofensiva de trazer perspectivas e opções alternativas à atenção das pessoas. No entanto, eu realmente me pergunto se a regulação e a revisão legal definirão o futuro da recomendação.

As “bolhas de filtro” atualmente limitam a exposição a pontos de vista conflitantes, contraditórios e/ou desafiadores. Deve haver algum tipo de regulação que desencoraje esse tipo de super-filtro?

Preferiria uma supervisão regulatória leve em vez de pesada. A maioria das plataformas que vejo faz um trabalho muito ruim em rotular “notícias falsas” ou estabelecer controle de qualidade. Gostaria de ver mais mecanismos inovadores explorados: deslize para a esquerda para uma visão contrária; incorpore links que elaborem histórias ou vídeos de maneiras que aprofundem a compreensão ou descontextualizem o “viés” que está sendo confirmado. Mas vamos ser claros: arquiteturas de escolha que “desencorajam” ou criam “fricções” exigem dados e sensibilidades de design diferentes daqueles que “proíbem” ou “censuram” ou “impedem”. Acho que este é um problema muito difícil para as pessoas e as máquinas. O que o torna particularmente difícil é que os seres humanos – na verdade – são menos previsíveis do que muitos psicólogos e cientistas sociais acreditam. Há muitas “teorias da mente” e “agência” concorrentes hoje. Quanto mais personalizadas e recomendadas se tornam, mais desafiadoras e anacrônicas se tornam as abordagens “tamanho único”.

Os usuários finais e a sociedade devem exigir explicações sobre por que recomendações específicas são feitas?

Sim, sim e sim. Não apenas “explicabilidade”, mas também “visibilidade”, “transparência” e “interpretabilidade”. As pessoas devem ter o direito de ver e entender as tecnologias que as influenciam. Devem ser capazes de apreciar os algoritmos usados para influenciá-las. Pense nisso como o contraparte algorítmica do “consentimento informado” na medicina. Os pacientes têm o direito de obter – e os médicos têm o dever de fornecer – as razões e justificativas para escolher “este” curso de ação em vez de “aquele”. De fato, argumento que o “consentimento informado” – e seu futuro – na medicina e nos cuidados de saúde oferece um bom modelo para o futuro do “consentimento informado” para os motores de recomendação.

Você acredita que é possível “hackear” o cérebro humano usando Motores de Recomendação?

O cérebro ou a mente? Não estou brincando. Estamos materialmente – eletricamente e quimicamente – hackeando neurônios e lobos? Ou estamos usando estímulos sensoriais menos invasivos para evocar comportamentos previsíveis? Francamente, acredito que alguns cérebros – e algumas mentes – são hackeáveis algumas vezes. Mas acredito que as pessoas estão destinadas a se tornar “marionetes de carne” que dançam às músicas da recomendação? Não. Olhe, algumas pessoas se tornam viciadas. Algumas pessoas perdem autonomia e autocontrole. E, sim, algumas pessoas querem explorar os outros. Mas a preponderância das evidências não me faz preocupar com a “weaponização da recomendação”. Estou mais preocupado com o abuso da confiança.

Uma citação em um artigo de pesquisa de Jason L. Harman e Jason L. Harman afirma o seguinte: “A confiança que os humanos depositam nas recomendações é fundamental para o sucesso dos sistemas de recomendação”. Você acredita que as mídias sociais traíram essa confiança?

Acredito nessa citação. Acredito que a confiança é, de fato, fundamental. Acredito que pessoas inteligentes e éticas realmente entendem e apreciam a importância da confiança. Com desculpas pelo comentário de Churchill sobre coragem, a confiança é a virtude que permite a conexão e o crescimento humanos saudáveis. Dito isso, estou confortável argumentando que a maioria das plataformas de mídia social – sim, Twitter e Facebook (META ), estou olhando para vocês! – não são construídas em torno ou baseadas na confiança. São baseadas em facilitar e dimensionar a autoexpressão. A capacidade de expressar a si mesmo em escala tem literalmente nada a ver com criar ou construir confiança. Não havia nada para trair. Com a recomendação, há.

Você afirma acreditar que o futuro dos Motores de Recomendação apresentará as melhores recomendações para aprimorar a mente. Em sua opinião, algum Motor de Recomendação atualmente está trabalhando em tal sistema?

Ainda não. Vejo isso como o próximo mercado de trilhão de dólares. Acho que a Amazon, o Google, a Alibaba e a Tencent querem chegar lá. Mas, quem sabe, pode haver um inovador empreendedor que nos surpreenda a todos: talvez o Spotify incorporando mindfulness e conselhos sussurrados em tempo real possa ser a quebra de barreira para aprimorar a mente.

Como você resumiria como os Motores de Recomendação permitem que os usuários melhor entendam a si mesmos?

Recomendações são sobre boas escolhas… às vezes, até grandes escolhas. Quais são as escolhas que você abraça? Quais são as escolhas que você ignora? Quais são as escolhas que você rejeita? Ter a coragem de perguntar – e responder – a essas perguntas dá a você uma visão notável sobre quem você é e quem você pode querer se tornar. Somos as escolhas que fazemos; qualquer coisa que influencie essas escolhas tem um impacto e influência notáveis sobre nós.

Há algo mais que você gostaria de compartilhar sobre seu livro?

Sim – na primeira e última análise, meu livro é sobre o futuro do conselho e o futuro de quem você “realmente” quer se tornar. É sobre o futuro do eu – seu “eu”. Acho que isso é um assunto emocionante e importante, não acha?

Obrigado por compartilhar suas visões.

Para nossos leitores, recomendamos fortemente este livro, que está disponível atualmente na Amazon em Kindle ou brochura. Você também pode visualizar mais opções de pedido na página da MIT Press.