Michael Schrage, autor de Recommendation Engines (The MIT Press) – Serie de entrevistas

Michael Schrage es un investigador en el Instituto de Economía Digital de la Escuela de Administración Sloan del MIT. Un experto solicitado en innovación, métricas y efectos de red, es autor de ¿Quién quieres que sean tus clientes?, La hipótesis del innovador: Cómo los experimentos baratos valen más que las buenas ideas (MIT Press), y otros libros.

En esta entrevista, hablamos sobre su libro “Recommendation Engines“, que explora la historia, la tecnología, el negocio y el impacto social de los motores de recomendación en línea.

¿Qué te inspiró a escribir un libro sobre un tema tan específico como “Motores de recomendación”?

La forma en que se plantea la pregunta da la clave….. Cuando miré seriamente las tecnologías digitales y los puntos de contacto que verdaderamente influyen en la vida de las personas en todo el mundo, casi siempre encontré un ‘motor de recomendación’ que impulsaba la decisión. Los recomendadores de Spotify determinan la música y las canciones que la gente escucha; los motores de recomendación de TikTok definen los ‘videos virales’ que la gente crea y comparte; los recomendadores de Netflix (NFLX ) están diseñados para facilitar la ‘visualización en binge’ y los ‘espectadores en binge’; Google Maps y Waze recomiendan las mejores y/o más rápidas y/o más sencillas formas de llegar allí; Tinder y Match.com recomiendan con quién podrías gustarte o, sabes, ‘ser’; Stitch Fix (SFIX ) recomienda qué podrías querer usar para que te haga ‘tú’; Amazon (AMZN ) te recomienda qué debes comprar; Academia y ResearchGate recomiendan la investigación más relevante que debes estar al día…. Podría seguir – y lo hago en el libro – pero tanto técnicamente como conceptualmente, los ‘motores de recomendación’ son lo opuesto a ‘estrecho’. Su punto y propósito cubren todo el alcance del deseo y la decisión humanos.

Una cita en tu libro dice: “Los recomendadores no son solo sobre lo que podríamos comprar, son sobre quién podríamos querer ser”. ¿Cómo podría ser esto abusado por empresas o actores maliciosos?

No hay duda de que la recomendación puede ser abusada. La pregunta clásica – Cui bono? – ‘¿Quién se beneficia?’ – se aplica. ¿Las recomendaciones están verdaderamente destinadas a beneficiar al destinatario o a la entidad/empresa que hace la recomendación? Al igual que es fácil para un colega, conocido o ‘amigo’ que te conoce ofrecerte un consejo que realmente no está en tu mejor interés, es un snap digital para los ‘recomendadores basados en datos’ sugerirte que compres algo que aumente su beneficio a expensas de tu utilidad o satisfacción. En un nivel, estoy muy preocupado por el potencial – y la realidad – del abuso. Por otro lado, creo que la mayoría de las personas se dan cuenta bastante rápido de cuándo están siendo explotadas o manipuladas por personas o tecnología. Engañarme una vez, vergüenza sobre ti; engañarme dos o tres veces, vergüenza sobre mí. La recomendación es uno de esos dominios especiales donde es inteligente ser ético y ético ser inteligente.

¿Los salones de eco donde los usuarios solo se les muestra lo que quieren ver, sin importar la precisión, son un problema social?

Eli Pariser acuñó la excelente frase ‘la burbuja de filtro’ para describir este fenómeno y patología. En gran medida, estoy de acuerdo con su perspectiva. En verdad, creo que ahora es justo decir que ‘sesgo de confirmación’ – no el sexo – es lo que realmente impulsa la mayoría del comportamiento humano adulto. La mayoría de las personas buscan acuerdo la mayoría del tiempo. Los recomendadores tienen que navegar un curso cuidadoso entre novedad, diversidad, relevancia y casualidad porque – aunque demasiada confirmación es aburrida y redundante – demasiada novedad y desafío pueden molestar y ofender. Así que sí, la búsqueda de confirmación es tanto un problema personal como social. Dicho esto, creo que los recomendadores ofrecen una forma relativamente inofensiva de llevar perspectivas y opciones alternativas a la atención de las personas., Sin embargo, me pregunto si la regulación y la revisión legal definirán cada vez más el futuro de la recomendación.

Las burbujas de filtro actualmente limitan la exposición a puntos de vista contradictorios, contrarios y desafiantes. ¿Debería haber algún tipo de regulación que desaliente este tipo de sobrefiltrado?

Prefiero la supervisión ligera a la supervisión pesada. La mayoría de las plataformas que veo hacen un trabajo bastante pobre al etiquetar ‘noticias falsas’ o establecer control de calidad. Me gustaría ver más mecanismos innovadores explorados: deslizar hacia la izquierda para una toma contraria; incrustar enlaces que elaboran historias o videos de maneras que profundizan la comprensión o descontextualizan el ‘sesgo’ que se confirma. Pero sea claro: las arquitecturas de elección que ‘desalientan’ o crean ‘fricciones’ requieren diferentes datos y sensibilidades de diseño que aquellas que ‘prohíben’ o ‘censuran’ o ‘impiden’. Creo que este es un problema muy difícil para las personas y las máquinas por igual. Lo que lo hace particularmente difícil es que los seres humanos – de hecho – son menos predecibles de lo que muchos psicólogos y científicos sociales creen. Hay muchas ‘teorías de la mente’ y ‘agencia’ en estos días. Cuanto más personalizadas y recomendadas se vuelven las recomendaciones, más desafiantes y anacrónicos se vuelven los enfoques ‘de un tamaño para todos’. Es una de las muchas razones por las que este dominio me interesa tanto.

¿Deberían los usuarios y la sociedad exigir explicabilidad sobre por qué se hacen recomendaciones específicas?

Sí, sí y sí. No solo ‘explicabilidad’, sino ‘visibilidad’, ‘transparencia’ e ‘interpretación’, también. Las personas deberían tener el derecho de ver y entender las tecnologías que se utilizan para influir en ellas. Deberían poder apreciar los algoritmos utilizados para empujar y persuadirlos. Piensa en esto como el contraparte algorítmico del ‘consentimiento informado’ en medicina. Los pacientes tienen el derecho de obtener – y los médicos tienen el deber de proporcionar – las razones y razonamientos para elegir ‘este’ curso de acción en lugar de ‘ese’ uno. De hecho, argumento que el ‘consentimiento informado’ – y su futuro – en medicina y atención médica ofrece una buena plantilla para el futuro del ‘consentimiento informado’ para los motores de recomendación.

¿Crees que es posible “hackear” el cerebro humano utilizando Motores de recomendación?

¿El cerebro o la mente? No estoy bromeando. ¿Estamos materialmente – eléctrica y químicamente – pirateando neuronas y lóbulos? ¿O estamos utilizando estímulos sensoriales menos invasivos para evocar comportamientos predecibles? Francamente, creo que algunos cerebros – y algunas mentes – son pirateables algunas veces. Pero ¿creo que las personas están destinadas a convertirse en ‘marionetas de carne’ que bailan al ritmo de las recomendaciones? No. Mira, algunas personas se convierten en adictos. Algunas personas pierden autonomía y control sobre sí mismas. Y sí, algunas personas quieren explotar a otros. Pero la evidencia abrumadora no me hace preocupar por la ‘weaponización de la recomendación’. Me preocupa más el abuso de la confianza.

Una cita en un artículo de investigación de Jason L. Harman y Jason L. Harman establece lo siguiente: “La confianza que los humanos depositan en las recomendaciones es clave para el éxito de los sistemas de recomendación”. ¿Crees que las redes sociales han traicionado esa confianza?

Creo en esa cita. Creo que la confianza es, de hecho, clave. Creo que las personas inteligentes y éticas verdaderamente entienden y aprecian la importancia de la confianza. Con disculpas por el comentario de Churchill sobre el coraje, la confianza es la virtud que permite la conexión y el crecimiento humanos saludables. Dicho esto, estoy cómodo argumentando que la mayoría de las plataformas de redes sociales – sí, Twitter y Facebook (META ), te estoy mirando – no están construidas alrededor de ni basadas en la confianza. Están basadas en facilitar y escalar la autoexpresión. La capacidad de expresarse a escala tiene literalmente nada que ver con crear o construir confianza. No había nada que traicionar. Con la recomendación, hay.

Afirmas que crees que el futuro de los Motores de recomendación contará con las mejores recomendaciones para mejorar la mente. ¿Crees que algún Motor de recomendación está trabajando actualmente en tal sistema?

Todavía no. Veo eso como el próximo mercado de un billón de dólares. Creo que Amazon, Google, Alibaba y Tencent quieren llegar allí. Pero, ¿quién sabe?, puede que haya un innovador emprendedor que nos sorprenda a todos: tal vez Spotify incorporando mindfulness y ‘consejos’ susurrados en tiempo real pueda ser el avance que mejora la mente.

¿Cómo resumirías cómo los Motores de recomendación permiten a los usuarios comprenderse mejor a sí mismos?

Las recomendaciones son sobre buenas elecciones…. a veces, incluso grandes elecciones. ¿Cuáles son las elecciones que aceptas? ¿Cuáles son las elecciones que ignoras? ¿Cuáles son las elecciones que rechazas? Tener el coraje de hacer – y responder – esas preguntas te da una comprensión notable de quién eres y quién podrías querer ser. Somos las elecciones que hacemos; cualquier cosa que influya en esas elecciones tiene un impacto y una influencia notable en nosotros.

¿Hay algo más que te gustaría compartir sobre tu libro?

Sí – en el primer y último análisis, mi libro es sobre el futuro del consejo y el futuro de quién ‘realmente’ quieres ser. Es sobre el futuro del yo – tu ‘yo’. Creo que eso es tanto emocionante como importante, ¿no?

Gracias por tomarte el tiempo para compartir tus puntos de vista.

Para nuestros lectores, les recomiendo encarecidamente este libro, que está disponible actualmente en Amazon en Kindle o en papel. También pueden ver más opciones de pedido en la página de MIT Press.