Michael Schrage, auteur de Recommendation Engines (The MIT Press) – Série d’entretiens

Michael Schrage est un chercheur associé à l’Initiative sur l’économie numérique de la MIT Sloan School of Management. Un expert recherché en innovation, en métriques et en effets de réseau, il est l’auteur de Qui voulez-vous que vos clients deviennent ?, L’hypothèse de l’innovateur : Comment les expériences bon marché valent plus que les bonnes idées (MIT Press), et d’autres livres.

Dans cet entretien, nous discutons de son livre “Recommendation Engines” qui explore l’histoire, la technologie, les affaires et l’impact social des moteurs de recommandation en ligne.

Qu’est-ce qui vous a inspiré pour écrire un livre sur un sujet aussi spécifique que les “Moteurs de recommandation” ?

La formulation de votre question donne le ton….. Lorsque j’ai examiné sérieusement les technologies numériques et les points de contact qui influencent vraiment la vie des gens dans le monde entier, j’ai presque toujours trouvé un “moteur de recommandation” qui détermine la décision. Les recommandations de Spotify déterminent la musique et les chansons que les gens écoutent ; les moteurs de recommandation de TikTok définissent les “vidéos virales” que les gens créent et partagent ; les recommandations de Netflix (NFLX ) sont conçues pour faciliter la “consommation excessive” et les “téléspectateurs excessifs” ; Google Maps et Waze recommandent les meilleures et/ou les plus rapides et/ou les plus simples façons d’y arriver ; Tinder et Match.com recommandent qui vous pourriez aimer ou, vous savez, “être” avec ; Stitch Fix (SFIX ) recommande ce que vous pourriez vouloir porter pour vous rendre “vous” ; Amazon (AMZN ) recommande ce que vous devriez vraiment acheter ; Academia et ResearchGate recommandent les recherches les plus pertinentes que vous devriez être au courant….. Je pourrais continuer – et je le fais, dans le livre – mais, techniquement et conceptuellement, les “moteurs de recommandation” sont l’antithèse de “sujets étroits”. Leur point et leur objectif couvrent l’ensemble des désirs et des décisions humaines.

Une citation dans votre livre est la suivante : “Les recommandations ne sont pas seulement sur ce que nous pourrions acheter, mais sur qui nous pourrions vouloir devenir”. Comment cela pourrait-il être abusé par les entreprises ou les acteurs malveillants ?

Il n’y a aucun doute que les recommandations peuvent être abusées. La question classique – Cui bono ? – “Qui en bénéficie ?” – s’applique. Les recommandations sont-elles vraiment destinées à bénéficier au destinataire ou à l’entité/entreprise qui fait la recommandation ? Tout comme il est facile pour un collègue, un acquéreur ou un “ami” qui vous connaît de vous offrir des conseils qui ne sont pas vraiment dans votre intérêt, il est facile pour les “recommandations basées sur les données” de suggérer que vous achetiez quelque chose qui augmente leur profit aux dépens de votre utilité ou de votre satisfaction. D’un côté, je suis très préoccupé par le potentiel – et la réalité – d’abus. De l’autre, je pense que la plupart des gens comprennent rapidement lorsqu’ils sont exploités ou manipulés par les gens ou la technologie. Trompez-moi une fois, honte sur vous ; trompez-moi deux ou trois fois, honte sur moi. La recommandation est l’un de ces domaines spéciaux où il est intelligent d’être éthique et éthique d’être intelligent.

Les chambres d’écho où les utilisateurs ne voient que ce qu’ils veulent voir, quelle que soit l’exactitude, sont-elles un problème sociétal ?

Eli Pariser a forgé l’excellente phrase “la bulle de filtre” pour décrire ce phénomène et cette pathologie. Je suis largement d’accord avec sa perspective. En vérité, je pense qu’il est désormais juste de dire que la “biais de confirmation” – et non le sexe – est ce qui pousse vraiment la plupart des comportements humains adultes. La plupart des gens cherchent à être d’accord la plupart du temps. Les recommandations doivent naviguer un parcours prudent entre la nouveauté, la diversité, la pertinence et la sérendipité, car – bien que trop de confirmation soit ennuyeux et redondant – trop de nouveauté et de défis peuvent ennuyer et offenser. Oui, la quête de confirmation est à la fois un problème personnel et social. Cependant, les recommandations offrent un moyen relativement inoffensif de présenter des perspectives et des options alternatives à l’attention des gens., Cependant, je me demande vraiment si la réglementation et l’examen juridique définiront de plus en plus l’avenir de la recommandation.

Les bulles de filtre limitent actuellement l’exposition aux points de vue contradictoires, contraires et/ou contestables. Devrait-il y avoir une sorte de réglementation qui décourage ce type de sur-filtrage ?

Je préfère une surveillance légère à une surveillance lourde. La plupart des plateformes que je vois font un très mauvais travail pour étiqueter les “fausses nouvelles” ou établir un contrôle de qualité. J’aimerais voir plus de mécanismes innovants explorés : glisser vers la gauche pour une prise de position contraire ; intégrer des liens qui élaborent sur les histoires ou les vidéos de manière à approfondir la compréhension ou à décontextualiser les “biais” qui sont confirmés. Mais soyons clairs : les architectures de choix qui “découragent” ou créent des “frottements” nécessitent des données et des sensibilités de conception différentes de celles qui “interdisent” ou “censurent” ou “empêchent”. Je pense que c’est un problème très difficile pour les gens et les machines. Ce qui le rend particulièrement difficile, c’est que les êtres humains – en fait – sont moins prévisibles que ce que beaucoup de psychologues et de scientifiques sociaux le croient. Il y a beaucoup de “théories de l’esprit” et d'”agent” ces jours-ci. Plus les recommandations et les recommandations personnalisées deviennent, plus les approches “taille unique” deviennent challengantes et anachroniques. C’est l’une des nombreuses raisons pour lesquelles ce domaine m’intéresse.

Les utilisateurs et la société devraient-ils exiger une explication de la raison pour laquelle des recommandations spécifiques sont faites ?

Oui, oui et oui. Pas seulement “l’explicabilité” mais également “la visibilité”, “la transparence” et “l’interprétabilité”. Les gens devraient avoir le droit de voir et de comprendre les technologies utilisées pour les influencer. Ils devraient être en mesure d’apprécier les algorithmes utilisés pour les inciter et les persuader. Pensez à cela comme le contrepartie algorithmique du “consentement éclairé” en médecine. Les patients ont le droit d’obtenir – et les médecins ont le devoir de fournir – les raisons et les raisons pour choisir “ce” cours d’action à “ce” autre. En effet, je soutiens que le “consentement éclairé” – et son avenir – en médecine et en soins de santé offre un bon modèle pour l’avenir du “consentement éclairé” pour les moteurs de recommandation.

Croyez-vous qu’il est possible de “pirater” le cerveau humain en utilisant des Moteurs de recommandation ?

Le cerveau ou l’esprit ? Je ne plaisante pas. Utilisons-nous matériellement – électriquement et chimiquement – les neurones et les lobes ? Ou utilisons-nous des stimuli sensoriels moins invasifs pour évoquer des comportements prévisibles ? Brutalement, je crois que certains cerveaux – et certains esprits – sont piratables certains moments. Mais est-ce que je crois que les gens sont destinés à devenir des “marionnettes de viande” qui dansent au rythme des recommandations ? Je ne le fais pas. Regardez, certaines personnes deviennent des accros. Certaines personnes perdent leur autonomie et leur contrôle. Et, oui, certaines personnes veulent exploiter les autres. Mais la prépondérance des preuves ne me fait pas m’inquiéter pour la “weaponisation de la recommandation”. Je suis plus inquiet de l’abus de confiance.

Une citation dans un document de recherche de Jason L. Harman et Jason L. Harman indique ce qui suit : “La confiance que les humains accordent aux recommandations est la clé du succès des systèmes de recommandation”. Croyez-vous que les médias sociaux ont trahi cette confiance ?

Je crois en cette citation. Je crois que la confiance est, en effet, la clé. Je crois que les personnes intelligentes et éthiques comprennent vraiment et apprécient l’importance de la confiance. Avec des excuses pour le commentaire de Churchill sur le courage, la confiance est la vertu qui permet une connexion humaine saine et une croissance. Cependant, je suis à l’aise pour soutenir que la plupart des plateformes de médias sociaux – oui, Twitter et Facebook (META ), je vous regarde ! – ne sont pas construites autour ou basées sur la confiance. Ils sont basés sur la facilitation et la mise à l’échelle de l’expression de soi. La capacité à s’exprimer à grande échelle n’a littéralement rien à voir avec la création ou la construction de la confiance. Il n’y avait rien à trahir. Avec la recommandation, il y a.

Vous affirmez que vous croyez que l’avenir des Moteurs de recommandation comportera les meilleures recommandations pour améliorer son esprit. Selon vous, y a-t-il des Moteurs de recommandation qui travaillent actuellement sur un tel système ?

Pas encore. Je vois cela comme le prochain marché d’un trillion de dollars. Je pense qu’Amazon, Google, Alibaba et Tencent veulent y arriver. Mais, qui sait, il peut y avoir un innovateur entrepreneur qui nous surprendra tous : peut-être que Spotify, en intégrant la pleine conscience et les conseils “à temps” chuchotés, sera la percée qui améliorera l’esprit.

Comment résumez-vous comment les Moteurs de recommandation permettent aux utilisateurs de mieux se comprendre ?

Les recommandations sont sur les bons choix…. parfois, même les grands choix. Quels sont les choix que vous adoptez ? Quels sont les choix que vous ignorez ? Quels sont les choix que vous rejetez ? Avoir le courage de poser – et de répondre – à ces questions vous donne une compréhension remarquable de qui vous êtes et de qui vous pourriez vouloir devenir. Nous sommes les choix que nous faisons ; tout ce qui influence ces choix a un impact et une influence remarquable sur nous.

Y a-t-il autre chose que vous aimeriez partager sur votre livre ?

Oui – dans le premier et le dernier analyse, mon livre est sur l’avenir des conseils et l’avenir de qui vous “vraiment” voulez devenir. Il s’agit de l’avenir de soi – votre “soi”. Je pense que c’est à la fois un sujet passionnant et important, n’est-ce pas ?

Je vous remercie d’avoir pris le temps de partager vos vues.

A nos lecteurs, je vous recommande vivement ce livre, il est actuellement disponible sur Amazon en Kindle ou en format papier. Vous pouvez également consulter plus d’options de commande sur la page MIT Press.