Trois façons de construire une « infrastructure émotionnelle » dans les produits de GenAI et de gagner la confiance des consommateurs

Lors d’une conversation récente avec un investisseur potentiel, on m’a demandé si je savais quel était le secret le plus efficace pour atteindre une échelle. Pour moi, c’était évident – c’est l’émotion. L’investisseur, cependant, a ri. Comme beaucoup dans le monde de la technologie, il croyait que la logique était scalable, mais que l’émotion ne l’était pas.

Bien que nous ayons discuté pendant un moment, je n’ai pas changé son avis (ni gagné son investissement). Mais j’ai passé plus d’une décennie à travailler dans le marketing sportif – vous ne me convaincrez jamais que la logique est ce qui remplit les stades de fans hystériques. C’est tout à fait émotionnel.

Alors que certains pourraient objecter que comparer la technologie aux sports est comme comparer des pommes et des oranges, je dirais que la technologie pourrait apprendre une ou deux leçons de l’industrie du sport. Car lorsqu’il s’agit de tant de produits technologiques, ne pas prendre en compte l’émotion humaine est contre-productif. Cette perspective myope est ce qui a conduit aux pires aspects des médias sociaux dans le passé et ce qui alimente actuellement les titres les plus préjudiciables concernant l’intelligence artificielle générative aujourd’hui.

Si les entrepreneurs de la technologie veulent gagner la confiance des consommateurs dans la promesse et le potentiel de l’IA, nous devons concevoir des produits qui sont construits avec ce que j’aime appeler « infrastructure émotionnelle ». Voici comment.

Utiliser la mémoire pour soutenir, et non exploiter

Les vastes fonctions promises par les agents d’IA seront rendues possibles grâce à des capacités de mémoire améliorées – mais cela implique également de stocker plus de données personnelles, et malheureusement, les données des utilisateurs ont historiquement été largement utilisées pour essayer de manipuler les utilisateurs pour dépenser de l’argent.

Construire l’IA avec une infrastructure émotionnelle, cependant, utiliserait la mémoire des données des utilisateurs pour combler les lacunes de connaissances que l’utilisateur peut ne pas réaliser qu’il manque.

Par exemple, si un utilisateur demande à un agent d’IA quels plages locales sont adaptées aux chiens, comme les choses se présentent, la plupart des agents répondront par une liste de plages et peut-être demanderont si l’utilisateur serait également intéressé par une liste de restaurants à proximité qui acceptent les animaux de compagnie.

Cependant, un agent conçu avec une infrastructure émotionnelle intègre une couche supplémentaire d’intelligence émotionnelle. Dans ce cas, il se souviendrait que le rendez-vous de vaccination du chien était la veille et avertirait l’utilisateur que prendre son chien dans l’eau trop tôt pourrait entraîner des infections, de l’épuisement ou des effets secondaires inattendus.

De cette façon, les agents d’IA se comporteraient plus comme des consultants de confiance qui sont prêts à faire preuve de prudence lorsque suivre simplement les ordres pourrait conduire à des résultats moins que optimaux. Cela est également plus susceptible de renforcer la confiance de l’utilisateur, ce qui entraînerait une utilisation accrue.

Construire des revenus grâce à la confiance, et non à la ciblage

Les premiers adoptants de la genAI ont déjà eu accès aux plus grands acteurs du marché pendant des années, sans frais. Cela pourrait inciter les fondateurs de startups d’IA B2C à penser que le seul chemin vers la rentabilité est un produit gratuit qui génère des revenus en vendant des données à des vendeurs tiers ou via des ventes de publicité.

Mais recourir à ce modèle économique pourrait mettre en danger la confiance déjà précaire des consommateurs si les utilisateurs ne sont pas traités avec un niveau de respect, de soin et de responsabilité beaucoup plus élevé. Prenez l’histoire la plus récente de l’application Meta AI dans laquelle les utilisateurs semblaient publier des requêtes très personnelles sur un flux public.

Tous les produits n’ont pas d’éléments sociaux, mais cet exemple illustre le niveau de détail personnel que les utilisateurs sont prêts à partager avec les agents d’IA. Et compte tenu du fait que des recherches montrent que les chatbots sont mieux à même de persuader les interlocuteurs humains lorsqu’ils sont équipés de détails personnels, la publicité dans ces plateformes pourrait être effectuée de manière éthiquement discutable – comme les comptes de Meta qui servent des publicités pour des produits de beauté après que les utilisateurs adolescents aient supprimé des selfies.

Au lieu de cela, l’infrastructure émotionnelle optimiserait le soin plutôt que les clics. Cela ne doit pas se faire au détriment des revenus, cependant.

L’IA pourrait rendre ces expériences encore plus efficaces en ne servant que des publicités qui répondent réellement aux besoins réels des utilisateurs : un imperméable lorsqu’une mauvaise météo est en route, des plans d’assurance pour animaux de compagnie dans le budget pour un nouveau chaton, des suppléments de vitamine C aux premiers signes de symptômes de rhume.

Mais un véritable soin ne consiste pas seulement à cibler avec précision – tout comme l’exemple de la plage ci-dessus, un véritable soin remplit les blancs que les utilisateurs ne réalisent pas qu’ils manquent. Par exemple, un suivi de la santé des animaux de compagnie peut avertir un utilisateur que sa race particulière est prédisposée à des carences en vitamine B12 et recommander une marque de croquettes qui répondrait mieux aux besoins de son chien.

Environ la moitié des consommateurs mondiaux sont prêts à partager des données personnelles si cela signifie de meilleures expériences utilisateur, mais ce chiffre est tombé à seulement 15 % sur le marché américain. Les entrepreneurs de l’IA ont une véritable opportunité de renverser cette perception grâce à une conception intelligente sur le plan émotionnel.

Concevoir des garde-fous émotionnels qui mettent les personnes en premier

L’aspect le plus crucial de l’infrastructure émotionnelle est de construire des garde-fous qui protègent les meilleurs intérêts des utilisateurs. Cela implique de sélectionner soigneusement le type de contenu qui peut être généré par l’IA, de marquer clairement le matériel généré par l’IA et de concevoir des interventions claires lorsque les utilisateurs s’aventurent dans des territoires émotionnels à risque.

Par exemple, lors de la construction d’une application de soins pour animaux de compagnie, mon équipe et moi avons décidé que nous ne nous tournerions pas vers l’IA pour tout contenu lié à la santé ou à la nutrition. Le risque d’hallucinations ou de désinformation était trop grand, nous avons donc décidé de payer un vétérinaire professionnel pour écrire et mettre à jour ces articles.

Non seulement cela prête de la crédibilité à notre produit, mais cela garde également nos utilisateurs et leurs animaux de compagnie en sécurité. C’est également ce que les consommateurs veulent – 79 % sont d’accord pour dire que l’utilisation de l’IA devrait être divulguée par les entreprises.

Enfin, il est dans le meilleur intérêt des entreprises d’IA de concevoir leurs produits pour communiquer clairement leurs limites et de diriger les utilisateurs vers des interventions humaines lorsqu’il est approprié. Il y a déjà eu des histoires d’utilisateurs vulnérables sur le plan émotionnel qui se sont tournés vers l’automutilation ou le suicide en raison du manque de garde-fous adéquats dans les chatbots, et cela a déjà conduit à des poursuites judiciaires.

Même si je crois que l’avenir de l’IA dans nos vies est prometteur, nous devons être honnêtes sur ses faiblesses actuelles et ne pas laisser les pressions de la vitesse et de la concurrence prendre le pas sur la sécurité. Si nous le faisons, nous perdrons la confiance des consommateurs que nous prétendons servir. Ignorer cette responsabilité nuit à l’ensemble de l’écosystème.