Arrêtez de blâmer les données. Commencez à corriger vos objectifs

L’IA apprend de nous. Et nous sommes biaisés.

Parce que l’IA est formée à partir de contenus générés principalement par des humains, elle capte nos biais et les intègre. C’est pourquoi la plupart des conversations sur les biais de l’IA se concentrent sur les mauvaises données. Des déchets entrants, des déchets sortants. Assez simple. Mais même avec des données propres, les biais s’infiltrent encore.

Un problème plus subtil et souvent négligé est le biais objectif. Il est moins visible qu’un problème de jeu de données et constitue l’un des plus grands défis pour l’utilisation de l’IA orientée client.

Dans cet article, je vais examiner ce à quoi ressemble le biais objectif dans le cadre de l’expérience client (CX), pourquoi cela compte et ce que les marques peuvent vraiment faire à ce sujet.

Définition du biais objectif

Le biais objectif ne concerne pas les données défectueuses. Il s’agit d’une intention défectueuse. L’IA fait exactement ce qu’on lui dit de faire, et si on lui dit de maximiser les revenus, elle le fera – même si cela signifie nuire à la relation avec le client.

Prenez Delta Air Lines. Ils ont récemment annoncé un tarification basé sur l’IA conçu pour déterminer le montant maximum que le consommateur est prêt à payer. C’est un exemple parfait de biais objectif. Le système n’est pas conçu pour vous aider à trouver une bonne affaire. Il est conçu pour augmenter la conversion et réduire les coûts opérationnels.

Disons que vous réservez un voyage à Paris. Vous voulez le meilleur tarif, mais le système veut la meilleure marge. L’IA peut vous proposer un vol à 800 $ lorsque l’on peut en trouver un à 400 $. Non pas parce que l’IA est incorrecte, mais parce qu’elle fait son travail.

Ce n’est pas exactement le type de personnalisation que les consommateurs réclament…

Pourquoi c’est inévitable

Le biais objectif est un reflet des valeurs, de la culture et des priorités de votre marque. Il est intégré dans le tissu de votre IA. La véritable question est, dans quelle direction penche-t-il ? Favorise-t-il les objectifs du client ou les objectifs de revenus ?

Différentes équipes, régions et cultures ont des mentalités différentes et formeront le modèle d’IA de manière différente. Si les ventes prennent les rênes, il penchera vers la conversion. Si le groupe CX est en charge, il peut être mieux aligné sur le service et les économies.

Même architecture, résultats différents.

La solution n’est pas d’éliminer complètement les biais – c’est de les orienter dans la bonne direction. Biaissez votre IA pour la loyauté à long terme, et non pour les gains à court terme.

Les conséquences d’une IA mal alignée

Le plus grand risque que les marques encourent lorsqu’il s’agit de biais objectif est la perte de confiance.

Les clients sont déjà dégoûtés des interactions de marque génériques et non pertinentes. Lorsque l’IA rend ces expériences pires, cela les frustre et les aliène.

Si les grands modèles de langage (LLM) sont formés à partir de données biaisées et basées sur des hypothèses, ils produiront des réponses impersonnelles. En conséquence, les clients se sentiront comme si la marque ne se souciait pas d’eux. Ils peuvent acheter de vous aujourd’hui, mais sont moins susceptibles de rester fidèles à votre marque à long terme.

L’expérience est maintenant le moteur de la loyauté. De nombreux clients sont même prêts à payer plus pour cela. Alors, lorsque l’IA tente de vous vendre un produit à haute valeur qui ne correspond pas à leurs besoins, ils le remarquent. Ils optent out. Ils ne reviennent pas.

Le problème de l’IA agente

Ce risque augmente lorsqu’on examine l’IA agente.

L’IA agente est conçue pour agir de manière autonome. Elle peut effectuer des flux de travail multétapes sans intervention humaine. Mais si la logique de l’IA est défectueuse ou la formation est mal alignée, les dégâts s’accroissent.

Les experts s’accordent pour dire que l’IA agente a encore un long chemin à parcourir. En fait, un rapport récent montre que même si presque tous les directeurs financiers connaissent l’IA agente, seulement 15 % l’envisagent sérieusement. Les données correspondantes indiquent que la capacité à surveiller et à prévenir les biais de manière précise était un obstacle clé à l’adoption.

La plupart des systèmes agents ont encore du mal avec l’ambiguïté, la mémoire persistante et la responsabilité. C’est une combinaison dangereuse lorsqu’il n’y a pas de moyen clair de diagnostiquer ou de corriger les erreurs ou les biais au fur et à mesure qu’ils se produisent.

Les marques ne devraient pas rester sur la touche, mais elles doivent avancer de manière stratégique.

Comment les marques peuvent minimiser le biais objectif