La Course aux Armes de la Communication de Crise de l’IA : Quand Votre Chatbot Devient Fou, Quel est le Nouveau Livre de Jeu ?

Avec l’internet tel qu’il existe actuellement, les marques sont en concurrence pour intégrer des chatbots alimentés par l’IA afin de rationaliser l’interaction avec les clients et les affaires. Mais avec une intelligence plus élevée vient un danger sans précédent. Lorsqu’un chatbot d’IA échoue, en publiant des contenus inappropriés, trompeurs ou diffamatoires, les dégâts peuvent être faits rapidement et égoïstement. La question est : Comment les marques réagissent-elles lorsque leur IA se trompe ?

La Nouvelle Frontière du Risque de Marque

Les événements récents laissent entrevoir cette menace potentielle. En février 2024, Air Canada (AC.TO ) a fait face à des répercussions juridiques lorsqu’il a fourni à un client des informations incorrectes concernant la politique de tarifs de deuil de la compagnie aérienne via son chatbot alimenté par l’IA. Le chatbot a informé à tort le passager qu’il pouvait demander un tarif de deuil de manière rétroactive, ce qui contredit la politique réelle de la compagnie aérienne. Lorsque le client a demandé le tarif après le voyage, Air Canada a refusé la demande, ce qui a conduit à un litige. Le Tribunal de règlement des différends civils de la Colombie-Britannique a rendu un verdict en faveur du passager, ordonnant à Air Canada de le dédommager et de maintenir le tarif de deuil. Cet événement met en évidence les responsabilités potentielles auxquelles les entreprises sont confrontées lorsqu’elles utilisent des systèmes d’IA qui diffusent des informations inexactes, soulignant la nécessité de mécanismes de surveillance et de responsabilité robustes.

De même, Meta est confrontée à des critiques concernant ses compagnons numériques basés sur l’IA. Une enquête menée par The Wall Street Journal a révélé que certains de ses chatbots avaient des discussions à caractère sexuel avec des utilisateurs se faisant passer pour des enfants. Cette révélation a entraîné de graves problèmes de réputation pour l’entreprise, soulevant des questions éthiques et la nécessité de garde-fous liés à l’IA.

Le ChatGPT d’OpenAI n’a pas non plus été épargné par les controverses. Une mise à jour récente a rendu le chatbot excessivement amical, confirmant même des pensées nuisibles ou délirantes exprimées par les utilisateurs. Cette surcharge d’amabilité, destinée à accroître l’interaction, a soulevé des questions éthiques sur l’impact de l’IA sur le comportement et la validation émotionnelle des utilisateurs. OpenAI a pris note du problème et a annulé la mise à jour, mais l’incident met en évidence la fine ligne entre l’engagement de l’utilisateur et le comportement éthique de l’IA.

La Responsabilité à l’Ère de l’IA

Ces événements posent des questions fondamentales sur la responsabilité. Lorsqu’un ambassadeur humain commet une erreur, la voie de la rédemption est simple : s’excuser, s’excuser, et oublier. Cependant, lorsqu’un système d’IA est responsable, les choses deviennent confuses. Qui est en faute, les créateurs, l’organisation qui utilise l’IA, ou l’IA elle-même ?

Les marques doivent être prudentes et reconnaître que l’utilisation de l’IA ne les exonère pas de responsabilité. Les consommateurs assimilent la voix du chatbot à la voix de la marque. Par conséquent, toute petite erreur de l’IA est répercutée sur la réputation de la marque. Il est important pour les entreprises d’avoir des lignes directrices strictes pour la surveillance de l’IA et d’être prêtes à prendre des mesures rapides lorsque la situation se dégrade.

Les attentes de transparence entourant l’IA évoluent rapidement. Les consommateurs, les régulateurs et les journalistes exigent de la clarté sur la manière dont les systèmes automatisés sont formés, déployés et gérés. Dans ce contexte, le silence ou la dénégation ne sont pas des options. Les marques doivent communiquer de manière proactive leurs pratiques de gouvernance de l’IA et être prêtes à fournir une réponse humaine lorsqu’une erreur d’IA se produit. Les protocoles de crise doivent maintenant inclure des contingences spécifiques à l’IA, telles que l’établissement de lignes claires de propriété pour les sorties générées par l’IA et la garantie que la surveillance humaine fait toujours partie du processus. Seulement blâmer “l’algorithme” n’est pas une stratégie ; c’est une excuse qui érode la confiance.

En outre, les entreprises doivent reconnaître que les erreurs d’IA se propagent souvent plus rapidement que les erreurs traditionnelles, alimentées par l’amplification virale des médias sociaux et la fascination du public pour les erreurs technologiques. Une seule capture d’écran d’une interaction de chatbot défectueux peut atteindre des millions de personnes en quelques heures. Cela renforce la nécessité d’une surveillance constante de l’IA et de voies d’escalade rapides. Les équipes de communication doivent effectuer une planification de scénarios spécifiques aux défaillances de l’IA, élaborer des réponses modélisées et aligner les équipes juridiques, de conformité et d’ingénierie autour d’une compréhension partagée de la responsabilité. Dans ce nouveau paysage, la résilience réputationnelle dépend non seulement de la manière dont une marque réagit aux crises de l’IA, mais également de la manière dont elle se prépare à celles-ci de manière transparente.

Étapes Préventives pour la Gestion de Crise de l’IA

Pour prospérer dans un scénario d’IA complexe, les marques peuvent employer les étapes suivantes :

• Mettre en Place des Systèmes de Surveillance Robustes : Auditer régulièrement les sorties de l’IA pour identifier et corriger le contenu objet de controverse de manière opportune. Par exemple, SeekOut, une plateforme d’intelligence sur les talents, effectue des audits réguliers de ses systèmes d’IA pour garantir des résultats justes et impartiaux. En réponse à l’évolution des réglementations et dans le cadre de son engagement en faveur d’une IA responsable, SeekOut a engagé un auditeur tiers, Credo AI, pour évaluer ses algorithmes. L’audit a évalué les performances des fonctionnalités d’IA sur différents groupes démographiques, vérifiant que les résultats de recherche pour les titres d’emploi étaient représentatifs et équitables. Cette approche proactive permet à SeekOut d’identifier et de rectifier rapidement les préjugés potentiels, maintenant l’intégrité et l’équité de ses services alimentés par l’IA.
• Créer des Cadres de Responsabilité Clairs : Déterminer qui dans l’organisation sera chargé de la surveillance de l’IA et de la gestion de crise. Par exemple, Le Bureau de responsabilité du gouvernement des États-Unis a publié un cadre de responsabilité de l’IA mettant l’accent sur la gouvernance, les données, les performances et la surveillance. Il fournit des pratiques pour les agences fédérales afin de garantir une utilisation responsable de l’IA, y compris la fixation d’objectifs clairs et la participation de parties prenantes diverses.
• Créer des Plans de Réponse à la Crise Spécifiques à l’IA : Les plans de gestion de crise génériques peuvent ne pas être suffisants. Personnaliser les plans pour répondre à des crises spécifiques à l’IA, telles que la fermeture des systèmes d’IA lorsque nécessaire. Le Programme de développement des Nations Unies utilise des tableaux de bord de risque de crise alimentés par l’IA pour surveiller et prédire les crises potentielles, telles que les discours de haine et la violence. Ces tableaux de bord permettent des réponses proactives en analysant les données en temps réel et en prévoyant les risques.
• Pratiquer une Communication Honnête : Lorsqu’une erreur d’IA est commise, pratiquer l’honnêteté dans la communication avec les parties prenantes concernant l’erreur, les mesures prises pour la rectifier et les procédures mises en place pour éviter les incidents répétitifs. Par exemple, en 2018, Amazon (AMZN ) a abandonné son outil de recrutement basé sur l’IA après avoir découvert qu’il était biaisé contre les candidates féminines. L’entreprise a reconnu le problème et a cessé d’utiliser l’outil, démontrant la transparence dans la résolution des lacunes de l’IA.
• Investir dans la Formation Morale de l’IA : S’assurer que les modèles d’IA sont formés avec des ensembles de données divers et inclusifs dans le but de supprimer les préjugés et les contenus offensants. Dans ce sens, les chercheurs de l’Université de Washington et de l’Institut Allen pour l’IA ont développé Delphi, un système d’IA conçu pour prendre des décisions éthiques. Bien qu’il montre des promesses, Delphi reflète parfois les préjugés sociétaux, mettant en évidence les défis liés à la formation de l’IA avec des ensembles de données divers et inclusifs.

Alors que l’intelligence artificielle est de plus en plus intégrée dans les communications de marque, le risque d’erreurs augmente. Alors que l’IA offre des efficacités précieuses, elle introduit également des défis uniques que les marques doivent être prêtes à gérer. En mettant en place des mesures de contrôle et des plans de réponse à la crise personnalisés de manière proactive, les organisations peuvent protéger leur réputation et maintenir la confiance des consommateurs dans ce paysage numérique en évolution.