Conçu pour être responsable – Pourquoi l’IA doit être centrée sur l’humain

L’intelligence artificielle est en train de changer les expériences numériques qui définissent notre vie quotidienne. Des recommandations de produits personnalisés et de soins de santé prédictifs à la conduite autonome et même aux files d’attente des parcs d’attractions, l’IA rend ces expériences moins chères, plus efficaces et même plus agréables. Du moins, c’est ce qui est promis.

Mais trop souvent, nous rencontrons des titres sur les soi-disant “échecs de l’IA” – des moments où les utilisateurs se sentent induits en erreur, frustrés ou simplement pas compris. Et lorsque la confiance est rompue, le potentiel de l’IA à être vraiment significatif et efficace l’est également.

La confiance du public s’érode. Pourquoi ? Parce que la plupart des systèmes ne sont pas conçus en tenant compte de l’expérience humaine – ils sont conçus pour ce qui est rapide, évolutif et rentable. Cela devrait être une cause majeure de préoccupation pour les entreprises de toutes tailles qui doublent leurs investissements dans l’IA.

Pour établir la confiance, les entreprises doivent s’arrêter et poser des questions plus approfondies : Pourquoi construisons-nous ce système ? Devrait-il même être construit en premier lieu ? En bref, concevons-nous l’IA pour servir les besoins humains – ou forçons-nous les humains à s’adapter à la logique de la machine ?

Le fossé de confiance avec l’IA

Trop souvent, l’IA est développée dans des environnements techniques isolés, où le succès est mesuré par la précision ou la vitesse, et pas par l’impact social ou la convivialité. La réflexion éthique, un élément essentiel de la confiance, n’est pas automatiquement intégrée dans le processus de développement de l’IA. Cette déconnexion aboutit à des systèmes qui peuvent être innovants en théorie, mais qui font défaut dans la pratique.

Prenez le chatbot d’Air Canada, qui a confié avec assurance à un client des informations erronées sur sa politique de tarifs de deuil, pour que l’entreprise argue ensuite qu’elle n’était pas responsable de ce que le chatbot avait dit. Ou le chatbot IA de Meta, qui a fourni des déclarations incorrectes sur les faits dans les résultats de recherche. Ces exemples reflètent plus que des dysfonctionnements techniques ; ils exposent une défaillance systémique pour concevoir des applications d’IA avec de l’empathie, des garde-fous de sécurité et un contexte du monde réel.

Le public a pris note. Selon le Pew Research Center, 59 % des Américains et 55 % des experts en IA ont peu ou pas confiance dans les entreprises américaines pour développer l’IA de manière responsable. C’est un fossé de confiance que nous ne pouvons pas ignorer.

La conception centrée sur l’humain n’est pas un luxe

La conception n’est pas un simple décor pour l’IA. Elle est fondamentale pour son comportement et pour la façon dont elle est perçue par les utilisateurs finals. La conception centrée sur l’humain commence par comprendre les personnes pour lesquelles nous concevons : leurs objectifs, frustrations, valeurs et réalités vécues.

Il est impératif, lors du processus de conception, de poser des questions très spécifiques pour garantir que la technologie serve les besoins humains, et non l’inverse, en définissant :

• Qui concevons-nous pour ?
• Quels sont leurs objectifs, valeurs et défis ?
• Comment interagissent-ils avec les systèmes sur le plan émotionnel et fonctionnel ?
• Le produit est-il digne de confiance et fait-il ce qu’il prétend faire ?
• Est-il favorable à l’inclusivité et à l’accessibilité pour toutes sortes de personnes ?

Ces questions ne sont pas abstraites. Elles façonnent directement la façon dont l’IA se comporte dans la réalité. Et, dans des contextes à enjeux élevés comme les soins de santé, la sécurité ou l’éducation, elles peuvent déterminer si un système est inclusif et équitable ou confus et préjudiciable.

À quoi ressemble une meilleure conception

Les concepteurs font le pont entre les besoins humains et les capacités de la machine à travers le processus de prototypage, de test et d’itération, qui garantit que les produits ont du sens pour les personnes qui les utilisent. Cela inclut de remettre en question la façon dont l’IA communique, les décisions qu’elle automatise et le contrôle qu’elle offre à l’utilisateur.

Prenez les parcs d’attractions comme exemple. L’IA est déployée cet été pour réduire les temps d’attente, personnaliser les expériences et gérer le flux de la foule. C’est un cas d’utilisation prometteur. Mais le succès ne consiste pas seulement à optimiser les opérations commerciales au profit du chiffre d’affaires ; il s’agit de valoriser la joie, de réduire les frictions et de créer des expériences partagées qui semblent magiques, et non mécaniques. C’est une opportunité pour la conception.

Tester l’élément humain

Dans la conception d’IA centrée sur l’humain, les tests sont critiques. Il est idéal d’impliquer les utilisateurs potentiels dans le processus dès le départ et régulièrement, dans le but d’identifier les points aveugles potentiels. Lorsque les utilisateurs ne peuvent pas comprendre ou faire confiance à un système, le système a échoué, quelle que soit la qualité de son backend.

Les tests garantissent également l’accessibilité, qui est souvent négligée dans les expériences pilotées par l’IA. Un chatbot peut être techniquement fonctionnel, mais s’il ne sert pas les utilisateurs neurodivers ou les non-locuteurs natifs, il n’est pas vraiment fonctionnel. La conception inclusive ne profite pas seulement aux marges, elle renforce les produits pour tout le monde.

La responsabilité commence avec la conception

Les politiques peuvent aider à établir des limites et à prévenir les pires résultats. Les cadres comme le Règlement IA de l’UE et le Plan pour une Charte des droits de l’IA sont des étapes cruciales. Mais la conformité n’est que le plancher. La conception est la façon dont nous atteignons le plafond.

Les entreprises doivent aller au-delà des listes de contrôle pour construire des systèmes d’IA qui soutiennent la dignité, l’autonomie et la surveillance. Cela signifie résister à la tentation de fully automatiser le jugement humain, et concevoir des outils qui le renforcent à la place. L’IA responsable n’efface pas le contrôle humain ; au contraire, elle l’amplifie.

Ce travail n’est pas seulement technique. Il nécessite des équipes multidisciplinaires de concepteurs, d’ingénieurs, d’experts en politiques et d’éthiciens qui travaillent tous ensemble dès le premier jour. Cela signifie concevoir avec les gens, et non seulement pour eux.

Le rôle des concepteurs dans l’élaboration de l’IA

Les concepteurs jouent un rôle unique dans l’élaboration de la trajectoire de l’IA. Ils sont des traducteurs qui sont compétents à la fois dans la logique structurée des machines et dans la complexité de la vie humaine. Les concepteurs sont formés pour reconnaître les points de friction, les indices émotionnels et les implications sociales que les données seules ne peuvent pas capturer.

De même que les questions spécifiques qui garantissent que la technologie sert les besoins humains, les concepteurs doivent plaider pour des questions qui ne s’insèrent pas parfaitement dans les données de formation, comme :

• Comment cela fait-il sentir quelqu’un ?
• L’utilisateur est-il en contrôle ?
• Que se passe-t-il lorsque les choses tournent mal ?

Trop souvent, la conception est introduite à la fin du processus d’IA pour « le rendre beau ». Mais le véritable pouvoir de la conception est stratégique. Il devrait façonner la façon dont les problèmes sont définis dès le départ, et non seulement l’apparence des interfaces.

Centré sur l’humain, et non sur la machine

L’IA n’est pas seulement un défi technique, c’est un défi de conception. Et pour le relever, nous devons centrer les valeurs humaines dès le départ.

L’IA centrée sur l’humain n’est pas un luxe – c’est une nécessité. Elle crée des systèmes qui sont dignes de confiance, fiables, impartiaux, auditable et conformes. Mais plus que cela, elle crée des produits qui profitent à l’utilisateur final et valorisent la productivité et le potentiel humains.

Nous avons les outils et nous avons la responsabilité de concevoir un avenir où la technologie sert les gens, et non l’inverse. Cet avenir commence avec la conception.