Conception responsable – Pourquoi l’IA doit être centrée sur l’humain

L’intelligence artificielle est en train de changer les expériences numériques qui définissent notre vie quotidienne. Des recommandations de produits personnalisés et de la santé prédictive à la conduite autonome et même aux files d’attente des parcs d’attractions, l’IA rend ces expériences moins chères, plus efficaces et même agréables. Du moins, c’est ce qui est promis.

Mais trop souvent, nous rencontrons des titres qui parlent de soi-disant “échecs de l’IA” – des moments où les utilisateurs se sentent induits en erreur, frustrés ou simplement pas compris. Et lorsque la confiance est rompue, le potentiel de l’IA à être vraiment significatif et efficace est également rompu.

La confiance du public s’érode. Pourquoi ? Parce que la plupart des systèmes ne sont pas conçus en tenant compte de l’expérience humaine – ils sont conçus pour ce qui est rapide, évolutif et rentable. Cela devrait être une cause majeure de préoccupation pour les entreprises de toutes tailles qui doublent leurs investissements dans l’IA.

Pour établir la confiance, les entreprises doivent s’arrêter et poser des questions plus approfondies : Pourquoi construisons-nous ce système ? Devrait-il même être construit en premier lieu ? En bref, concevons-nous l’IA pour servir les besoins humains – ou forçons-nous les humains à s’adapter à la logique de la machine ?

Le fossé de confiance avec l’IA

Trop souvent, l’IA est développée dans des environnements techniques isolés, où le succès est mesuré par la précision ou la vitesse, et pas par l’impact social ou la convivialité. La pensée éthique, un élément essentiel de la confiance, n’est pas automatiquement intégrée dans le processus de développement de l’IA. Cette déconnexion entraîne des systèmes qui peuvent être innovants en théorie, mais qui font défaut dans la pratique.

Prenez le chatbot d’Air Canada, qui a fourni des informations erronées à un client sur sa politique de tarifs de deuil, pour que l’entreprise argue qu’elle n’était pas responsable de ce que le chatbot a dit. Ou le chatbot IA de Meta, qui a fourni des déclarations incorrectes dans les résultats de recherche. Ces exemples reflètent plus que des glitches techniques ; ils exposent une défaillance systémique pour concevoir des applications d’IA avec de l’empathie, des garde-fous de sécurité et un contexte du monde réel.

Le public a pris note. Selon le Pew Research Center, 59 % des Américains et 55 % des experts en IA ont peu ou pas confiance dans la capacité des entreprises américaines à développer l’IA de manière responsable. C’est un fossé de confiance que nous ne pouvons pas ignorer.

La conception centrée sur l’humain n’est pas un luxe

La conception n’est pas un élément de décoration pour l’IA. Elle est fondamentale pour son comportement et sa perception par les utilisateurs finals. La conception centrée sur l’humain commence par la compréhension des personnes pour lesquelles nous concevons : leurs objectifs, leurs frustrations, leurs valeurs et leurs réalités vécues.

Il est essentiel, lors du processus de conception, de poser des questions très spécifiques pour s’assurer que la technologie sert les besoins humains, et non l’inverse, en définissant :

• Qui concevons-nous pour ?
• Quels sont leurs objectifs, leurs valeurs et leurs défis ?
• Comment interagissent-ils avec les systèmes sur le plan émotionnel et fonctionnel ?
• Le produit est-il digne de confiance et fait-il ce qu’il promet ?
• Est-il promouvant l’inclusivité et l’accessibilité pour toutes sortes de personnes ?

Ces questions ne sont pas abstraites. Elles façonnent directement la façon dont l’IA se comporte dans la pratique. Et, dans des contextes à hauts enjeux comme la santé, la sécurité ou l’éducation, elles peuvent déterminer si un système est inclusif et équitable ou confus et préjudiciable.

À quoi ressemble une meilleure conception

Les concepteurs font le pont entre les besoins humains et les capacités de la machine à travers le processus de prototypage, de test et d’itération, qui garantit que les produits ont du sens pour les personnes qui les utilisent. Cela inclut de remettre en question la façon dont l’IA communique, les décisions qu’elle automatise et le contrôle qu’elle offre à l’utilisateur.

Prenez les parcs d’attractions comme exemple. L’IA est déployée cet été pour réduire les temps d’attente, personnaliser les expériences et gérer le flux de la foule. C’est un cas d’utilisation prometteur. Mais le succès ne consiste pas seulement à optimiser les opérations logistiques au profit du chiffre d’affaires ; il s’agit de donner la priorité à l’expérience humaine, et non seulement à l’efficacité. Cela signifie des messages transparents, des interfaces intuitives, des options de réinitialisation claires pour les utilisateurs ayant des besoins spécifiques (comme les familles sans smartphones ou les invités ayant des besoins d’accessibilité).

L’opportunité ici n’est pas seulement d’optimiser les opérations logistiques au profit du chiffre d’affaires ; c’est d’élever la joie, de réduire les frictions et de créer des expériences partagées qui semblent magiques, et non mécaniques. C’est une opportunité pour la conception.

Tester l’élément humain

Dans la conception de l’IA centrée sur l’humain, les tests sont critiques. Il est idéal d’intégrer les utilisateurs potentiels dans le processus dès le début et régulièrement, afin d’identifier les points aveugles potentiels. Lorsque les utilisateurs ne peuvent pas comprendre ou faire confiance à un système, le système a échoué, quelle que soit la qualité de son backend.

Les tests garantissent également l’accessibilité, qui est souvent négligée dans les expériences alimentées par l’IA. Un chatbot peut être techniquement fonctionnel, mais s’il ne sert pas les utilisateurs neurodivers ou les non-locuteurs natifs, il n’est pas vraiment fonctionnel. La conception inclusive ne bénéficie pas seulement aux marges, elle renforce les produits pour tout le monde.

La responsabilité commence avec la conception

Les politiques peuvent aider à établir des limites et à prévenir les pires résultats. Les cadres tels que le Règlement de l’IA de l’UE et le Projet de loi sur les droits de l’IA sont des étapes cruciales. Mais la conformité n’est que le plancher. La conception est la façon dont nous atteignons le plafond.

Les entreprises doivent aller au-delà des listes de contrôle pour construire des systèmes d’IA qui soutiennent la dignité, l’autonomie et la surveillance. Cela signifie résister à la tentation de fully automatiser le jugement humain, et concevoir des outils qui le renforcent à la place. L’IA responsable ne supprime pas le contrôle humain ; au contraire, elle l’amplifie.

Ce travail n’est pas seulement technique. Il nécessite des équipes multidisciplinaires de concepteurs, d’ingénieurs, d’experts en politiques et d’éthiciens qui travaillent ensemble dès le premier jour. Cela signifie concevoir avec les gens, et non seulement pour eux.

Le rôle des concepteurs dans l’élaboration de l’IA

Les concepteurs jouent un rôle unique dans l’élaboration de l’IA. Ils sont des traducteurs qui sont compétents dans la logique structurée des machines et la complexité de la vie humaine. Les concepteurs sont formés pour reconnaître les points de friction, les signaux émotionnels et les implications sociales que les données seules ne peuvent pas capturer.

De même que les questions spécifiques qui garantissent que la technologie sert les besoins humains, les concepteurs doivent plaider pour des questions qui ne rentrent pas parfaitement dans les données de formation, comme :

• Comment cela fait-il sentir quelqu’un ?
• L’utilisateur est-il en contrôle ?
• Que se passe-t-il lorsque les choses tournent mal ?

Trop souvent, la conception est introduite à la fin du processus d’IA pour “rendre les choses jolies”. Mais le véritable pouvoir de la conception est stratégique. Elle devrait façonner la façon dont les problèmes sont définis dès le départ, et non seulement la façon dont les interfaces apparaissent.

Centré sur l’humain, et non sur la machine

L’IA n’est pas seulement un défi technique, c’est un défi de conception. Et pour le relever, nous devons centrer les valeurs humaines dès le départ.

La conception de l’IA centrée sur l’humain n’est pas un luxe – c’est une nécessité. Elle crée des systèmes qui sont dignes de confiance, fiables, impartiaux, auditable et conformes. Mais plus que cela, elle construit des produits qui profitent à l’utilisateur final et élèvent la productivité et le potentiel humains.

Nous avons les outils et nous avons la responsabilité de concevoir un avenir où la technologie sert les gens, et non l’inverse. Cet avenir commence avec la conception.