Leaders d’opinion
L’explicabilité peut répondre au problème d’IA de chaque industrie : le manque de transparence
Ajouter Unite.AI à vos sources préférées sur Google
Par : Migüel Jetté, VP de la R&D Speech, Rev.
Dans ses débuts, l’IA a peut-être pu se reposer sur les lauriers de la nouveauté. Il était acceptable que l’apprentissage automatique apprenne lentement et maintienne un processus opaque où le calcul de l’IA est impossible pour le consommateur moyen à pénétrer. Cela change. Alors que davantage d’industries telles que les soins de santé, la finance et le système de justice pénale commencent à utiliser l’IA de manière à avoir un impact réel sur la vie des gens, plus de gens veulent savoir comment les algorithmes sont utilisés, comment les données sont sources et à quel point leurs capacités sont précises. Si les entreprises veulent rester à la pointe de l’innovation dans leurs marchés, elles doivent s’appuyer sur une IA que leur public peut faire confiance. L’explicabilité de l’IA est l’ingrédient clé pour approfondir cette relation.
L’explicabilité de l’IA diffère des procédures d’IA standard car elle offre aux gens un moyen de comprendre comment les algorithmes d’apprentissage automatique créent des sorties. L’IA explicative est un système qui peut fournir aux gens des résultats potentiels et des lacunes. C’est un système d’apprentissage automatique qui peut répondre au désir humain de justice, de responsabilité et de respect de la vie privée. L’IA explicative est impérative pour que les entreprises établissent la confiance avec les consommateurs.
Alors que l’IA se développe, les fournisseurs d’IA doivent comprendre que la boîte noire ne peut pas. Les modèles de boîte noire sont créés directement à partir des données et souvent, même le développeur qui a créé l’algorithme ne peut pas identifier ce qui a conduit les habitudes apprises de la machine. Mais le consommateur consciencieux ne veut pas s’engager avec quelque chose d’aussi impénétrable qu’il ne peut pas être tenu responsable. Les gens veulent savoir comment un algorithme d’IA arrive à un résultat spécifique sans le mystère des entrées sources et des sorties contrôlées, surtout lorsque les erreurs de l’IA sont souvent dues aux biais de la machine. Alors que l’IA devient plus avancée, les gens veulent accéder au processus d’apprentissage automatique pour comprendre comment l’algorithme est arrivé à son résultat spécifique. Les dirigeants de chaque industrie doivent comprendre que plus tôt ou plus tard, les gens ne préféreront plus cet accès mais l’exigeront comme niveau de transparence nécessaire.
Les systèmes de reconnaissance vocale (ASR) tels que les assistants vocaux, la technologie de transcription et d’autres services qui convertissent la parole humaine en texte sont particulièrement affectés par les biais. Lorsque le service est utilisé pour des mesures de sécurité, les erreurs dues aux accents, à l’âge ou au contexte d’une personne peuvent être graves, donc le problème doit être pris au sérieux. L’ASR peut être utilisé efficacement dans les caméras de police pour enregistrer et transcrire automatiquement les interactions — garder un enregistrement qui, s’il est transcrit avec précision, pourrait sauver des vies. La pratique de l’explicabilité nécessitera que l’IA ne se repose pas seulement sur des ensembles de données achetés, mais cherche à comprendre les caractéristiques de l’audio entrant qui pourraient contribuer aux erreurs si elles existent. Quel est le profil acoustique ? Y a-t-il du bruit en arrière-plan ? Le locuteur est-il d’un pays non anglophone ou d’une génération qui utilise un vocabulaire que l’IA n’a pas encore appris ? L’apprentissage automatique doit être proactif pour apprendre plus rapidement et il peut commencer par collecter des données qui peuvent répondre à ces variables.
La nécessité devient évidente, mais le chemin pour mettre en œuvre cette méthodologie n’aura pas toujours de solution facile. La réponse traditionnelle au problème est d’ajouter plus de données, mais une solution plus sophistiquée sera nécessaire, surtout lorsque les ensembles de données achetés par de nombreuses entreprises sont intrinsèquement biaisés. C’est parce que, historiquement, il a été difficile d’expliquer une décision particulière rendue par l’IA et c’est dû à la nature de la complexité des modèles de bout en bout. Cependant, nous pouvons le faire maintenant et nous pouvons commencer par demander comment les gens ont perdu confiance en l’IA en premier lieu.
Inévitablement, l’IA commettra des erreurs. Les entreprises doivent créer des modèles qui sont conscients de leurs lacunes potentielles, identifier où et quand les problèmes se produisent et créer des solutions continues pour construire des modèles d’IA plus solides :
- Lorsque quelque chose se passe mal, les développeurs devront expliquer ce qui s’est passé et développer un plan immédiat pour améliorer le modèle et diminuer les erreurs similaires futures.
- Pour que la machine sache vraiment si elle a raison ou tort, les scientifiques doivent créer une boucle de rétroaction pour que l’IA puisse apprendre de ses lacunes et évoluer.
- Une autre façon pour l’ASR de construire la confiance pendant que l’IA s’améliore est de créer un système qui peut fournir des scores de confiance et offrir des raisons pour lesquelles l’IA est moins confiante. Par exemple, les entreprises génèrent généralement des scores de 0 à 100 pour refléter les imperfections de leur propre IA et établir la transparence avec leurs clients. À l’avenir, les systèmes pourraient fournir des explications post-hoc pour expliquer pourquoi l’audio était difficile en offrant plus de métadonnées sur l’audio, telles que le niveau de bruit perçu ou un accent moins compris.
Une transparence supplémentaire entraînera une meilleure surveillance humaine de la formation et de la performance de l’IA. Plus nous sommes ouverts sur les domaines où nous devons améliorer, plus nous sommes responsables de prendre des mesures pour améliorer. Par exemple, un chercheur peut vouloir savoir pourquoi du texte erroné a été généré pour qu’il puisse atténuer le problème, tandis qu’un transcripteur peut vouloir des preuves pour expliquer pourquoi l’ASR a mal interprété l’entrée pour l’aider à évaluer sa validité. Garder les humains dans la boucle peut atténuer certains des problèmes les plus évidents qui surviennent lorsque l’IA n’est pas surveillée. Cela peut également accélérer le temps nécessaire pour que l’IA détecte ses erreurs, s’améliore et se corrige en temps réel.
L’IA a la capacité d’améliorer la vie des gens, mais seulement si les humains la construisent pour produire correctement. Nous devons tenir non seulement ces systèmes pour responsables mais aussi les personnes derrière l’innovation. Les systèmes d’IA de l’avenir sont censés respecter les principes établis par les personnes, et seulement alors aurons-nous un système que les gens peuvent faire confiance. Il est temps de poser les fondements et de nous efforcer de respecter ces principes maintenant, alors que ce sont encore les humains qui nous servons.
