Google Crée un Nouveau Programme d’Intelligence Artificielle Explicable pour Améliorer la Transparence et la Débogage

Récemment, Google (GOOGL ) a annoncé la création d’une nouvelle plateforme cloud destinée à fournir des informations sur la façon dont un programme d’intelligence artificielle prend des décisions, facilitant ainsi le débogage d’un programme et améliorant la transparence. Selon un article du The Register, la plateforme cloud s’appelle Intelligence Artificielle Explicable, et elle marque une tentative majeure de Google pour investir dans l’explicabilité de l’intelligence artificielle.

Les réseaux de neurones artificiels sont utilisés dans de nombreux systèmes d’intelligence artificielle employés dans le monde aujourd’hui. Les réseaux de neurones qui alimentent les applications d’intelligence artificielle peuvent être extrêmement complexes et grands, et à mesure que la complexité d’un système augmente, il devient de plus en plus difficile de comprendre pourquoi une décision particulière a été prise par le système. Comme l’explique Google dans son livre blanc, à mesure que les systèmes d’intelligence artificielle deviennent plus puissants, ils deviennent également plus complexes et plus difficiles à déboguer. La transparence est également perdue lorsqu’il en est ainsi, ce qui signifie que les algorithmes biaisés peuvent être difficiles à reconnaître et à résoudre.

Le fait que la logique qui sous-tend le comportement des systèmes complexes soit si difficile à interpréter a souvent des conséquences dramatiques. En plus de rendre difficile la lutte contre les biais de l’intelligence artificielle, cela peut rendre extrêmement difficile de distinguer les corrélations spurieuses des corrélations réellement importantes et intéressantes.

De nombreuses entreprises et groupes de recherche explorent des moyens pour résoudre le problème de la “boîte noire” de l’intelligence artificielle et créer un système qui explique adéquatement pourquoi certaines décisions ont été prises par un système d’intelligence artificielle. La plateforme d’Intelligence Artificielle Explicable de Google représente sa propre tentative pour relever ce défi. L’Intelligence Artificielle Explicable se compose de trois outils différents. Le premier outil est un système qui décrit quelles fonctionnalités ont été sélectionnées par un système d’intelligence artificielle et qui affiche également un score d’attribution qui représente l’influence d’une fonctionnalité particulière sur la prédiction finale. Le rapport de Google sur l’outil donne un exemple de prédiction de la durée d’un trajet à vélo en fonction de variables telles que les précipitations, la température actuelle, le jour de la semaine et l’heure de départ. Après que le réseau ait pris la décision, des commentaires sont fournis qui indiquent quelles fonctionnalités ont eu le plus d’impact sur les prédictions.

Comment cet outil fournit-il de tels commentaires dans le cas des données d’image ? Dans ce cas, l’outil produit une superposition qui met en évidence les régions de l’image qui ont pesé le plus lourdement sur la décision rendue.

Un autre outil trouvé dans le kit est l’outil “What-If”, qui affiche les fluctuations potentielles des performances du modèle lors de la manipulation d’attributs individuels. Enfin, le dernier outil peut être configuré pour fournir des résultats d’échantillonnage aux réviseurs humains à intervalles réguliers.

Le Dr Andrew Moore, scientifique en chef de Google pour l’intelligence artificielle et l’apprentissage automatique, a décrit l’inspiration derrière le projet. Moore a expliqué qu’il y a environ cinq ans, la communauté universitaire a commencé à s’inquiéter des effets secondaires nocifs de l’utilisation de l’intelligence artificielle et que Google voulait s’assurer que ses systèmes n’étaient utilisés que de manière éthique. Moore a décrit un incident dans lequel l’entreprise essayait de concevoir un programme de vision par ordinateur pour avertir les travailleurs de la construction s’ils ne portaient pas de casque, mais ils ont commencé à craindre que la surveillance ne soit pas prise trop loin et ne devienne déshumanisante. Moore a déclaré qu’il y avait une raison similaire pour laquelle Google a décidé de ne pas publier une API de reconnaissance faciale générale, car l’entreprise voulait avoir plus de contrôle sur la façon dont sa technologie était utilisée et s’assurer qu’elle n’était utilisée que de manière éthique.

Moore a également souligné pourquoi il était si important que la décision de l’intelligence artificielle soit explicable :

“Si vous avez un système critique pour la sécurité ou une chose importante pour la société qui peut avoir des conséquences involontaires si vous pensez que votre modèle a fait une erreur, vous devez être en mesure de la diagnostiquer. Nous voulons expliquer soigneusement ce que l’explicabilité peut et ne peut pas faire. Ce n’est pas un remède miracle.