La Base de Données d’Incidents d’IA vise à Rendre les Algorithmes d’IA plus Sûrs

Tout système suffisamment grand aura des erreurs, et une partie de la correction de ces erreurs consiste à avoir une base de données de ceux-ci qui peut être analysée pour les impacts et les causes potentielles. Tout comme la FDA maintient une base de données pour les réactions médicamenteuses indésirables, ou le Conseil national de la sécurité des transports maintient une base de données pour les accidents d’aviation, la Base de Données d’Incidents d’IA est une base de données destinée à cataloguer les défaillances des systèmes d’IA et à aider les chercheurs en IA à concevoir de nouvelles méthodes pour éviter ces défaillances. Les créateurs de la Base de Données d’Incidents d’IA (AIID) espèrent qu’elle aidera les entreprises d’IA à développer des systèmes d’IA plus sûrs et plus éthiques.

Qu’est-ce que l’AIID ?

L’AIID est le produit de l’organisation Partnership on AI (PAI). La PAI a été fondée initialement en 2016 par des membres d’équipes de recherche en IA de grandes entreprises technologiques comme Facebook (META ), Apple (AAPL ), Amazon (AMZN ), Google (GOOGL ), IBM et Microsoft. Depuis lors, l’organisation a recruté des membres de nombreuses autres organisations, y compris des organisations à but non lucratif. En 2018, la PAI a entrepris de créer un standard de classification cohérent pour les défaillances de l’IA. Cependant, il n’y avait pas de collection d’incidents d’IA sur laquelle baser cette classification. Pour cette raison, la PAI a créé l’AIID.

Selon TechTalks, le format de l’AIID a été inspiré de la structure de la base de données d’accidents d’aviation maintenue par le Conseil national de la sécurité des transports. Depuis que les rapports ont commencé à être collectés en 1996, le système de transport aérien commercial a réussi à augmenter la sécurité de l’industrie aérienne en archivant et en analysant les incidents. L’espoir est qu’un dépôt similaire d’incidents d’IA puisse rendre les systèmes d’IA plus sûrs, plus éthiques et plus fiables. L’AIID a également pris inspiration de la base de données des vulnérabilités et des exposures communes, qui est un dépôt de défaillances logicielles notables qui s’étendent sur une variété d’industries et de disciplines.

Sean McGregor est le consultant technique principal chez IBM pour le concours Watson AI XPRIZE. McGregor est également responsable de la supervision du développement de la base de données réelle de l’AIID. McGregor a expliqué que l’objectif de l’AIID est en fin de compte de prévenir les systèmes d’IA de causer des dommages, ou au moins de diminuer la gravité des incidents indésirables. Comme McGregor l’a noté, les systèmes d’apprentissage automatique sont considérablement plus complexes et imprévisibles que les systèmes logiciels traditionnels, et en conséquence, ils ne peuvent pas être testés de la même manière que les autres logiciels. Les systèmes d’apprentissage automatique peuvent changer leur comportement de manière inattendue. McGregor note que la capacité des systèmes d’apprentissage profond à apprendre peut signifier que les « dysfonctionnements sont plus susceptibles de se produire, plus compliqués et plus dangereux » lorsqu’ils entrent dans un monde non structuré.

Plus de 1 000 incidents liés à l’IA enregistrés

Depuis la création de l’AIID, plus de 1 000 incidents liés à l’IA ont été enregistrés dans la base de données. Parmi tous les incidents de la base de données, les problèmes liés à l’équité de l’IA étaient le type d’incident indésirable le plus courant. De nombreux incidents d’équité impliquent l’utilisation d’algorithmes de reconnaissance faciale par les agences gouvernementales. McGregor note également qu’il y a un nombre croissant d’incidents impliquant la robotique qui sont ajoutés à la base de données.

Les visiteurs de la base de données peuvent exécuter des requêtes, en recherchant la base de données pour les incidents en fonction de critères tels que des mots clés, l’ID d’incident, la source ou l’auteur. Par exemple, la recherche de « Deepfake » renvoie 7 rapports, tandis que la recherche de « robots » renvoie 158 rapports.

Une base de données centralisée pour les incidents de dysfonctionnement de l’IA et de fonctionnement de manière inattendue peut aider les chercheurs, les ingénieurs et les éthiciens à superviser le développement et le déploiement des systèmes d’IA. Les responsables de produits dans les entreprises technologiques pourraient utiliser l’AIID pour voir s’il y a des problèmes potentiels avant d’employer des systèmes de recommandation d’IA, ou un ingénieur d’IA pourrait avoir une idée des préjugés potentiels qui doivent être corrigés lors de la création de l’application d’IA. De même, les responsables des risques pourraient utiliser la base de données pour déterminer les effets négatifs potentiels associés à un modèle d’IA, leur permettant de planifier à l’avance et de développer des mesures pour atténuer les dommages potentiels.

L’architecture sous-jacente à l’AIID est conçue pour être flexible, ce qui permet la création de nouveaux outils pour interroger la base de données et extraire des connaissances significatives. La Partnership on AI et McGregor collaboreront pour concevoir une taxonomie flexible qui peut être utilisée pour classer toutes les formes d’incidents d’IA. L’équipe espère que, une fois la taxonomie flexible créée, elle pourra être combinée avec un système automatisé qui enregistrera automatiquement les incidents d’IA.

« La communauté d’IA a commencé à partager des dossiers d’incidents les uns avec les autres pour motiver des changements dans leurs produits, leurs procédures de contrôle et leurs programmes de recherche », a expliqué McGregor via TechTalks. « Le site a été publié publiquement en novembre, nous commençons donc tout juste à réaliser les avantages du système. »