5 Piliers Fondamentaux pour Garantir un Intelligence Artificielle Responsable

Nous assistons à une croissance écrasante des systèmes d’intelligence artificielle et d’apprentissage automatique pour traiter les océans de données générés dans la nouvelle économie numérique. Cependant, avec cette croissance, il est nécessaire de considérer sérieusement les implications éthiques et juridiques de l’intelligence artificielle.

À mesure que nous confions des tâches de plus en plus sophistiquées et importantes aux systèmes d’intelligence artificielle, tels que l’approbation automatique de prêts, par exemple, nous devons être absolument certains que ces systèmes sont responsables et dignes de confiance. La réduction des biais dans l’intelligence artificielle est devenue un domaine de recherche massive pour de nombreux chercheurs et a des implications éthiques énormes, tout comme la quantité d’autonomie que nous accordons à ces systèmes.

Le concept d’Intelligence Artificielle Responsable est un cadre important qui peut aider à établir la confiance dans vos déploiements d’intelligence artificielle. Il existe cinq piliers fondamentaux pour l’Intelligence Artificielle Responsable. Cet article explorera ces piliers pour vous aider à construire de meilleurs systèmes.

1. Reproductibilité

Il y a un vieux dicton dans le monde du développement logiciel qui dit : « Hé, ça marche sur ma machine » Dans le domaine de l’apprentissage automatique et de l’intelligence artificielle, la phrase pourrait être modifiée pour devenir : « Hé, ça marche sur mon jeu de données ». Cela signifie que les modèles d’apprentissage automatique peuvent souvent être une boîte noire. De nombreux jeux de données de formation peuvent avoir des biais inhérents tels que des biais de sélection ou des biais de confirmation qui réduisent la précision du produit final.

Pour aider à rendre les systèmes d’intelligence artificielle et d’apprentissage automatique plus reproductibles, et donc plus précis et dignes de confiance, la première étape consiste à standardiser le pipeline MLOps. Même les data scientists les plus intelligents ont leurs technologies et leurs bibliothèques préférées, ce qui signifie que l’ingénierie des fonctionnalités et les modèles qui en résultent ne sont pas uniformes d’une personne à l’autre. En utilisant des outils tels que MLflow, vous pouvez standardiser le pipeline MLOps et réduire ces différences.

Une autre façon d’aider à rendre les systèmes d’intelligence artificielle et d’apprentissage automatique plus reproductibles est de utiliser ce que l’on appelle des « jeux de données de référence ». Ce sont des jeux de données représentatifs qui agissent essentiellement comme des tests et des validations de nouveaux modèles avant leur mise en production.

2. Transparence

Comme mentionné précédemment, de nombreux modèles d’apprentissage automatique, en particulier les réseaux de neurones, sont des boîtes noires. Pour les rendre plus responsables, nous devons les rendre plus interprétables. Pour les systèmes simples tels que les arbres de décision, il est quite facile de comprendre comment et pourquoi le système a pris une certaine décision, mais à mesure que la précision et la complexité d’un système d’intelligence artificielle augmentent, son interprétabilité diminue souvent.

Il y a un nouveau domaine de recherche appelé « explicabilité » qui tente d’apporter de la transparence même aux systèmes d’intelligence artificielle complexes tels que les réseaux de neurones et l’apprentissage profond. Ces systèmes utilisent des modèles proxy pour copier les performances d’un réseau de neurones, mais ils tentent également de fournir des explications valides des fonctionnalités importantes.

Tout cela conduit à l’équité ; vous voulez savoir pourquoi une certaine décision a été prise et vous assurer que cette décision est équitable. Vous voulez également vous assurer que des fonctionnalités inappropriées ne sont pas prises en compte afin que les biais ne pénètrent pas dans votre modèle.

3. Responsabilité

La responsabilité est peut-être l’aspect le plus important de l’Intelligence Artificielle Responsable. Il y a beaucoup de discussions sur ce sujet, même dans le secteur gouvernemental, car il s’agit des politiques qui détermineront les résultats de l’intelligence artificielle. Cette approche basée sur les politiques détermine à quel stade les humains devraient être impliqués dans la boucle.

La responsabilité nécessite des moniteurs et des métriques robustes pour guider les décideurs et contrôler les systèmes d’intelligence artificielle et d’apprentissage automatique. La responsabilité relie vraiment la reproductibilité et la transparence, mais elle nécessite une surveillance efficace sous la forme de comités d’éthique de l’intelligence artificielle. Ces comités peuvent prendre des décisions politiques, décider de ce qui est important à mesurer et effectuer des examens d’équité.

4. Sécurité

La sécurité de l’intelligence artificielle se concentre sur la confidentialité et l’intégrité des données. Lorsque les systèmes traitent des données, vous voulez qu’ils soient dans un environnement sécurisé. Vous voulez que les données soient chiffrées à la fois au repos dans votre base de données et lorsqu’elles sont appelées via le pipeline, mais des vulnérabilités existent toujours lorsqu’elles sont alimentées en texte brut dans un modèle d’apprentissage automatique. Les technologies telles que le chiffrement homomorphique résolvent ce problème en permettant la formation de l’apprentissage automatique dans un environnement chiffré.

Un autre aspect est la sécurité du modèle lui-même. Par exemple, les attaques d’inversion de modèle permettent aux hackers d’apprendre les données de formation utilisées pour construire le modèle. Il y a également des attaques d’empoisonnement de modèle, qui insèrent de mauvaises données dans le modèle pendant sa formation et endommagent complètement ses performances. Tester votre modèle pour les attaques adverses telles que celles-ci peut le garder en sécurité.

5. Confidentialité

Google et OpenMined sont deux organisations qui ont récemment donné la priorité à la confidentialité de l’intelligence artificielle, et OpenMined a organisé une conférence récente sur ce sujet. Avec de nouvelles réglementations telles que le RGPD et le CCPA, et potentiellement d’autres à venir, la confidentialité jouera un rôle central dans la façon dont nous formons les modèles d’apprentissage automatique.

Une façon de vous assurer que vous gérez les données de vos clients de manière respectueuse de la confidentialité est d’utiliser l’apprentissage fédéré. Cette méthode décentralisée d’apprentissage automatique forme différents modèles localement, puis les agrège dans un hub central tout en gardant les données en sécurité, sécurisées et privées. Une autre méthode consiste à introduire du bruit statistique afin que les valeurs individuelles des clients ne soient pas divulguées. Cela vous permet de travailler avec l’agrégat de sorte que les données individuelles d’un client soient intactes et non disponibles pour l’algorithme.

Maintenir l’Intelligence Artificielle Responsable

 En fin de compte, maintenir l’intelligence artificielle responsable incombe à chaque organisation qui conçoit des systèmes d’intelligence artificielle et d’apprentissage automatique. En poursuivant intentionnellement les technologies au sein de ces cinq facettes de l’Intelligence Artificielle Responsable, vous pouvez non seulement bénéficier de la puissance de l’intelligence artificielle, mais le faire de manière digne de confiance et directe qui rassurera votre organisation, vos clients et vos régulateurs.