Qu’est-ce que l’IA responsable ? Principes, défis et avantages

L’IA responsable (RAI) fait référence à la conception et au déploiement de systèmes d’IA qui sont transparents, impartiaux, responsables et suivent des lignes directrices éthiques. Alors que les systèmes d’IA deviennent plus robustes et plus répandus, il est essentiel de s’assurer qu’ils sont développés de manière responsable et suivent les lignes directrices de sécurité et d’éthique.

La santé, les transports, la gestion de réseau et la surveillance sont des applications d’IA critiques pour la sécurité où la défaillance du système peut avoir des conséquences graves. Les grandes entreprises sont conscientes que l’IA responsable est essentielle pour atténuer les risques technologiques. Cependant, selon un rapport de l’MIT Sloan/BCG qui comprenait 1093 répondants, 54% des entreprises manquaient d’expertise et de talents en matière d’IA responsable.

Bien que les leaders d’opinion et les organisations aient développé des principes pour l’IA responsable, assurer le développement responsable des systèmes d’IA pose encore des défis. Explorons cette idée en détail:

5 principes pour l’IA responsable

1. Équité

Les technologistes devraient concevoir des procédures pour que les systèmes d’IA traitent tous les individus et les groupes de manière équitable sans préjugés. L’équité est donc la principale exigence dans les applications de prise de décision à haut risque.

L’équité est définie comme:

« Examiner l’impact sur les différents groupes démographiques et choisir l’une des plusieurs définitions mathématiques de l’équité de groupe qui satisfera de manière appropriée l’ensemble des exigences légales, culturelles et éthiques souhaitées. »

2. Responsabilité

La responsabilité signifie que les individus et les organisations qui développent et déploient des systèmes d’IA devraient être responsables de leurs décisions et de leurs actes. L’équipe qui déploie des systèmes d’IA devrait s’assurer que son système d’IA est transparent, interprétable, auditable et ne nuit pas à la société.

La responsabilité comprend sept composants:

1. Contexte (objectif pour lequel la responsabilité est requise)
2. Étendue (sujet de la responsabilité)
3. Agent (qui est responsable ?)
4. Forum (à qui la partie responsable doit rendre des comptes)
5. Normes (critères de responsabilité)
6. Processus (méthode de responsabilité)
7. Implications (conséquences de la responsabilité)

3. Transparence

La transparence signifie que la raison derrière la prise de décision dans les systèmes d’IA est claire et compréhensible. Les systèmes d’IA transparents sont explicables.

Selon la liste d’évaluation pour l’IA de confiance (ALTAI), la transparence a trois éléments clés:

1. Traçabilité (les données, les étapes de prétraitement et le modèle sont accessibles)
2. Explicabilité (le raisonnement derrière la prise de décision/prédiction est clair)
3. Communication ouverte (concernant les limites du système d’IA)

4. Confidentialité

La confidentialité est l’un des principes fondamentaux de l’IA responsable. Elle fait référence à la protection des informations personnelles. Ce principe garantit que les informations personnelles sont collectées et traitées avec consentement et maintenues hors de portée des malveillants.

Comme en témoigne récemment, il y a eu un cas de Clearview, une entreprise qui crée des modèles de reconnaissance faciale pour les forces de l’ordre et les universités. Les autorités de régulation des données du Royaume-Uni ont poursuivi Clearview AI pour 7,5 millions de livres sterling pour avoir collecté des images de résidents du Royaume-Uni sur les médias sociaux sans consentement pour créer une base de données de 20 milliards d’images.

5. Sécurité

La sécurité signifie que les systèmes d’IA sont sécurisés et ne menacent pas la société. Un exemple de menace pour la sécurité de l’IA est les attaques adverses. Ces attaques malveillantes trompent les modèles d’apprentissage automatique pour prendre des décisions incorrectes. Protéger les systèmes d’IA contre les attaques de cybersécurité est impératif pour l’IA responsable.

4 principaux défis et risques de l’IA responsable

1. Biais

Les préjugés humains liés à l’âge, au sexe, à la nationalité et à la race peuvent avoir un impact sur la collecte de données, ce qui peut potentiellement conduire à des modèles d’IA biaisés. Une étude du département du commerce américain a constaté que la reconnaissance faciale d’IA confond les personnes de couleur. Par conséquent, utiliser l’IA pour la reconnaissance faciale dans les forces de l’ordre peut conduire à des arrestations erronées. De plus, créer des modèles d’IA équitables est difficile car il existe 21 paramètres différents pour les définir. Il y a donc un compromis ; satisfaire un paramètre d’IA équitable signifie sacrifier un autre.

2. Interprétabilité

L’interprétabilité est un défi critique dans le développement de l’IA responsable. Elle fait référence à la compréhension de la manière dont le modèle d’apprentissage automatique a abouti à une conclusion particulière.

Les réseaux de neurones profonds manquent d’interprétabilité car ils fonctionnent comme des boîtes noires avec de multiples couches de neurones cachés, ce qui rend difficile la compréhension du processus de prise de décision. Cela peut être un défi dans la prise de décision à haut risque, telle que la santé, la finance, etc.

De plus, formaliser l’interprétabilité dans les modèles d’apprentissage automatique est difficile car elle est subjective et spécifique au domaine.

3. Gouvernance

La gouvernance fait référence à un ensemble de règles, de politiques et de procédures qui supervisent le développement et le déploiement des systèmes d’IA. Récemment, il y a eu des progrès significatifs dans le discours sur la gouvernance de l’IA, avec des organisations présentant des cadres et des lignes directrices éthiques.

Les lignes directrices éthiques pour l’IA de confiance de l’UE, le cadre éthique de l’IA australien et les principes de l’OCDE sur l’IA sont des exemples de cadres de gouvernance de l’IA.

Cependant, le progrès rapide de l’IA ces dernières années peut dépasser ces cadres de gouvernance de l’IA. À cette fin, il faut un cadre qui évalue l’équité, l’interprétabilité et l’éthique des systèmes d’IA.

4. Réglementation

Alors que les systèmes d’IA deviennent plus répandus, il faut une réglementation pour prendre en compte les valeurs éthiques et sociétales. Développer une réglementation qui n’étouffe pas l’innovation de l’IA est un défi critique dans l’IA responsable.

Même avec le Règlement général sur la protection des données (RGPD), la loi californienne sur la confidentialité des consommateurs (CCPA) et la loi sur la protection des informations personnelles (PIPL) en tant qu’organes de réglementation, les chercheurs en IA ont constaté que 97% des sites Web de l’UE ne sont pas conformes aux exigences du cadre juridique du RGPD.

De plus, les législateurs sont confrontés à un défi important pour parvenir à un consensus sur la définition de l’IA qui inclut à la fois les systèmes d’IA classiques et les dernières applications d’IA.

3 principaux avantages de l’IA responsable

1. Biais réduit

L’IA responsable réduit les préjugés dans les processus de prise de décision, renforçant la confiance dans les systèmes d’IA. La réduction des préjugés dans les systèmes d’IA peut fournir un système de santé équitable et réduit les préjugés dans les services financiers basés sur l’IA etc.

2. Transparence améliorée

L’IA responsable rend les applications d’IA transparentes, renforçant la confiance dans les systèmes d’IA. Les systèmes d’IA transparents réduisent le risque d’erreur et d’abus. Une transparence améliorée facilite l’audit des systèmes d’IA, gagne la confiance des parties prenantes et peut conduire à des systèmes d’IA responsables.

3. Meilleure sécurité

Les applications d’IA sécurisées garantissent la confidentialité des données, produisent des sorties fiables et inoffensives et sont à l’abri des attaques de cybersécurité.

Les géants de la technologie comme Microsoft (MSFT ) et Google (GOOGL ), qui sont à la pointe du développement des systèmes d’IA, ont développé des principes d’IA responsable. L’IA responsable garantit que l’innovation dans l’IA n’est pas nuisible aux individus et à la société.

Les leaders d’opinion, les chercheurs, les organisations et les autorités juridiques devraient continuellement réviser la littérature sur l’IA responsable pour assurer un avenir sûr pour l’innovation de l’IA.

Pour plus de contenu lié à l’IA, visitez unite.ai.