Les principes d’éthique de l’IA font l’objet d’une méta-analyse, les droits de l’homme sont mis en avant

En 2019, l’éthique de l’IA a été plus mise en avant que jamais. Cependant, une grande partie de cette discussion semblait floue, sans approche codifiée. Plutôt, différentes entreprises ont créé leurs propres cadres et politiques en matière d’éthique de l’IA. Il est important d’avoir un consensus sur les questions d’éthique de l’IA car cela aide les décideurs à créer et à ajuster les politiques, et cela informe également le travail effectué par les chercheurs et les universitaires. Au-delà de cela, les entreprises d’IA doivent connaître les limites éthiques si elles espèrent éviter une mise en œuvre non éthique de l’IA. Afin de créer une meilleure image des tendances en matière d’éthique de l’IA, comme le rapporte VentureBeats, le Berkman Klein Center de l’Université de Harvard a effectué une méta-analyse des divers principes et cadres d’éthique de l’IA existants.

Selon les auteurs de l’analyse, les chercheurs ont voulu comparer les principes côte à côte pour rechercher les chevauchements et les divergences. Jessica Fjeld, la directrice adjointe du Cyberlaw Clinic de la Harvard Law School, a expliqué que l’équipe de recherche a voulu « découvrir l’élan caché dans une conversation mondiale fracturée sur l’avenir de l’IA, ce qui a abouti à ce document blanc et à la visualisation de données associée ».

Pendant l’analyse, l’équipe a examiné 36 documents de principes d’IA différents provenant du monde entier et issus de nombreux types d’organisations. Les résultats de la recherche ont montré qu’il y avait huit thèmes qui apparaissaient constamment dans les nombreux documents.

La vie privée et la responsabilité étaient deux des thèmes éthiques les plus couramment apparus, ainsi que la sécurité/sécurité de l’IA. La transparence/explicabilité était également un objectif souvent cité, avec de nombreuses tentatives pour rendre les algorithmes plus explicables au cours de 2019. L’équité/non-discrimination était un autre point de focalisation éthique, reflétant les préoccupations croissantes concernant les préjugés des données. Assurer le contrôle humain de la technologie, et ne pas abandonner le pouvoir de décision à l’IA, a été largement mentionné. La responsabilité professionnelle était le septième thème commun trouvé par les chercheurs. Enfin, les chercheurs ont trouvé des mentions constantes de la promotion des valeurs humaines dans la documentation sur l’éthique de l’IA qu’ils ont examinée.

L’équipe de recherche a fourni des décompositions qualitatives et quantitatives de la manière dont ces thèmes se manifestaient dans la documentation sur l’éthique de l’IA dans leur document et dans une carte accompagnante. La carte affiche où chaque thème a été mentionné.

L’équipe de recherche a noté que beaucoup de la discussion sur l’éthique de l’IA tournait autour de la préoccupation pour les valeurs et les droits de l’homme. Comme le note le document de recherche :

« 64 % de nos documents contenaient une référence aux droits de l’homme, et cinq documents [14 %] ont pris les droits de l’homme internationaux comme cadre pour leur effort global ».

Les références aux droits de l’homme et aux valeurs étaient plus courantes dans les documents produits par des groupes du secteur privé et des groupes de la société civile. Cela indique que les entreprises d’IA du secteur privé ne sont pas seulement préoccupées par les profits, mais également par la production d’IA de manière éthique. Pendant ce temps, les agences gouvernementales semblent moins préoccupées ou conscientes de l’éthique de l’IA dans l’ensemble, avec moins de la moitié des documents liés à l’IA provenant d’agences gouvernementales qui se préoccupent de l’éthique de l’IA.

Les chercheurs ont également noté que si les documents qu’ils ont examinés étaient plus récents, ils étaient plus susceptibles de traiter tous les huit thèmes les plus importants plutôt que seulement quelques-uns. Ce fait implique que les idées derrière ce qui constitue une utilisation éthique de l’IA commencent à se cristalliser parmi ceux qui mènent la discussion sur l’éthique de l’IA. Enfin, les chercheurs déclarent que le succès de ces principes dans l’orientation du développement de l’IA dépendra de la manière dont ils sont intégrés dans la communauté de développement de l’IA dans son ensemble. Les chercheurs déclarent dans le document :

« De plus, les principes sont un point de départ pour la gouvernance, et non une fin. En soi, un ensemble de principes est peu susceptible d’être plus qu’une persuasion douce. Son impact est susceptible de dépendre de la manière dont il est intégré dans un écosystème de gouvernance plus large, y compris par exemple des politiques pertinentes (par exemple, des plans nationaux d’IA), des lois, des réglementations, mais également des pratiques professionnelles et des routines quotidiennes ».