Les chercheurs en IA proposent de mettre des primes sur les biais de l’IA pour rendre l’IA plus éthique

Une équipe de chercheurs en IA d’entreprises et de laboratoires de développement d’IA comme Intel, Google Brain et OpenAI a recommandé l’utilisation de primes pour garantir l’utilisation éthique de l’IA. L’équipe de chercheurs a récemment publié un certain nombre de propositions concernant l’utilisation éthique de l’IA, et ils ont inclus une suggestion selon laquelle récompenser les personnes pour la découverte de biais dans l’IA pourrait être un moyen efficace de rendre l’IA plus équitable.

Comme le rapporte VentureBeat, des chercheurs de diverses entreprises aux États-Unis et en Europe se sont réunis pour élaborer un ensemble de lignes directrices éthiques pour le développement de l’IA, ainsi que des suggestions pour les mettre en œuvre. L’une des suggestions que les chercheurs ont faites était d’offrir des primes aux développeurs qui trouvent des biais dans les programmes d’IA. La suggestion a été faite dans un document intitulé “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims“.

En tant qu’exemples de biais que l’équipe de chercheurs espère résoudre, des données et des algorithmes biaisés ont été trouvés dans tout, des applications de soins de santé aux systèmes de reconnaissance faciale utilisés par les forces de l’ordre. Un tel cas de biais est l’outil d’évaluation des risques PATTERN qui a été récemment utilisé par le ministère de la Justice des États-Unis pour trier les prisonniers et décider lesquels pouvaient être renvoyés chez eux lors de la réduction de la population carcérale en réponse à la pandémie de coronavirus.

La pratique de récompenser les développeurs pour trouver des comportements indésirables dans les programmes informatiques est une vieille pratique, mais cela pourrait être la première fois qu’un conseil d’éthique de l’IA a sérieusement avancé l’idée comme une option pour lutter contre les biais de l’IA. Même si il est peu probable qu’il y ait suffisamment de développeurs d’IA pour trouver suffisamment de biais pour que l’IA soit garantie éthique, cela aiderait encore les entreprises à réduire les biais globaux et à avoir une idée des types de biais qui fuient dans leurs systèmes d’IA.

Les auteurs du document ont expliqué que le concept de prime de bogue peut être étendu à l’IA avec l’utilisation de primes de biais et de sécurité et que l’utilisation appropriée de cette technique pourrait conduire à des ensembles de données et des modèles mieux documentés. La documentation refléterait mieux les limites du modèle et des données. Les chercheurs notent même que la même idée pourrait être appliquée à d’autres propriétés de l’IA comme l’interprétabilité, la sécurité et la protection de la vie privée.

Alors que de plus en plus de discussions ont lieu autour des principes éthiques de l’IA, beaucoup ont noté que les principes seuls ne suffisent pas et que des actions doivent être prises pour maintenir l’IA éthique. Les auteurs du document notent que “les réglementations et les normes existantes dans l’industrie et l’université sont insuffisantes pour garantir un développement d’IA responsable”. Le co-fondateur de Google Brain et le leader de l’industrie de l’IA Andrew Ng a également exprimé son opinion selon laquelle les principes directeurs seuls manquent de capacité à garantir que l’IA est utilisée de manière responsable et équitable, disant que beaucoup d’entre eux doivent être plus explicites et avoir des idées actionnables.

La recommandation de chasse aux biais de l’équipe de recherche combinée est une tentative pour aller au-delà des principes éthiques dans un domaine d’action éthique. L’équipe de recherche a également fait un certain nombre d’autres recommandations qui pourraient susciter une action éthique dans le domaine de l’IA.

L’équipe de recherche a fait un certain nombre d’autres recommandations que les entreprises peuvent suivre pour rendre leur utilisation de l’IA plus éthique. Ils suggèrent qu’une base de données centralisée d’incidents d’IA devrait être créée et partagée au sein de la communauté d’IA plus large. De même, les chercheurs proposent qu’un traçage des audits devrait être établi et que ces traçages devraient préserver les informations concernant la création et le déploiement d’applications critiques en matière de sécurité sur les plateformes d’IA.

Afin de préserver la vie privée des personnes, l’équipe de recherche a suggéré que des techniques centrées sur la vie privée comme les communications chiffrées, l’apprentissage fédéré et la protection différentielle de la vie privée devraient toutes être employées. Au-delà de cela, l’équipe de recherche a suggéré que des alternatives open source devraient être largement disponibles et que les modèles d’IA commerciaux devraient être lourdement examinés. Enfin, l’équipe de recherche suggère que le financement gouvernemental devrait être augmenté afin que les chercheurs universitaires puissent vérifier les allégations de performances matérielles.