Les chercheurs en IA proposent de mettre des primes sur les biais de l’IA pour rendre l’IA plus éthique

Une équipe de chercheurs en IA de sociétés et de laboratoires de développement d’IA comme Intel (INTC ), Google (GOOGL ) Brain et OpenAI a recommandé l’utilisation de primes pour aider à garantir une utilisation éthique de l’IA. L’équipe de chercheurs a récemment publié un certain nombre de propositions concernant l’utilisation éthique de l’IA, et ils ont inclus une suggestion selon laquelle récompenser les personnes qui découvrent des biais dans l’IA pourrait être un moyen efficace de rendre l’IA plus équitable.

Selon VentureBeat, des chercheurs de diverses sociétés aux États-Unis et en Europe se sont réunis pour élaborer un ensemble de lignes directrices éthiques pour le développement de l’IA, ainsi que des suggestions sur la manière de respecter ces lignes directrices. L’une des suggestions que les chercheurs ont faites était d’offrir des primes aux développeurs qui trouvent des biais dans les programmes d’IA. La suggestion a été faite dans un document intitulé « Vers un développement d’IA fiable : mécanismes pour soutenir des revendications vérifiables ».

En tant qu’exemples de biais que l’équipe de chercheurs espère résoudre, des données et des algorithmes biaisés ont été trouvés dans tout, des applications de soins de santé aux systèmes de reconnaissance faciale utilisés par les forces de l’ordre. Un tel cas de biais est l’outil d’évaluation des risques PATTERN qui a été récemment utilisé par le ministère de la Justice des États-Unis pour trier les prisonniers et décider lesquels pouvaient être renvoyés chez eux lors de la réduction de la population carcérale en réponse à la pandémie de coronavirus.

La pratique de récompenser les développeurs pour trouver des comportements indésirables dans les programmes informatiques est une vieille pratique, mais ce pourrait être la première fois qu’un conseil d’éthique de l’IA a sérieusement avancé l’idée comme une option pour lutter contre les biais de l’IA. Même si il est peu probable qu’il y ait suffisamment de développeurs d’IA pour trouver suffisamment de biais pour garantir que l’IA soit éthique, cela aiderait encore les sociétés à réduire les biais globaux et à avoir une idée des types de biais qui fuient dans leurs systèmes d’IA.

Les auteurs du document ont expliqué que le concept de prime de bug peut être étendu à l’IA avec l’utilisation de primes de biais et de sécurité et que l’utilisation appropriée de cette technique pourrait conduire à une meilleure documentation des ensembles de données et des modèles. La documentation refléterait mieux les limites du modèle et des données. Les chercheurs notent même que la même idée pourrait être appliquée à d’autres propriétés de l’IA comme l’interprétabilité, la sécurité et la protection de la vie privée.

À mesure que davantage de discussions se déroulent autour des principes éthiques de l’IA, de nombreuses personnes ont noté que les principes seuls ne suffisent pas et que des actions doivent être prises pour maintenir l’IA éthique. Les auteurs du document notent que « les réglementations et les normes existantes dans l’industrie et l’université sont insuffisantes pour garantir un développement d’IA responsable ». Le co-fondateur de Google Brain et le leader de l’industrie de l’IA Andrew Ng a également déclaré que les principes directeurs seuls manquent de capacité à garantir que l’IA est utilisée de manière responsable et équitable, en disant que de nombreux principes doivent être plus explicites et avoir des idées actionnables.

La recommandation de chasse aux biais de l’équipe de recherche est une tentative de passer des principes éthiques à un domaine d’action éthique. L’équipe de recherche a également fait un certain nombre d’autres recommandations qui pourraient susciter une action éthique dans le domaine de l’IA.

L’équipe de recherche a fait un certain nombre d’autres recommandations que les sociétés peuvent suivre pour rendre leur utilisation de l’IA plus éthique. Ils suggèrent qu’une base de données centralisée d’incidents d’IA devrait être créée et partagée au sein de la communauté d’IA plus large. De même, les chercheurs proposent qu’un traçage des audits devrait être établi et que ces traçages devraient préserver les informations concernant la création et le déploiement d’applications critiques en matière de sécurité sur les plateformes d’IA.

Afin de préserver la vie privée des personnes, l’équipe de recherche a suggéré que des techniques centrées sur la vie privée comme les communications chiffrées, l’apprentissage fédéré et la protection différentielle de la vie privée devraient toutes être employées. Au-delà de cela, l’équipe de recherche a suggéré que des alternatives open source devraient être rendues largement disponibles et que les modèles d’IA commerciaux devraient être sévèrement examinés. Enfin, l’équipe de recherche suggère que le financement gouvernemental devrait être augmenté afin que les chercheurs universitaires puissent vérifier les allégations de performances matérielles.