Ce que signifie la Loi sur les droits de l’IA de la Maison Blanche pour l’Amérique et le reste du monde

L’Office des sciences et de la technologie de la Maison Blanche (OSTP) a récemment publié un livre blanc intitulé “Le plan directeur pour une loi sur les droits de l’IA : faire en sorte que les systèmes automatisés fonctionnent pour le peuple américain”. Ce cadre a été publié un an après que l’OSTP ait annoncé le lancement d’un processus pour élaborer “une loi sur les droits pour un monde alimenté par l’IA”.

L’avant-propos de ce projet de loi illustre clairement que la Maison Blanche comprend les menaces imminentes pour la société posées par l’IA. Voici ce qui est indiqué dans l’avant-propos :

“Parmi les grands défis posés à la démocratie aujourd’hui, il y a l’utilisation de la technologie, des données et des systèmes automatisés de manière à menacer les droits du public américain. Trop souvent, ces outils sont utilisés pour limiter nos opportunités et empêcher notre accès à des ressources ou des services critiques. Ces problèmes sont bien documentés. En Amérique et dans le monde, des systèmes censés aider les soins aux patients se sont avérés non sûrs, inefficaces ou biaisés. Les algorithmes utilisés pour les décisions d’embauche et de crédit ont été trouvés pour refléter et reproduire les inégalités indésirables existantes ou intégrer de nouveaux préjudices et discriminations. La collecte de données non contrôlée sur les médias sociaux a été utilisée pour menacer les opportunités des gens, porter atteinte à leur vie privée ou suivre de manière invasive leur activité – souvent sans leur connaissance ou leur consentement.”

Ce que cette Loi sur les droits de l’IA et le cadre qu’elle propose signifieront pour l’avenir de l’IA reste à voir. Ce que nous savons, c’est que de nouveaux développements émergent à un rythme exponentiel. Ce qui était considéré comme impossible, la traduction instantanée de langues, est maintenant une réalité, et en même temps, nous avons une révolution dans la compréhension du langage naturel (NLU) menée par OpenAI et sa plate-forme célèbre GPT-3.

Depuis, nous avons vu la génération instantanée d’images via une technique appelée Stable Diffusion qui pourrait bientôt devenir un produit de consommation grand public. En essence, avec cette technologie, un utilisateur peut simplement saisir n’importe quelle requête qu’il peut imaginer, et comme par magie, l’IA générera une image qui correspond à la requête.

Lorsque l’on prend en compte la croissance exponentielle et la loi des rendements accélérés, il y aura bientôt un moment où l’IA aura pris le contrôle de tous les aspects de la vie quotidienne. Les individus et les entreprises qui savent cela et en tirent parti de ce changement de paradigme seront les gagnants. Malheureusement, un grand segment de la société pourrait être victime des conséquences intentionnelles et non intentionnelles de l’IA.

La Loi sur les droits de l’IA vise à soutenir l’élaboration de politiques et de pratiques qui protègent les droits civils et promeuvent les valeurs démocratiques dans la construction, le déploiement et la gouvernance des systèmes automatisés. Comment cette loi se comparera à l’approche de la Chine reste à voir, mais c’est une loi sur les droits qui a le potentiel de changer le paysage de l’IA, et il est probable qu’elle soit adoptée par des alliés tels que l’Australie, le Canada et l’UE.

Ceci étant dit, la Loi sur les droits de l’IA est non contraignante et ne constitue pas une politique du gouvernement américain. Elle ne supprime, ne modifie ni n’interprète aucune loi, réglementation, politique ou instrument international existant. Ce qui signifie qu’il reviendra aux entreprises et aux gouvernements de se conformer aux politiques énoncées dans ce livre blanc.

Cette loi a identifié cinq principes qui devraient guider la conception, l’utilisation et le déploiement de systèmes automatisés pour protéger le public américain à l’ère de l’intelligence artificielle, ci-dessous nous allons détailler les 5 principes :

1. Systèmes sûrs et efficaces

Il y a un danger clair et présent pour la société posé par les systèmes d’IA abusifs, en particulier ceux qui reposent sur l’apprentissage profond. Cela est tenté d’être abordé avec ces principes :

“Vous devriez être protégé contre les systèmes non sûrs ou inefficaces. Les systèmes automatisés devraient être développés en consultation avec des communautés diverses, des parties prenantes et des experts du domaine pour identifier les préoccupations, les risques et les impacts potentiels du système. Les systèmes devraient subir des tests préalables au déploiement, l’identification et l’atténuation des risques, ainsi que la surveillance continue qui démontrent qu’ils sont sûrs et efficaces en fonction de leur utilisation prévue, de l’atténuation des résultats non sûrs, y compris ceux au-delà de l’utilisation prévue, et du respect des normes spécifiques au domaine. Les résultats de ces mesures de protection devraient inclure la possibilité de ne pas déployer le système ou de le retirer de l’utilisation. Les systèmes automatisés ne devraient pas être conçus avec l’intention ou la possibilité raisonnable de mettre en danger votre sécurité ou celle de votre communauté. Ils devraient être conçus pour vous protéger proactivement contre les dommages résultant d’utilisations non intentionnelles ou prévisibles des systèmes automatisés. Vous devriez être protégé contre l’utilisation abusive de données inappropriées ou non pertinentes dans la conception, le développement et le déploiement de systèmes automatisés, ainsi que contre le préjudice cumulé de leur réutilisation. L’évaluation et la déclaration indépendantes qui confirment que le système est sûr et efficace, y compris les étapes prises pour atténuer les dommages potentiels, devraient être effectuées et les résultats rendus publics chaque fois que possible.”

2. Protections contre la discrimination algorithmique

Ces politiques abordent certains des problèmes les plus importants lorsqu’il s’agit d’entreprises qui abusent des individus.

Un problème courant lors de l’embauche de personnel à l’aide de systèmes d’IA, c’est que le système d’apprentissage profond formera souvent sur des données biaisées pour parvenir à des conclusions d’embauche. Cela signifie essentiellement que de mauvaises pratiques d’embauche dans le passé entraîneront une discrimination fondée sur le sexe ou la race par un agent d’embauche. Une étude a indiqué la difficulté de tenter de dégender les données de formation.

Un autre problème fondamental avec les données biaisées des gouvernements est le risque d’incarcération abusive, ou même pire, les algorithmes de prédiction de la criminalité qui offrent des peines de prison plus longues aux minorités.

“Vous ne devriez pas faire face à la discrimination par les algorithmes et les systèmes devraient être utilisés et conçus de manière équitable. La discrimination algorithmique se produit lorsque les systèmes automatisés contribuent à un traitement différent non justifié ou à des impacts défavorables envers les personnes en fonction de leur race, de leur couleur, de leur origine, de leur sexe (y compris la grossesse, l’accouchement et les conditions médicales connexes, l’identité de genre, le statut intersexe et l’orientation sexuelle) la religion, l’âge, l’origine nationale, le handicap, le statut de vétéran, les informations génétiques ou toute autre classification protégée par la loi. Selon les circonstances spécifiques, une telle discrimination algorithmique peut violer les protections juridiques. Les concepteurs, les développeurs et les déploiements de systèmes automatisés devraient prendre des mesures proactives et continues pour protéger les individus et les communautés contre la discrimination algorithmique et pour utiliser et concevoir les systèmes de manière équitable. Cette protection devrait inclure des évaluations d’équité proactives dans la conception du système, l’utilisation de données représentatives et la protection contre les procurations pour les caractéristiques démographiques, en garantissant l’accessibilité pour les personnes handicapées dans la conception et le développement, les tests de disparité préalables au déploiement et l’atténuation, ainsi que la surveillance organisationnelle claire. L’évaluation indépendante et la déclaration en langage clair sous la forme d’une évaluation de l’impact algorithmique, y compris les résultats des tests de disparité et les informations d’atténuation, devraient être effectuées et rendues publiques chaque fois que possible pour confirmer ces protections.”

Il convient de noter que les États-Unis ont adopté une approche très transparente en ce qui concerne l’IA, ces politiques sont conçues pour protéger le grand public, un contraste clair avec les approches de l’IA prises par la Chine.

3. Confidentialité des données

Ce principe de confidentialité des données est celui qui est le plus susceptible d’affecter le plus grand segment de la population. La première moitié du principe semble se préoccuper de la collecte de données, en particulier des données collectées sur Internet, un problème connu, en particulier pour les plateformes de médias sociaux. Ces mêmes données peuvent ensuite être utilisées pour vendre des publicités, ou même pire, pour manipuler l’opinion publique et influencer les élections.

“Vous devriez être protégé contre les pratiques de données abusives via des protections intégrées et vous devriez avoir un contrôle sur la façon dont les données vous concernant sont utilisées. Vous devriez être protégé contre les violations de la vie privée grâce à des choix de conception qui garantissent que de telles protections sont incluses par défaut, y compris en garantissant que la collecte de données correspond aux attentes raisonnables et que seules les données strictement nécessaires pour le contexte spécifique sont collectées. Les concepteurs, les développeurs et les déploiements de systèmes automatisés devraient demander votre permission et respecter vos décisions concernant la collecte, l’utilisation, l’accès, le transfert et la suppression de vos données de manière appropriée et dans la mesure du possible ; lorsque cela n’est pas possible, des garanties de confidentialité par conception alternatives devraient être utilisées. Les systèmes ne devraient pas employer des décisions de conception et d’expérience utilisateur qui obscurcissent le choix de l’utilisateur ou chargent les utilisateurs de paramètres par défaut qui sont invasifs pour la vie privée. Le consentement ne devrait être utilisé que pour justifier la collecte de données dans les cas où il peut être donné de manière appropriée et significative. Toute demande de consentement devrait être brève, être compréhensible en langage clair et vous donner un contrôle sur la collecte de données et le contexte d’utilisation spécifique ; les pratiques actuelles de notification et de choix difficiles à comprendre pour une utilisation large des données devraient être modifiées.”

La deuxième moitié du principe de confidentialité des données semble être préoccupée par la surveillance de la part des gouvernements et des entreprises.

Actuellement, les entreprises sont en mesure de surveiller et d’espionner les employés, dans certains cas, il peut s’agir d’améliorer la sécurité sur le lieu de travail, pendant la pandémie de COVID-19, il s’agissait de faire respecter le port de masques, le plus souvent, il s’agit simplement de surveiller la façon dont le temps de travail est utilisé. Dans de nombreux cas, les employés se sentent surveillés et contrôlés au-delà de ce qui est considéré comme acceptable.

“Des protections et des restrictions renforcées pour les données et les déductions liées à des domaines sensibles, notamment la santé, le travail, l’éducation, la justice pénale et la finance, ainsi que pour les données concernant les jeunes devraient vous mettre en premier. Dans des domaines sensibles, vos données et les déductions connexes ne devraient être utilisées que pour des fonctions nécessaires, et vous devriez être protégé par des examens éthiques et des interdictions d’utilisation. Vous et vos communautés devriez être libres de toute surveillance non contrôlée ; les technologies de surveillance devraient être soumises à une surveillance renforcée qui inclut au moins une évaluation préalable de leurs préjudices potentiels et des limites d’étendue pour protéger la vie privée et les libertés civiles. La surveillance et le suivi continus ne devraient pas être utilisés dans l’éducation, le travail, le logement ou dans d’autres contextes où l’utilisation de ces technologies de surveillance est susceptible de limiter les droits, les opportunités ou l’accès. Chaque fois que possible, vous devriez avoir accès à des rapports qui confirment que vos décisions de données ont été respectées et fournissent une évaluation de l’impact potentiel des technologies de surveillance sur vos droits, opportunités ou accès.”

Il convient de noter que l’IA peut être utilisée pour protéger la vie privée des gens.

4. Avis et explication

Ceci devrait être l’appel à l’action pour les entreprises pour déployer un conseil consultatif d’éthique de l’IA, ainsi que pour accélérer le développement de l’IA explicative. L’IA explicative est nécessaire au cas où un modèle d’IA fait une erreur, la compréhension de la façon dont fonctionne l’IA permet un diagnostic facile d’un problème.

L’IA explicative permettra également le partage transparent de l’information sur la façon dont les données sont utilisées et pourquoi une décision a été prise par l’IA. Sans IA explicative, il sera impossible de se conformer à ces politiques en raison du problème de la boîte noire de l’apprentissage profond.

Les entreprises qui se concentrent sur l’amélioration de ces systèmes bénéficieront également d’avantages positifs en comprenant les nuances et les complexités derrière la raison pour laquelle un algorithme d’apprentissage profond a pris une décision spécifique.

“Vous devriez savoir qu’un système automatisé est utilisé et comprendre comment et pourquoi il contribue aux résultats qui vous affectent. Les concepteurs, les développeurs et les déploiements de systèmes automatisés devraient fournir une documentation en langage clair et accessible, y compris des descriptions claires du fonctionnement global du système et du rôle de l’automatisation, un avis que de tels systèmes sont utilisés, l’individu ou l’organisation responsable du système, et des explications des résultats qui sont claires, opportunes et accessibles. Un tel avis devrait être tenu à jour et les personnes touchées par le système devraient être informées des changements importants d’utilisation ou de fonctionnalité clés. Vous devriez savoir comment et pourquoi un résultat vous affectant a été déterminé par un système automatisé, y compris lorsque le système automatisé n’est pas le seul élément d’entrée déterminant le résultat. Les systèmes automatisés devraient fournir des explications qui sont techniquement valides, significatives et utiles pour vous et pour tout opérateur ou autre personne qui a besoin de comprendre le système, et calibrées au niveau de risque en fonction du contenu. Les rapports qui incluent des informations résumées sur ces systèmes automatisés en langage clair et des évaluations de la clarté et de la qualité de l’avis et des explications devraient être rendus publics chaque fois que possible.”

5. Alternatives humaines, considération et sauvegarde

Contrairement à la plupart des principes ci-dessus, ce principe est le plus applicable aux entités gouvernementales ou aux institutions privatisées qui travaillent pour le compte du gouvernement.

Même avec un conseil d’éthique de l’IA et une IA explicative, il est important de recourir à l’examen humain lorsque des vies sont en jeu. Il y a toujours un potentiel d’erreur, et avoir un humain qui examine une affaire lorsqu’elle est demandée pourrait éviter un scénario tel qu’un IA qui envoie les mauvaises personnes en prison.

Le système judiciaire et pénal ont le plus de place pour causer des préjudices irréparables aux membres marginalisés de la société et devraient prendre particulièrement note de ce principe.

“Vous devriez être en mesure de vous désinscrire, le cas échéant, et avoir accès à une personne qui peut rapidement considérer et remédier aux problèmes que vous rencontrez. Vous devriez être en mesure de vous désinscrire des systèmes automatisés en faveur d’une alternative humaine, le cas échéant. L’opportunité devrait être déterminée sur la base d’attentes raisonnables dans un contexte donné et en mettant l’accent sur la garantie d’une accessibilité large et la protection du public contre les impacts particulièrement préjudiciables. Dans certains cas, un humain ou une autre alternative peut être requis par la loi. Vous devriez avoir accès à une considération humaine rapide et à un recours en cas de problème si un système automatisé échoue, produit une erreur ou si vous souhaitez faire appel ou contester son impact sur vous. La considération humaine et la sauvegarde devraient être accessibles, équitables, efficaces, maintenues, accompagnées d’une formation appropriée pour les opérateurs et ne devraient pas imposer une charge excessive sur le public. Les systèmes automatisés ayant une utilisation prévue dans des domaines sensibles, notamment le système pénal, l’emploi, l’éducation et la santé, devraient en outre être adaptés à l’objectif, fournir un accès significatif à la surveillance, inclure une formation pour toute personne interagissant avec le système et intégrer une considération humaine pour les décisions défavorables ou à haut risque. Les rapports qui incluent une description de ces processus de gouvernance humaine et une évaluation de leur opportunité, de leur accessibilité, de leurs résultats et de leur efficacité devraient être rendus publics chaque fois que possible.”

Résumé

L’OSTP devrait être crédité pour avoir tenté d’introduire un cadre qui relie les protocoles de sécurité nécessaires pour la société, sans introduire de politiques draconiennes qui pourraient entraver les progrès dans le développement de l’apprentissage automatique.

Après que les principes soient exposés, le projet de loi continue en fournissant un compagnon technique aux questions abordées, ainsi que des informations détaillées sur chaque principe et les meilleures façons de procéder pour mettre en œuvre ces principes.

Les propriétaires d’entreprise avisés et les entreprises devraient prendre note d’étudier ce projet de loi, car il ne peut être avantageux de mettre en œuvre ces politiques le plus tôt possible.

L’IA explicative continuera de dominer en importance, comme on peut le voir dans cette citation du projet de loi.

“À travers l’ensemble du gouvernement fédéral, les agences mènent et soutiennent des recherches sur les systèmes d’IA explicables. Le NIST mène des recherches fondamentales sur l’explicabilité des systèmes d’IA. Une équipe multidisciplinaire de chercheurs vise à développer des méthodes de mesure et des meilleures pratiques pour soutenir la mise en œuvre des principes fondamentaux de l’IA explicative. L’Agence de recherche et de développement avancée de la défense a un programme sur l’IA explicative qui vise à créer un ensemble de techniques d’apprentissage automatique qui produisent des modèles plus explicables, tout en maintenant un niveau élevé de performance d’apprentissage (précision de prédiction), et permettre aux utilisateurs humains de comprendre, de faire confiance et de gérer efficacement la nouvelle génération de partenaires intelligents artificiels. Le programme de la Fondation nationale des sciences sur l’équité dans l’IA comprend un intérêt spécifique pour les fondements de recherche pour l’IA explicative.”

Il ne faut pas perdre de vue que les principes énoncés ici finiront par devenir la nouvelle norme.