Angle d’Anderson
L’UE lance les premières réglementations sur l’IA
Ajouter Unite.AI à vos sources préférées sur Google
Le 21 avril, l’Union européenne annoncera son premier cadre réglementaire gouvernant l’utilisation de l’intelligence artificielle. Les nouvelles réglementations interdiront entièrement les systèmes d’apprentissage automatique à « haut risque » et introduiront des normes minimales pour les autres technologies d’apprentissage automatique, imposant des pénalités de 20 millions d’euros, ou 4 % du chiffre d’affaires de l’entreprise, en cas de non-conformité.
Un projet de rapport sur la nouvelle loi, obtenu par Politico, viserait à encourager l’innovation et le développement de systèmes d’IA pour le bénéfice général de l’économie et de la société de l’UE, dans des domaines tels que la fabrication, l’amélioration de l’efficacité énergétique et la modélisation du changement climatique; mais il interdirait l’utilisation de l’apprentissage automatique dans les systèmes de notation de crédit, l’évaluation automatisée des peines et l’évaluation de l’éligibilité aux prestations de sécurité sociale et aux demandes d’asile ou de visa, parmi d’autres interdictions qui seront révélées plus tard.
Le projet précise explicitement que les systèmes de notation sociale de type chinois pour les individus et les entreprises sont contraires aux valeurs de l’Union européenne et seront interdits en vertu de la réglementation, ainsi que les technologies de « surveillance de masse » alimentées par l’IA.
Supervision réglementaire
Suite à sa nomination d’un groupe d’experts de haut niveau sur l’intelligence artificielle en mars 2021, l’UE a également l’intention d’instituer un nouveau Conseil européen de l’intelligence artificielle, avec chaque État membre représenté, ainsi qu’un représentant de la Commission européenne et de l’autorité de protection des données de l’UE.
Peut-être la disposition la plus importante et potentiellement controversée du projet est-elle qu’elle interdit les systèmes qui causent un préjudice aux populations de l’UE en « manipulant leur comportement, leurs opinions ou leurs décisions », ce qui inclurait probablement de nombreuses technologies qui alimentent l’analyse du marketing commercial et politique.
Les réglementations feront des exceptions pour la lutte contre la criminalité grave, en permettant des déploiements prescrits de systèmes de reconnaissance faciale, dans les limites de la portée et de la durée d’utilisation.
Comme avec la large portée du RGPD, il semble que ces nouvelles réglementations puissent être suffisamment générales pour provoquer un « effet de refroidissement » dans les domaines où des lignes directrices strictes pour l’utilisation de l’IA ne sont pas fournies, les entreprises risquant d’être exposées lorsque leur utilisation de l’apprentissage automatique tombe dans une zone grise potentielle dans les réglementations.
Biais sous les nouvelles réglementations de l’IA de l’UE
Cependant, le plus grand défi et le piège juridique possible vient de la stipulation du projet de réglementation selon laquelle les ensembles de données ne doivent pas « incorporer de biais intentionnels ou non intentionnels » qui pourraient faciliter la discrimination.
Le biais des données est l’un des aspects les plus difficiles dans le développement des systèmes d’apprentissage automatique – difficile à prouver, difficile à résoudre et profondément lié aux cultures centrales des organismes de collecte de données. La question est de plus en plus placée dans un conflit entre les organismes de recherche privés et publics et le besoin de représenter avec précision les groupes distincts (pratiquement l’objectif fondateur des mathématiques computationnelles et de l’analyse statistique empirique) et le potentiel de promouvoir le profilage racial et la démonisation culturelle, parmi d’autres considérations.
Par conséquent, il est probable que les marchés non européens espèrent que la nouvelle réglementation fournira au moins certaines zones de guidance et une gamme de définitions applicables à cet égard.
Résistance externe à la réglementation de l’IA de l’UE
La nouvelle réglementation est susceptible d’avoir un impact profond sur les implications juridiques de l’utilisation de l’apprentissage automatique pour analyser les données accessibles au public – ainsi que sur ces données, car il sera toujours possible d’extraire des données des utilisateurs de l’Internet dans l’ère post-suivi qui est actuellement introduite par Apple, Firefox et (dans une moindre mesure), Chrome.
La juridiction peut devoir être clairement définie, par exemple dans les cas où les géants FAANG collectent des données d’utilisateurs en conformité avec le RGPD, mais traitent ces données à l’aide de systèmes d’apprentissage automatique en dehors de l’Union européenne. Il n’est pas clair si les algorithmes dérivés de tels systèmes pourraient être appliqués à des plateformes à l’intérieur de l’UE, et encore moins clair de la manière dont une telle application pourrait être prouvée.
Dans le cas de l’utilisation de l’IA pour éclairer les décisions de détention et de condamnation, une tendance croissante aux États-Unis, les expériences occasionnelles du Royaume-Uni dans ce secteur auraient été couvertes par les nouvelles réglementations si le pays n’avait pas quitté l’Union européenne.
En 2020, un projet de mémorandum de la Maison Blanche sur la réglementation de l’IA a déclaré le cas américain en faveur d’une réglementation faible de l’IA, déclarant que ‘Les agences fédérales doivent éviter les actions réglementaires ou non réglementaires qui entravent inutilement l’innovation et la croissance de l’IA’. De manière arguable, cette attitude semble susceptible de survivre à l’administration Trump sous laquelle le mémorandum a été publié, mais reflète plutôt le frottement à venir entre les États-Unis et l’UE à la suite de la nouvelle réglementation.
De même, la feuille de route « IA » du Conseil de l’IA du Royaume-Uni exprime un grand enthousiasme pour les avantages économiques de l’adoption de l’IA, mais une préoccupation générale que les nouvelles réglementations ne soient pas autorisées à entraver ce progrès.
La première loi réelle pour l’IA
L’engagement de l’UE en faveur d’une position juridique sur l’IA est innovant. Les dix dernières années ont été caractérisées par une tempête de documents blancs et de rapports préliminaires de comités et de recommandations des gouvernements du monde entier, se concentrant sur l’éthique de l’IA, avec peu de lois réelles adoptées.
Répartition géographique des émetteurs de lignes directrices éthiques pour l’IA par nombre de documents publiés, dans une enquête menée en 2019. Le plus grand nombre de lignes directrices éthiques est publié aux États-Unis et au sein de l’Union européenne, suivi du Royaume-Uni et du Japon. Le Canada, l’Islande, la Norvège, les Émirats arabes unis, l’Inde, Singapour, la Corée du Sud, l’Australie sont représentés avec 1 document chacun. Ayant contribué à une déclaration spécifique du G7, les États membres des pays du G7 sont mis en évidence séparément. Source: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
Lecture supplémentaire
