Appels croissants à la réglementation de l’IA après des semaines de reportages

Au cours des dernières semaines, des appels croissants ont été lancés pour une réglementation plus stricte de l’intelligence artificielle (IA). La préoccupation vient après divers reportages qui ont montré les abus potentiels de la technologie. Maintenant, encore plus de questions sont posées avec la publication du livre blanc de la Commission européenne (UE) très attendu sur l’intelligence artificielle, qui constitue la première tentative paneuropéenne pour réglementer l’IA. À peu près à la même époque, le Bureau de la politique scientifique et technologique de la Maison Blanche (OSTP) a publié un rapport sur son Initiative américaine pour l’intelligence artificielle.

Avant la publication du livre blanc de l’UE, The Intercept a publié un reportage sur des documents internes de l’Union européenne qui ont été divulgués. Selon les documents, l’UE envisageait la création d’un réseau de bases de données de reconnaissance faciale à travers l’Europe. Les forces de police nationales de 10 États membres de l’UE ont produit un rapport qui appelait à la création et à l’interconnexion de ces bases de données dans chaque État membre. Beaucoup craignent que la création de telles bases de données ne soit inévitablement connectée à des bases de données similaires aux États-Unis, permettant la consolidation de grandes quantités de données biométriques. Beaucoup attendaient que le livre blanc de l’UE propose une interdiction de la reconnaissance faciale, mais elle n’y figure pas.

Selon Edin Omanovic, directeur des plaidoyers pour Privacy International, “C’est préoccupant au niveau national et au niveau européen, en particulier alors que certains pays de l’UE s’orientent vers des gouvernements plus autoritaires.”

L’une des grandes histoires qui ont fait les actualités au cours des dernières semaines, lancée par une enquête du New York Times en janvier, concerne la start-up Clearview AI. L’application de reconnaissance faciale de l’entreprise identifie les personnes en utilisant une base de données d’images prises sur les réseaux sociaux. L’application compare une photo à la base de données de plus de 3 milliards de photos provenant de sites tels que Facebook, Venmo et Youtube. Une fois que l’application trouve des correspondances, elle répond avec des liens vers le site où les photos ont été publiées à l’origine. Cette technologie pourrait conduire à la découverte de détails personnels sur un individu. Selon le rapport, l’application a été utilisée par plus de 600 agences de forces de l’ordre. Alors que la base de données de Clearview contient plus de 3 milliards d’images, la base de données du FBI ne contient que 641 millions d’images de citoyens américains.

L’histoire a éclaté à nouveau avec un nouveau rapport de BuzzFeed News la semaine dernière. Selon le rapport, l’entreprise a envisagé d’étendre ses activités au-delà des seules forces de l’ordre, avec des marchés tels que la vente au détail, l’immobilier, la banque et les marchés internationaux. Le rapport a également indiqué que l’application de reconnaissance faciale a déjà été vendue à des milliers d’organisations à travers le monde et utilisée par le ministère de la Justice, ICE, Macy’s, Walmart et la NBA. Peut-être le plus problématique dans la liste des clients est un fonds souverain des Émirats arabes unis et des milliers d’entités gouvernementales.

Les nouveaux développements ont suscité des inquiétudes parmi les défenseurs de la vie privée quant à des utilisations potentielles de surveillance de masse. Une autre préoccupation est la possibilité d’erreurs avec la technologie, conduisant les forces de l’ordre à cibler des individus innocents. En plus de toutes les préoccupations en matière de confidentialité, des entreprises comme Facebook, Google et Twitter menacent de prendre des mesures légales. Outre les actions légales privées, au moins deux sénateurs américains ont déclaré qu’ils entendaient enquêter sur l’entreprise.

Un exemple de l’abus de cette technologie peut être vu au sein de l’agence américaine de l’immigration et des douanes (ICE). The Washington Post a rapporté la semaine dernière que les responsables d’ICE ont été autorisés à utiliser la technologie de reconnaissance faciale pour effectuer des recherches parmi des millions de photos de permis de conduire du Maryland, et qu’ils peuvent le faire sans demander l’approbation de l’État ou de la cour.

Selon Harrison Rudolph, associé principal à la faculté de droit de l’Université de Georgetown, Centre sur la confidentialité et la technologie, “ICE utilise des informations biométriques dans l’ombre, sans notification ni approbation gouvernementale, pour traquer les personnes les plus vulnérables.”

Ce ne sont que quelques-uns des exemples les plus publics de la façon dont cette technologie est utilisée, mais beaucoup plus se passe dans l’ombre. En raison de cela, il y a eu un appel accru à la vigilance et à la réglementation. Une transparence accrue, que ce soit volontairement ou grâce à des reportages d’investigation, met de nombreuses pratiques en lumière. Sans que le public n’ait une compréhension de l’intelligence artificielle et de ce qu’elle pourrait signifier pour l’économie, le gouvernement, les forces de l’ordre, la surveillance et tous les autres aspects de la société, il y a peu d’espoir pour que les gouvernements et les entreprises s’autorégulent. La société voit à la fois les avantages énormes de l’IA et les préoccupations massives, avec tout se déroulant trop vite pour que les entreprises, les gouvernements et les individus puissent suivre.