Appels croissants à la réglementation de l’IA après des semaines de rapports d’actualité

Au cours des dernières semaines, les appels à une réglementation plus stricte de l’intelligence artificielle (IA) se sont multipliés. La préoccupation vient après diverses histoires d’actualité qui ont montré les abus potentiels de la technologie. Maintenant, encore plus de questions sont posées avec la publication du livre blanc de la Commission européenne (UE) sur l’intelligence artificielle, qui est la première tentative paneuropéenne pour réglementer l’IA. Au même moment, le Bureau de la politique scientifique et technologique de la Maison Blanche (OSTP) a publié un rapport sur son Initiative américaine pour l’intelligence artificielle.

Avant la publication du livre blanc de l’UE, The Intercept a publié une histoire d’actualité sur des documents internes de l’Union européenne qui ont été divulgués. Selon les documents, l’UE envisageait la création d’un réseau de bases de données de reconnaissance faciale dans toute l’Europe. Les forces de police nationales de 10 États membres de l’UE ont produit un rapport qui appelait à la création et à l’interconnexion de ces bases de données dans chaque État membre. Beaucoup craignent que la création de telles bases de données ne soit inévitablement liée à des bases de données similaires aux États-Unis, permettant ainsi la consolidation de grandes quantités de données biométriques. Beaucoup attendaient que le livre blanc de l’UE propose une interdiction de la réglementation faciale, mais cela n’a pas été le cas.

Selon Edin Omanovic, directeur des plaidoyers pour Privacy International, « C’est préoccupant au niveau national et au niveau européen, en particulier dans la mesure où certains pays de l’UE s’orientent vers des gouvernements plus autoritaires. »

L’une des grandes histoires d’actualité de ces dernières semaines, lancée par une enquête du New York Times en janvier, concerne la start-up Clearview AI. L’application de reconnaissance faciale de l’entreprise identifie les personnes en utilisant une base de données d’images prises sur les médias sociaux. L’application compare une photo à la base de données de plus de 3 milliards de photos provenant de sites tels que Facebook, Venmo et Youtube. Une fois que l’application trouve des correspondances, elle répond avec des liens vers le site où les photos ont été prises à l’origine. Cette technologie pourrait conduire à la découverte de détails personnels sur un individu. Selon le rapport, l’application a été utilisée par plus de 600 agences de forces de l’ordre. Alors que la base de données de Clearview contient plus de 3 milliards d’images, la base de données du FBI ne contient que 641 millions d’images de citoyens américains.

L’histoire a éclaté à nouveau avec un nouveau rapport de BuzzFeed News la semaine dernière. Selon le rapport, l’entreprise a envisagé d’étendre son activité au-delà de la seule application de la loi, avec des marchés potentiels dans la vente au détail, l’immobilier, la banque et les marchés internationaux. Le rapport a également indiqué que l’application de reconnaissance faciale a déjà été vendue à des milliers d’organisations dans le monde et utilisée par le ministère de la Justice, ICE, Macy’s, Walmart et la NBA. Peut-être le plus problématique dans la liste des clients est un fonds souverain des Émirats arabes unis et des milliers d’entités gouvernementales.

Les nouveaux développements ont suscité des inquiétudes parmi les défenseurs de la vie privée quant à l’utilisation potentielle de la surveillance de masse. Une autre préoccupation est la possibilité d’erreurs avec la technologie, conduisant à la cible de personnes innocentes par les forces de l’ordre. En plus de toutes les préoccupations relatives à la vie privée, des entreprises comme Facebook, Google et Twitter menacent des poursuites judiciaires. En plus des poursuites judiciaires privées, au moins deux sénateurs américains ont déclaré qu’ils entendaient enquêter sur l’entreprise.

Un exemple de l’abus de cette technologie peut être vu dans l’agence américaine des douanes et de la protection des frontières (ICE). Le Washington Post a rapporté la semaine dernière que les responsables d’ICE ont été autorisés à utiliser la technologie de reconnaissance faciale pour rechercher des millions de photos de permis de conduire du Maryland, et qu’ils peuvent le faire sans demander l’approbation de l’État ou de la cour.

Selon Harrison Rudolph, associé principal à la faculté de droit de l’Université de Georgetown, « ICE utilise les informations biométriques dans l’ombre, sans avis gouvernemental ni approbation publique, pour traquer les personnes les plus vulnérables. »

Ce ne sont que quelques-uns des exemples les plus publics de la manière dont cette technologie est utilisée, mais beaucoup plus se passe derrière la scène. En raison de cela, il y a eu un appel accru à la vigilance et à la réglementation. Une transparence accrue, que ce soit de manière volontaire ou grâce à des reportages d’investigation, met de nombreuses pratiques en lumière. Sans que le public n’ait une compréhension de l’intelligence artificielle et de ce qu’elle pourrait signifier pour l’économie, le gouvernement, les forces de l’ordre, la surveillance, et chaque autre aspect de la société, il y a peu d’espoir pour que les gouvernements et les entreprises se réglementent eux-mêmes. La société voit à la fois les avantages énormes de l’IA et les préoccupations massives, tout se passant trop vite pour que les entreprises, les gouvernements et les individus puissent suivre. nomy, gouvernement, application de la loi, surveillance, et chaque autre aspect de la société, il y a peu d’espoir pour que les gouvernements et les entreprises se réglementent eux-mêmes.