Groeiende oproep tot regulering van AI na weken van nieuwsberichten

In de afgelopen weken is er een groeiende oproep tot een strengere regulering van kunstmatige intelligentie (AI). De zorg ontstaat na verschillende nieuwsverhalen die de potentieel misbruik van de technologie laten zien. Nu worden er nog meer vragen gesteld met de publicatie van het veelbesproken witboek over kunstmatige intelligentie van de Europese Commissie (EU), dat de eerste pan-nationale poging is om AI te reguleren. Rond dezelfde tijd publiceerde het White House Office of Science and Technology Policy (OSTP) een rapport over het Amerikaanse Artificial Intelligence Initiative.

Vóór de publicatie van het EU-witboek brak The Intercept een nieuwsverhaal over gelekte interne documenten van de Europese Unie. Volgens de documenten overwoog de EU de creatie van een netwerk van gezichtsherkenningdatabases in heel Europa. De nationale politiekrachten van 10 EU-lidstaten produceerden een rapport dat pleitte voor de creatie en interconnectie van de databases in elke lidstaat. Velen zijn bezorgd dat de creatie van dergelijke databases onvermijdelijk zal worden verbonden met soortgelijke databases in de Verenigde Staten, waardoor enorme hoeveelheden biometrische gegevens kunnen worden geconsolideerd. Velen verwachtten dat het EU-witboek een verbod op gezichtsregulering zou voorstellen, maar dat was er niet.

Volgens Edin Omanovic, advocacy-directeur voor Privacy International, “is dit zorgwekkend op nationaal niveau en op Europees niveau, vooral omdat sommige EU-landen de neiging hebben naar meer autoritaire regeringen.”

Een van de grote nieuwsverhalen van de afgelopen weken, aangezwengeld door een onderzoek van The New York Times in januari, heeft te maken met het start-upbedrijf Clearview AI. De gezichtsherkenning-app van het bedrijf identificeert mensen met behulp van een database van afbeeldingen die zijn genomen van sociale media. De app vergelijkt een foto met de database van meer dan 3 miljard afbeeldingen van sites zoals Facebook, Venmo en Youtube. Zodra de app overeenkomsten vindt, reageert het met links naar de site waar de afbeeldingen oorspronkelijk vandaan kwamen. Deze technologie kan leiden tot het ontdekken van persoonlijke details over een individu. Volgens het rapport is de app gebruikt door meer dan 600 rechtshandhavingsinstanties. Terwijl Clearview’s database meer dan 3 miljard afbeeldingen bevat, bevat de database van de FBI slechts 641 miljoen afbeeldingen van Amerikaanse burgers.

Het verhaal is opnieuw ontbrand met een nieuw rapport van BuzzFeed News vorige week. Volgens het rapport heeft het bedrijf overwogen om uit te breiden naar meer dan alleen rechtshandhavingsdoeleinden, met detailhandel, onroerend goed, bankwezen en internationale markten die in overweging worden genomen. Het rapport vermeldde ook dat de gezichtsherkenning-app al is verkocht aan duizenden organisaties over de hele wereld en is gebruikt door het ministerie van Justitie, ICE, Macy’s, Walmart en de NBA. Misschien wel het meest problematische op de lijst van klanten is een soevereine welvaartsfonds in de Verenigde Arabische Emiraten en duizenden overheidsentiteiten.

De nieuwe ontwikkelingen hebben bij privacy-activisten zorgen gewekt over potentieel massale surveillance. Een andere zorg is de mogelijkheid van onnauwkeurigheid met de technologie, waardoor onschuldige individuen door de rechtshandhavingsinstanties worden gericht. Bovenop alle privacy-zorgen dreigen bedrijven als Facebook, Google en Twitter met juridische actie. Naast particuliere juridische actie hebben ten minste twee Amerikaanse senatoren aangegeven dat ze van plan zijn het bedrijf te onderzoeken.

Een voorbeeld van het misbruik van deze technologie kan worden gezien binnen de U.S. Immigration and Customs Enforcement Agency (ICE). The Washington Post rapporteerde vorige week dat functionarissen van ICE toestemming hadden gekregen om gezichtsherkenningstechnologie te gebruiken om te zoeken in miljoenen rijbewijsfoto’s van Maryland, en dat ze dit kunnen doen zonder toestemming van de staat of de rechtbank.

Volgens Harrison Rudolph, een senior associate aan de Georgetown University Law School’s Center on Privacy and Technology, “gebruikt ICE biometrische informatie in de schaduw, zonder kennisgeving of openbare goedkeuring van de regering, om de meest kwetsbare mensen te jagen.”

Dit zijn slechts enkele van de meest openbare voorbeelden van hoe deze technologie wordt gebruikt, maar er gebeurt veel meer achter de schermen. Door dit alles is er een toegenomen oproep tot onderzoek en regulering. Meer transparantie, of het nu vrijwillig is of door onderzoeksjournalistiek, brengt veel praktijken aan het licht. Zonder dat het publiek een begrip heeft van kunstmatige intelligentie en wat het kan betekenen voor de economie, de regering, de rechtshandhaving, de surveillance en elk ander aspect van de samenleving, is er weinig hoop dat regeringen en bedrijven zichzelf kunnen reguleren. De samenleving ziet zowel de enorme voordelen van AI als de enorme zorgen, en alles gebeurt te snel voor bedrijven, regeringen en individuen om bij te blijven.