Groeiende oproep tot regulering van AI na weken van nieuwsberichten

De afgelopen weken is er een groeiende oproep tot een sterkere regulering van kunstmatige intelligentie (AI). De zorg ontstaat na verschillende nieuwsverhalen die de potentiële misbruiken van de technologie laten zien. Nu worden er nog meer vragen gesteld met de publicatie van het lang verwachte witboek over kunstmatige intelligentie van de Europese Commissie (EU), dat de eerste pan-nationale poging is om AI te reguleren. Rond dezelfde tijd publiceerde het White House Office of Science and Technology Policy (OSTP) een rapport over het Amerikaanse Artificial Intelligence Initiative.

Voordat het EU-witboek werd gepubliceerd, brak The Intercept een nieuwsverhaal over gelekte interne documenten van de Europese Unie. Volgens de documenten overwoog de EU de creatie van een netwerk van gezichtsherkenningdatabases in heel Europa. De nationale politiekrachten van 10 EU-lidstaten produceerden een rapport dat opriep tot de creatie en interconnectie van de databases in elke lidstaat. Velen zijn bezorgd dat de creatie van dergelijke databases onvermijdelijk zal worden verbonden met soortgelijke databases in de Verenigde Staten, waardoor enorme hoeveelheden biometrische gegevens kunnen worden geconsolideerd. Velen verwachtten dat het EU-witboek een verbod op gezichtsregulering zou voorstellen, maar dat was er niet.

Volgens Edin Omanovic, advocacy-directeur voor Privacy International, “is dit zorgwekkend op nationaal niveau en op Europees niveau, vooral omdat sommige EU-landen de neiging hebben naar meer autoritaire regeringen.”

Een van de grote nieuwsverhalen van de afgelopen weken, aangezwengeld door een onderzoek van The New York Times in januari, heeft te maken met het start-upbedrijf Clearview AI. De gezichtsherkenning-app van het bedrijf identificeert mensen door middel van een database van afbeeldingen die zijn gehaald van sociale media. De app vergelijkt een foto met de database van meer dan 3 miljard afbeeldingen van sites zoals Facebook (META ), Venmo en Youtube. Zodra de app overeenkomsten vindt, reageert het met links naar de site waar de afbeeldingen oorspronkelijk vandaan kwamen. Deze technologie kan leiden tot de ontdekking van persoonlijke gegevens over een individu. Volgens het rapport is de app gebruikt door meer dan 600 rechtshandhavingsinstanties. Terwijl de database van Clearview meer dan 3 miljard afbeeldingen bevat, bevat de database van de FBI slechts 641 miljoen afbeeldingen van Amerikaanse burgers.

Het verhaal is opnieuw uitgebarsten met een nieuw rapport van BuzzFeed News (BZFD ) vorige week. Volgens het rapport overwoog het bedrijf om uit te breiden naar meer dan alleen rechtshandhavingsdoeleinden, met detailhandel, onroerend goed, bankwezen en internationale markten die in overweging worden genomen. Het rapport stelde ook dat de gezichtsherkenning-app al is verkocht aan duizenden organisaties over de hele wereld en is gebruikt door het ministerie van Justitie, ICE, Macy’s (M ), Walmart (WMT ) en de NBA. Misschien wel het meest problematische op de lijst van klanten is een soevereine welvaartsfonds in de Verenigde Arabische Emiraten en duizenden overheidsentiteiten.

De nieuwe ontwikkelingen hebben bij privacy-voorstanders zorgen gewekt over mogelijke massasurveillance-toepassingen. Een andere zorg is de mogelijkheid van onnauwkeurigheid met de technologie, waardoor onschuldige individuen door de rechtshandhaving worden aangepakt. Naast de privé-rechtszaken dreigen bedrijven zoals Facebook, Google (GOOGL ) en Twitter met juridische actie. Naast privé-rechtszaken hebben ten minste twee Amerikaanse senatoren aangegeven dat ze van plan zijn het bedrijf te onderzoeken.

Een voorbeeld van het misbruik van deze technologie kan worden gezien binnen de Amerikaanse immigratie- en douanedienst (ICE). The Washington Post rapporteerde vorige week dat functionarissen van ICE toestemming hadden gekregen om gezichtsherkenningstechnologie te gebruiken om te zoeken in miljoenen rijbewijsfoto’s van Maryland, en dat ze dit kunnen doen zonder toestemming van de staat of de rechtbank.

Volgens Harrison Rudolph, een senior associate aan de Georgetown University Law School’s Center on Privacy and Technology, “gebruikt ICE biometrische gegevens in het geheim, zonder kennisgeving of openbare goedkeuring, om de meest kwetsbare mensen te jagen.”

Dit zijn slechts enkele van de meest openbare voorbeelden van hoe deze technologie wordt gebruikt, maar er gebeurt veel meer achter de schermen. Door dit alles is er een groeiende oproep tot onderzoek en regulering. Meer transparantie, of vrijwillig of door onderzoeksjournalistiek, brengt veel praktijken aan het licht. Zonder dat het publiek een begrip heeft van kunstmatige intelligentie en wat het kan betekenen voor de economie, de overheid, de rechtshandhaving, de surveillance en elk ander aspect van de samenleving, is er weinig hoop voor overheden en bedrijven om zichzelf te reguleren. De samenleving ziet zowel de enorme voordelen van AI als de enorme zorgen, en alles gebeurt te snel voor bedrijven, overheden en individuen om bij te blijven.