Groeiende roep om AI-regulering na wekenlange nieuwsberichten

De afgelopen weken is er een groeiende roep om strengere regulering van kunstmatige intelligentie (AI). De bezorgdheid komt nadat er verschillende nieuwsberichten verschenen die het mogelijke misbruik van de technologie aantoonden. Nu rijzen er nog meer vragen met de release van de langverwachte release van de Europese Commissie (EU). whitepaper over kunstmatige intelligentie, de eerste pannationale poging om AI te reguleren. Rond dezelfde tijd publiceerde het Office of Science and Technology Policy (OSTP) van het Witte Huis een rapport op zijn American Artificial Intelligence Initiative. 

Voorafgaand aan de publicatie van het witboek van de EU, de Intercept brak een nieuwsbericht met betrekking tot gelekte interne documenten van de Europese Unie. Volgens de documenten overwoog de EU de oprichting van een netwerk van databases voor gezichtsherkenning in heel Europa. De nationale politiekorpsen van 10 EU-lidstaten hebben een rapport opgesteld waarin wordt opgeroepen tot het opzetten en onderling verbinden van de databases in elke lidstaat. Velen zijn bezorgd dat het opzetten van dergelijke databases onvermijdelijk zal worden verbonden met soortgelijke databases in de Verenigde Staten, waardoor enorme hoeveelheden biometrische gegevens kunnen worden geconsolideerd. Velen verwachtten dat het witboek van de EU een verbod op gezichtsregulering zou voorstellen, maar dat was er niet. 

Volgens Edin Omanovic, belangenbehartiger van Privacy International, "is dit zorgwekkend op nationaal en Europees niveau, vooral nu sommige EU-landen neigen naar meer autoritaire regeringen."

Een van de grote nieuwsberichten van de afgelopen weken, afgetrapt door een New York Times-onderzoek in januari heeft te maken met de start-up Clearview AI. De gezichtsherkenningsapp van het bedrijf identificeert mensen door middel van een database met afbeeldingen van sociale media. De app vergelijkt een foto met de database van meer dan 3 miljard foto's afkomstig van sites zoals Facebook, Venmo en Youtube. Zodra de app overeenkomsten vindt, reageert deze met links naar de site waar de foto's oorspronkelijk vandaan kwamen. Deze technologie kan leiden tot de ontdekking van persoonlijke details over een individu. Volgens het rapport is de app gebruikt door meer dan 600 wetshandhavingsinstanties. Terwijl de database van Clearview meer dan 3 miljard afbeeldingen bevat, bevat de database van de FBI slechts 641 miljoen afbeeldingen van Amerikaanse burgers. 

Het verhaal is weer losgebarsten met een nieuw rapport van BuzzFeed News vorige week. Volgens het rapport overweegt het bedrijf uit te breiden naar meer dan alleen wetshandhavingsdoeleinden, waaronder de detailhandel, de vastgoedsector, de banksector en internationale markten. Het rapport vermeldt ook dat de gezichtsherkenningsapp al aan duizenden organisaties wereldwijd is verkocht en wordt gebruikt door het ministerie van Justitie, ICE, Macy's, Walmart en de NBA. Misschien wel het meest problematische op de klantenlijst is een staatsinvesteringsfonds in de Verenigde Arabische Emiraten en duizenden overheidsinstanties.

De nieuwe ontwikkelingen hebben geleid tot bezorgdheid bij privacyadvocaten over mogelijk gebruik van massale surveillance. Een ander punt van zorg is de mogelijkheid van onnauwkeurigheid van de technologie, waardoor wetshandhavers zich richten op onschuldige individuen. Bovenop alle zorgen over privacy dreigen bedrijven als Facebook, Google en Twitter met juridische stappen. Naast particuliere juridische stappen hebben ten minste twee Amerikaanse senatoren verklaard dat ze van plan zijn het bedrijf te onderzoeken.

Een voorbeeld van het misbruik van deze technologie is te zien binnen de Amerikaanse Immigration and Customs Enforcement Agency (ICE). The Washington Post meldde vorige week dat ICE-functionarissen gezichtsherkenningstechnologie mogen gebruiken om miljoenen foto's van rijbewijzen in Maryland te doorzoeken, en dat ze dit kunnen doen zonder toestemming van de staat of de rechtbank te vragen. 

Volgens Harrison Rudolph, een senior medewerker aan het Centre on Privacy and Technology van Georgetown University Law School, "gebruikt ICE biometrische informatie in de schaduw, zonder kennisgeving van de overheid of publieke goedkeuring, om de meest kwetsbare mensen op te sporen." 

Dit zijn slechts enkele van de meest openbare voorbeelden van hoe deze technologie wordt gebruikt, maar er gebeurt veel meer achter de schermen. Hierdoor is er een toenemende roep om controle en regulering. Meer transparantie, vrijwillig of door onderzoeksrapportage, brengt veel praktijken aan het licht. Als het publiek geen begrip heeft van kunstmatige intelligentie en wat het zou kunnen betekenen voor de economie, de overheid, wetshandhaving, toezicht en elk ander aspect van de samenleving, is er weinig hoop voor regeringen en bedrijven om zichzelf te reguleren. De samenleving ziet zowel de enorme voordelen van AI als de enorme zorgen, waarbij het allemaal te snel gaat voor bedrijven, overheden en individuen om bij te houden.