Toezicht

De staat van AI in politiezorg

Zac Amos
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenDe invoering van kunstmatige intelligentie door de politie roept onopgeloste vragen op…
Meer weergeven
  • De invoering van kunstmatige intelligentie door de politie roept onopgeloste vragen op over verantwoording wanneer geautomatiseerde systemen falen
  • Vooroordelen die besloten liggen in historische misdaadgegevens kunnen ertoe leiden dat voorspellende politietools minderheidsbuurten oneerlijk als doelwit nemen
  • Staatswetgeving reguleert nu gezichtsherkenningstechnologie of verbiedt deze, terwijl de zorgen over privacy bij politietoezicht toenemen

Geavanceerde technologieën, vooral kunstmatige intelligentie (AI), worden door veel bedrijven in verschillende branches gebruikt om bedrijfsontwikkeling te stimuleren, efficiëntie te bereiken en menselijke werknemers te ondersteunen.

Organisaties die AI-oplossingen implementeren, profiteren meestal van een verbeterde prestatie vanwege de vele kansen en toepassingen, en dat mag geen verrassing zijn. AI is doorgedrongen in het dagelijks leven, van digitale assistenten tot de technologie die onze smartphones aandrijft.

Het is te verwachten dat politiediensten in het hele land AI-gestuurde instrumenten zullen blijven gebruiken om verschillende doelen te dienen. Hoe gebruiken deze organisaties momenteel AI? Hieronder volgt meer informatie over de huidige staat van AI in politiezorg.

Hoe politiediensten AI gebruiken in 2022

Politiehervorming is een belangrijk onderwerp van discussie geworden in de afgelopen jaren, vooral in de Verenigde Staten. De dood van George Floyd zorgde voor een golf van landelijke protesten in mei 2020. Sommige voorstanders eisten ingrijpende veranderingen, terwijl anderen steun verleenden aan het verlagen van het politiebudget of het afschaffen van de politie.

Volgens een enquête uit 2021 van het U.S. Government Accountability Office (GAO) meldden 20 politiediensten dat ze gezichtsherkenningssystemen bezaten. Zes diensten zeiden dat ze deze systemen gebruikten om personen te identificeren die de wet overtraden tijdens burgerlijke onrust, protesten en rellen na de dood van George Floyd. Bovendien meldden drie diensten dat ze gezichtsherkenning gebruikten om beelden te maken van de aanval op het Amerikaanse Capitool op 6 januari 2021.

Veel Amerikanen hebben gemengde meningen over de rol van AI in politiezorg. Het Pew Research Center vond dat 45% van de Amerikaanse volwassenen even bezorgd en enthousiast zijn over het toenemende gebruik van AI in politiezorg.

Er is geen twijfel over dat technologie steeds vaker wordt gebruikt in de politiezorg. Op welke andere manieren gebruiken politiediensten AI-oplossingen?

Misdaadpreventie en -reductie

Organisaties nemen en implementeren AI-systemen om misdaad te voorkomen en uiteindelijk de misdaadcijfers te verlagen. AI-algoritmen kunnen door enorme hoeveelheden gegevens sorteren om patronen te identificeren.

Politiediensten vertrouwen op deze patronen om meer te weten te komen over de misdaadcijfers in hun gebied. Informatie zoals het voorspellen van waar problemen kunnen ontstaan, welke burgers meer geneigd zijn om een misdaad te begaan of welke overtredingen het meest voorkomen in een bepaald gebied zijn typische AI-toepassingen in politiezorg.

Gezichtsherkenning en biometrie

AI-gestuurde gezichtsherkenningssystemen kunnen onderzoeken versnellen, daders voor de rechter brengen en mogelijk misdaad voorkomen en stoppen.

Biometrie is een andere technologie die politiediensten gebruiken om iemands identiteit te verifiëren en potentiële verdachten te identificeren. Bijvoorbeeld, politiediensten kunnen biometrie gebruiken om iemand te identificeren die een vingerafdruk op een wapen of bom heeft achtergelaten.

Drones voor surveillance

Amerikaanse politiediensten omarmen AI-drone technologie om inlichtingen en surveillance in hun gebieden te verzamelen. Een drone is een haalbaar alternatief voor helikopters die een vogelperspectief bieden van mogelijk instabiele of gewelddadige situaties.

Volgens een rapport uit 2020 van het Center for the Study of the Drone at Bard College, bezaten ten minste 1.578 staats- en lokale veiligheidsdiensten in de VS drone technologie. Ongeveer 70% waren politie-eenheden.

Misdaadrapportage en noodapps

Meer politiediensten gaan gebruikmaken van misdaadmeldings- en noodapps die informatie van burgers verzamelen om de openbare veiligheid te waarborgen.

Deloitte’s rapport “Urban Future With a Purpose” uit 2021 vond dat slimme technologieën, waaronder AI-oplossingen, breed worden gebruikt. Het rapport stelt dat 39% van de steden crowdsourced misdaadrapportage en noodapps gebruiken.

Controverses over politie die AI gebruikt

De toegenomen adoptie van AI door politie heeft controverses en debatten onder deskundigen, burgers en agenten zelf veroorzaakt. Sommige mensen uiten bezorgdheid over het gebruik van deze technologieën door politie, terwijl anderen denken dat de adoptie van AI de operaties zal versterken en de openbare veiligheid zal verbeteren.

Onnauwkeurigheid en vooroordeel in AI-systemen

Politiediensten hebben jarenlang vertrouwd op historische misdaadgegevens. Verleden informatie over misdaden wordt gevoed in een AI-systeem dat machine learning (ML) algoritmen gebruikt om toekomstige incidenten te voorspellen. Maar wat als de gegevens die worden gebruikt om deze AI-systemen “te leren” vooroordeel bevatten?

Een onderzoek uitgevoerd door Gizmodo en The Markup toonde aan dat één AI-software, genaamd PredPol, onevenredig voorspelde dat misdaad zou plaatsvinden in buurten waar mensen uit de arbeidersklasse, zwarte mensen en andere mensen van kleur wonen. Het onderzoek van Gizmodo en The Markup was de eerste onafhankelijke inspanning om kwantitatieve PredPol-misdaadvoorspellingen te onderzoeken om te bepalen of de software raciale vooroordelen in politiezorg elimineert of in stand houdt.

Gebrek aan menselijk toezicht

In wezen neemt AI de noodzaak van menselijk toezicht weg. AI-programma’s zijn meestal in staat om beslissingen te nemen, maar ze benaderen probleemoplossing op een andere manier dan mensen. Als systemen falen, zoals veel technologische innovaties in het verleden, wie zou verantwoordelijk worden gehouden?

Zou de verantwoordelijkheid bij de politiedienst, de dienstdoende agent of de technologieproducent liggen? Naarmate de adoptie van AI in politiezorg toeneemt, blijven vragen over verantwoordelijkheid en het gebrek aan menselijk toezicht ontstaan.

Privacyzorgen

Politiediensten die sommige van de hierboven onderzochte AI-oplossingen gebruiken, doen dit vaak zonder toezicht of passende tests. Een belangrijk onderwerp van discussie in deze debatten is of AI-technologieën de privacy van burgers schenden. Sommige rapporten beschrijven hoe politie AI-software gebruikt om de sociale media van burgers platforms te monitoren, waardoor meer privacyzorgen ontstaan.

Volgens het Center for Strategic and International Studies (CSIS) hebben verschillende staten in de VS, zoals Oregon, New Hampshire en Californië, staatswetten aangenomen om gezichtsherkenningstechnologie te reguleren of volledig te verbieden.

De toekomstige rol van AI in politiezorg

Nieuwe technologieën hebben de neiging om de werking van een organisatie te verbeteren, en AI presenteert uitdagingen en voordelen voor politiediensten. Zelfs als oplossingen goed bedoeld zijn, is het onduidelijk hoe de bredere adoptie van AI de politiezorg, openbare veiligheid, raciale ongelijkheden en mensenrechten zal beïnvloeden.

AI creëert zijn eigen plek in politiediensten, maar de voor- en nadelen van deze innovaties creëren verschillende onzekerheden voor regeringen en hun burgers. Het zal fascinerend zijn om te zien hoe de rol van AI in de toekomst verandert.

Zac Amos is een schrijver over technologie die zich richt op kunstmatige intelligentie. Hij is ook de Features‑editor bij ReHack, waar je meer van zijn werk kunt lezen.