Hoe steden leidende technologieën inzetten met behulp van onbevooroordeelde AI-algoritmen

Vandaag de dag heeft vrijwel elk aspect van ons leven te maken met een online netwerk. Hoewel dit zeker veel gebieden van het leven heeft verbeterd, zoals hoe we rondlopen met handheld apparaten die ons informatie kunnen leveren op elk moment, brengt het ook bepaalde risico’s met zich mee.

Deze risico’s gaan verder dan traditionele hacking en datalekken in onze bankrekeningen, bijvoorbeeld. Meer specifiek doel ik op het feit dat er veel aspecten van ons leven zijn die worden beïnvloed door algoritmen die worden gebruikt door kunstmatige intelligentie (AI). We gaan ervan uit dat deze AI inherent algoritmen gebruikt die in ons beste belang zijn. Maar wat gebeurt er als de verkeerde soort vooroordeel in deze algoritmen terechtkomt? Hoe kan dat bepaalde resultaten beïnvloeden?

Wat gebeurt er als bevooroordeelde algoritmen AI-systemen binnendringen?

Om een ander voorbeeld te geven, op YouTube, beveelt een AI-algoritme bijna 70% van alle video’s aan, en op sociale media-platforms zoals Instagram en TikTok is het percentage nog hoger. Hoewel deze AI-algoritmen gebruikers kunnen helpen om content te vinden die ze interessant vinden, brengen ze ernstige privacy-problemen met zich mee, en er is groeiend bewijs dat sommige van de aanbevolen content die mensen online consumeren gevaarlijk zijn vanwege desinformatie of omdat ze een bepaalde perspectief bevatten die is ontworpen om iemands politieke denken of overtuigingen subliminaal te beïnvloeden.

De creatie van een goed afgerond, aanpasbaar AI is een moeilijke technische en sociale onderneming, maar een van de grootste betekenis.

Het is begrijpelijk hoe AI een negatieve invloed kan hebben op sociale normen en online gebruikspatronen, terwijl het ook de positieve effecten van de technologie benadrukt. Online bronnen hebben een aanzienlijke invloed op onze samenleving, en vooroordeel in online algoritmen zal onbewust onrechtvaardigheid in stand houden, mensen geloven vormen, valse informatie verspreiden en conflicten tussen verschillende groepen aanwakkeren.

Dit is waar “slechte AI” echt significante gevolgen kan hebben, omdat het gaat om ongewenste en/of oneerlijke vooroordeel.

Hoe bevooroordeelde AI het verkeer op kruispunten nadelig kan beïnvloeden

Neem verkeerskruispunten, als een meer realistisch voorbeeld. Lange wachttijden bij verkeerslichten worden een ding van het verleden dankzij nieuwe AI-technologieën die in markten over het hele land worden ingezet. Deze Transit Priority-oplossingen maken gebruik van real-time verkeersgegevens en passen de lichten aan om veranderende verkeerspatronen te compenseren, waardoor het verkeer blijft stromen en congestie wordt verminderd.

De systemen gebruiken diepe leer, waarbij een programma begrijpt wanneer het niet goed presteert en een andere koers probeert of blijft verbeteren wanneer het vordert.

Klinkt als een geweldig idee, nietwaar? Wat gebeurt er als, over tijd, de AI-algoritmen die in de verkeerssensor technologie zijn ingebed, beginnen om duurdere voertuigen te prioriteren boven anderen, op basis van bevooroordeelde algoritmen die zijn ontworpen om te herkennen dat mensen die een bepaald type voertuig besturen, prioriteit verdienen boven anderen?

Dit is waar “slechte AI” een zeer belangrijk deel van ons leven nadelig kan beïnvloeden.

Laten we bijvoorbeeld nemen dat deze AI-gestuurde transit priority-systemen deel uitmaken van een groter Intelligent Transportation System (ITS) dat de kracht van connected vehicle-technologieën benut. ITS-systemen zijn alleen zo goed als de agnostische cloud-gebaseerde data-delingsplatforms waarop ze werken, en niet alle zijn gelijk.

Het elimineren van vooroordeel in AI-algoritmen

Deze data-delingsplatforms zijn bewezen effectief, maar alleen als steden en gemeenten die het vervoerssysteem beheren, ze openstellen voor een goede data-delingsmogelijkheid waarbij bevooroordeelde algoritmen niet mogen deelnemen. Helaas blijven veel gemeenten vastzitten in contracten met hardware- en apparaatleveranciers die beweren te werken onder een “open architectuur”, maar niet bereid zijn om te werken op een open data-platform, en deze steden beperken zichzelf ernstig van de echte mogelijkheden die een cloud-gebaseerd platform kan bieden.

Cloud-gebaseerde transit prioritization-systemen nemen het globale beeld van een systeem in overweging en gebruiken onbevooroordeelde data-gecentreerde machine learning om de optimale tijd te voorspellen om het groene licht te geven aan transitvoertuigen op het juiste moment. Het minimaliseert interferentie met kruisende routes en maximaliseert tegelijkertijd de kans op een continue rit. Nog belangrijker, het agnostische cloud-gebaseerde platform zorgt ervoor dat steden een continu bijgewerkt systeem gebruiken voor maximaal transitpotentieel, zonder vooroordeel van ongewenste bronnen.

Met deze technologie nu gemakkelijk beschikbaar, hebben steden, ontwikkelaars en gemeenten de technologie die ze nodig hebben om de bouw van intelligente transitsystemen te versnellen voor het voordeel van iedereen in de regio, eerlijk en billijk.

Regio’s zoals de stad San José maken nu gebruik van de voordelen van AI om de levering van diensten aan hun inwoners te verbeteren. Naarmate de stad steeds meer AI-hulpmiddelen gebruikt, is het belangrijker dan ooit om ervoor te zorgen dat deze AI-systemen effectief en betrouwbaar zijn. Door de algoritmen te controleren die in hun hulpmiddelen worden gebruikt, zorgt het Digital Privacy Office (DPO) ervoor dat de AI-gebaseerde technologie-acquisities van de stad nauwkeurig presteren, vooroordeel minimaliseren en betrouwbaar zijn. Wanneer een afdeling van de stad een AI-hulpmiddel wil aanschaffen, volgt het DPO specifieke beoordelingsprocessen om de voordelen en risico’s van elk AI-systeem te beoordelen.

Voor deze specifieke regio zijn we trots om ons aan te sluiten bij bedrijven zoals Google als een van de weinige goedgekeurde AI-leveranciers om deel te nemen aan stedelijke technologie-implementaties vanwege onbevooroordeelde algoritmen. Naarmate er meer AI-technologieën worden ontwikkeld, zal het nog belangrijker zijn om ervoor te zorgen dat ze zijn gebouwd zonder enige onbevooroordeelde algoritmen voor het voordeel van een echt eerlijke en billijke gebruik van lokale gemeentelijke diensten.