Hoe steden toonaangevende technologieën inzetten door gebruik te maken van onpartijdige AI-algoritmen

Tegenwoordig raakt vrijwel elk aspect van ons leven een deel van een online netwerk. Hoewel dit zeker veel aspecten van het leven zelf heeft verbeterd, zoals hoe we rondlopen met draagbare apparaten die ons op elk moment informatie kunnen geven, brengt het ook bepaalde risico's met zich mee.

Deze risico's gaan verder dan traditionele hacking en datalekken op bijvoorbeeld onze bankrekeningen. Meer nog, waar ik hier naar verwijs, is dat er tegenwoordig zoveel delen van ons leven zijn die worden beïnvloed door algoritmen die worden gebruikt door kunstmatige intelligentie (AI). We gaan ervan uit dat deze AI inherent gebruikmaakt van algoritmen die in ons belang zijn. Wat gebeurt er echter als het verkeerde type vooringenomenheid deze algoritmen binnendringt? Hoe kan dat bepaalde resultaten beïnvloeden?

Wat gebeurt er als vooringenomen algoritmen AI-systemen infiltreren?

Om nog een voorbeeld te geven, op YouTube, een AI-algoritme, beveelt bijna 70% van alle video's aan, en op social media platforms als Instagram en TikTok is het percentage zelfs nog hoger. Hoewel deze AI-algoritmen gebruikers kunnen helpen bij het vinden van inhoud waarin ze geïnteresseerd zijn, werpen ze ernstige privacyschendingen op, en er zijn steeds meer aanwijzingen dat sommige van de aanbevolen inhoud die mensen online consumeren zelfs gevaarlijk is vanwege verkeerde informatie of misschien een bepaald perspectief bevat dat is ontworpen om iemands politieke denken of overtuigingen subliminaal te beïnvloeden.

Het creëren van een goed afgeronde, aanpasbare AI is een uitdagende technische en sociale onderneming, maar een van de grootste betekenis.

Het is begrijpelijk dat AI een negatieve impact kan hebben op maatschappelijke normen en online gebruikspatronen, terwijl tegelijkertijd de nadruk wordt gelegd op de positieve effecten van de technologie. Online bronnen hebben een aanzienlijke invloed op onze samenleving, en vooroordelen in online algoritmen zullen onbedoeld onrecht bevorderen, de overtuigingen van mensen beïnvloeden, onjuiste informatie verspreiden en conflicten tussen verschillende groepen aanwakkeren.

Dit is waar "slechte AI" echt significante gevolgen kan hebben als het gaat om ongewenste en/of oneerlijke vooroordelen.

Hoe bevooroordeelde AI verkeersknooppunten nadelig kan beïnvloeden

Neem verkeersknooppunten als een realistischer voorbeeld. Lange wachttijden bij verkeerslichten behoren tot het verleden dankzij nieuwe AI-technologieën die worden ingezet in markten in het hele land. Deze Transit Priority-oplossingen maken gebruik van real-time verkeersgegevens en passen de lichten aan om te compenseren voor veranderende verkeerspatronen, waardoor het verkeer doorstroomt en congestie wordt verminderd.

De systemen gebruiken diepgaand leren, waar een programma begrijpt wanneer het niet goed gaat en een andere handelwijze probeert – of blijft verbeteren wanneer het vooruitgang boekt.

Klinkt als een geweldig idee, toch? Wat gebeurt er als, na verloop van tijd, de AI-algoritmen die zijn ingebed in de verkeerssensortechnologie duurdere voertuigen voorrang gaan geven boven andere, op basis van bevooroordeelde algoritmen die zijn ontworpen om te erkennen dat mensen die een bepaald type voertuig besturen, voorrang verdienen op andere?

Dit is waar "slechte AI" een zeer belangrijk deel van ons leven negatief kan beïnvloeden.

Laten we als voorbeeld nemen dat deze AI-aangedreven transitprioriteitssystemen deel uitmaken van een groter Intelligent Transportation System (ITS) dat gebruikmaakt van de kracht van verbonden voertuigtechnologieën. ITS-systemen zijn slechts zo goed als de agnostische cloudgebaseerde platforms voor het delen van gegevens waarop ze werken, en ze zijn niet allemaal op dezelfde manier gemaakt.

Vooroordelen in AI-algoritmen elimineren

Deze platforms voor het delen van gegevens zijn zeer effectief gebleken, maar alleen wanneer steden en gemeenten die toezicht houden op transportsystemen, ze openstellen voor een goede gegevensuitwisseling waar vooringenomen algoritmen niet mogen deelnemen. Helaas blijven veel gemeenten vastzitten aan contracten met leveranciers van hardware en apparaten die beweren te werken onder "open architectuur", maar niet bereid zijn om onder een open dataplatform te werken, en deze steden beperken zichzelf ernstig van de echte mogelijkheden die een cloudgebaseerd platform kan bieden. voorzien.

Cloudgebaseerde systemen voor het prioriteren van openbaar vervoer houden rekening met het mondiale beeld van een systeem en maken gebruik van onbevooroordeelde datacentrische machine learning om het optimale moment te voorspellen om op het juiste moment groen licht te geven aan transitvoertuigen. Het minimaliseert interferentie met kruisende routes en maximaliseert tegelijkertijd de kans op een continue rit. Belangrijker nog is dat het agnostische cloudgebaseerde platform ervoor zorgt dat steden gebruik kunnen maken van een voortdurend bijgewerkt systeem voor een maximaal doorvoerpotentieel, zonder vooringenomenheid door ongewenste bronnen.

Nu deze technologie direct beschikbaar is, beschikken steden, ontwikkelaars en gemeenten over de technologie die ze nodig hebben om de uitbouw van intelligente vervoersnetwerken op een eerlijke en rechtvaardige manier te versnellen waar iedereen in de regio van kan profiteren.

Regio's zoals de stad van San José maakt nu gebruik van de voordelen van AI om de dienstverlening aan haar inwoners te verbeteren. Nu de gemeente steeds meer gebruikmaakt van AI-tools, is het belangrijker dan ooit om ervoor te zorgen dat die AI-systemen effectief en betrouwbaar zijn. Door de algoritmen in haar tools te beoordelen, zorgt de Digital Privacy Office (DPO) ervoor dat de AI-gestuurde technologische aankopen van de gemeente nauwkeurig verlopen, vooringenomenheid tot een minimum wordt beperkt en betrouwbaar zijn. Wanneer een gemeentelijke dienst een AI-tool wil aanschaffen, volgt de DPO specifieke beoordelingsprocessen om de voordelen en risico's van elk AI-systeem te beoordelen.

Voor deze specifieke regio zijn we er trots op om ons bij bedrijven als Google aan te sluiten als een van de weinige goedgekeurde AI-leveranciers die deelnemen aan technologie-implementaties in de hele stad vanwege onpartijdige algoritmen. Naarmate er meer AI-technologieën worden ontwikkeld, zal het vooral belangrijk zijn om ervoor te zorgen dat ze worden gebouwd zonder onbevooroordeelde algoritmen ten behoeve van een echt eerlijk en rechtvaardig gebruik van lokale gemeentelijke diensten.