Hur städer distribuerar ledande teknologier med hjälp av obefläckade AI-algoritmer

Idag berör nästan alla aspekter av våra liv någon del av ett nätverk online. Medan detta har förbättrat många områden i livet, såsom hur vi går runt med handhållna enheter som kan leverera oss information när som helst, innebär det också vissa risker.

Dessa risker går utöver traditionell hacking och dataintrång i våra bankkonton, till exempel. Mer sådant jag hänvisar till här är att det finns så många delar av våra liv idag som påverkas av algoritmer som används av artificiell intelligens (AI). Vi antar att denna AI i sig utnyttjar algoritmer som ligger i våra bästa intressen. Men vad händer när fel typ av bias kommer in i dessa algoritmer? Hur kan det påverka vissa resultat?

Vad händer när partiska algoritmer infiltrerar AI-system?

För att erbjuda ett annat exempel, på YouTube, rekommenderar en AI-algoritm nästan 70% av alla videor, och på sociala medieplattformar som Instagram och TikTok är procenttalet ännu högre. Även om dessa AI-algoritmer kan hjälpa användare att hitta innehåll som de är intresserade av, väcker de allvarliga frågor om integritet, och det finns ökande bevis för att en del av det rekommenderade innehållet som människor konsumerar online är farligt på grund av desinformation eller kanske innehåller en viss synvinkel som är utformad för att sublimt påverka en persons politiska tänkande eller övertygelse.

Skapandet av en välbeforskad, anpassningsbar AI är en utmanande teknisk och social uppgift, men en av de viktigaste.

Det är förståeligt hur AI kan ha en negativ inverkan på samhällsnormer och online-användningsmönster samtidigt som man fokuserar på teknologins positiva effekter. Onlinekällor har en betydande inverkan på vårt samhälle, och partiskhet i onlinealgoritmer kommer ofrivilligt att främja orättvisa, forma människors övertygelser, sprida falsk information och främja konflikter mellan olika grupper.

Här kan “dålig AI” ha verkligt betydande konsekvenser när det gäller oönskade och/eller orättvisa bias.

Hur partisk AI kan påverka trafikledningar negativt

Ta trafikledningar, som ett mer verkligt exempel. Långa väntetider vid trafikljus blir en sak av det förflutna tack vare nya AI-teknologier som distribueras på marknader runt om i landet. Dessa Transit Priority-lösningar utnyttjar realtidsdata om trafik och anpassar sig till förändrade trafikmönster, håller trafiken i rörelse och minskar trängseln.

Systemen använder deep learning, där ett program förstår när det inte fungerar bra och försöker en annan kurs – eller fortsätter att förbättra sig när det gör framsteg.

Låter som en bra idé, eller hur? Vad händer om, över tid, de AI-algoritmer som är inbäddade i trafiksensorsteknologin börjar att prioritera mer dyra fordon över andra, baserat på partiska algoritmer som är utformade för att känna igen att människor som kör en viss typ av fordon förtjänar prioritet över andra?

Här kan “dålig AI” påverka en mycket viktig del av våra liv.

Låt oss ta till exempel att dessa AI-styrda transitprioritetsystem är en del av ett större Intelligent Transport System (ITS) som utnyttjar kraften från anslutna fordons-teknologier. ITS-system är bara så bra som de agnostiska molnbaserade data-delningplattformarna de opererar på, och inte alla är skapade lika.

Att eliminera partiskhet i AI-algoritmer

Dessa data-delningplattformar har visat sig vara mycket effektiva, men bara när städer och kommuner som övervakar transportsystem gör dem öppna för ordentlig data-delning där partiska algoritmer inte tillåts delta. Tyvärr förblir många kommuner låsta i kontrakt med hårdvaru- och enhetsleverantörer som påstår sig operera under “öppen arkitektur” men som inte är villiga att arbeta under en öppen data-plattform, och dessa städer begränsar sig allvarligt från de verkliga möjligheterna som en molnbaserad plattform kan erbjuda.

Molnbaserade transitprioritets-system tar det globala perspektivet av ett system i beaktande och använder obefläckad data-centrerad maskinlärning för att förutsäga den optimala tiden att ge grönt ljus till transitfordon vid rätt tidpunkt. Det minimerar störningar med korsande rutter och samtidigt maximerar sannolikheten för en kontinuerlig körning. Mer viktigt, den agnostiska molnbaserade plattformen säkerställer att städer utnyttjar ett kontinuerligt uppdaterat system för maximalt transitpotential, utan bias från oönskade källor.

Med denna teknik nu redo att användas, har städer, utvecklare och kommuner den teknik de behöver för att ordentligt accelerera byggnationen av intelligenta transportnätverk för att gynna alla i regionen, rättvist och jämlikt.

Regioner som staden San José utnyttjar nu fördelarna med AI för att förbättra leveransen av tjänster till dess invånare. När staden alltmer använder AI-verktyg, är det viktigare än någonsin att säkerställa att dessa AI-system är effektiva och pålitliga. Genom att granska algoritmerna som används i verktygen, säkerställer Digital Privacy Office (DPO) att stadens AI-styrda teknikutveckling fungerar korrekt, minimerar partiskhet och är tillförlitlig. När en stadskommun vill förvärva ett AI-verktyg, följer DPO specifika granskningsprocesser för att bedöma fördelarna och riskerna med varje AI-system.

För denna specifika region, är vi stolta över att ansluta till företag som Google som en av de få godkända AI-leverantörerna att delta i stadsvitt teknikutveckling på grund av obefläckade algoritmer. När alltmer AI-teknologier fortsätter att utvecklas, kommer det att vara särskilt viktigt att säkerställa att de byggs utan några obefläckade algoritmer för en verkligt rättvis och jämlik användning av lokala kommunala tjänster.