Hur städer distribuerar ledande teknologier med hjälp av opartiska AI-algoritmer

Idag berör nästan alla aspekter av våra liv någon del av ett online-nätverk. Medan detta utan tvekan har förbättrat många områden i livet, som hur vi går runt med handhållna enheter som kan leverera information till oss när som helst, innebär det också vissa risker.

Dessa risker går utöver traditionellt hackning och dataintrång i våra bankkonton, till exempel. Mer specifikt syftar jag på att det finns så många delar av våra liv idag som påverkas av algoritmer som används av artificiell intelligens (AI). Vi antar att denna AI i grunden utnyttjar algoritmer som ligger i våra bästa intressen. Men vad händer när fel sorts bias kommer in i dessa algoritmer? Hur kan det påverka vissa resultat?

Vad händer när biased algoritmer infiltrerar AI-system?

För att ge ett annat exempel, på YouTube, rekommenderar en AI-algoritm nästan 70% av alla videor, och på sociala medieplattformar som Instagram och TikTok är procenten ännu högre. Även om dessa AI-algoritmer kan hjälpa användare att hitta innehåll som de är intresserade av, väcker de allvarliga integritetsproblem, och det finns ökande bevis för att en del av det rekommenderade innehållet som människor konsumerar online är farligt på grund av desinformation eller kanske innehåller en viss synvinkel som är utformad för att sublimt påverka en persons politiska tankar eller övertygelser.

Skapandet av en välbefinnande, anpassningsbar AI är ett utmanande tekniskt och socialt företag, men ett av de viktigaste.

Det är förståeligt hur AI kan ha en negativ inverkan på sociala normer och online-användningsmönster samtidigt som man fokuserar på teknikens positiva effekter. Onlinekällor har en betydande inverkan på vårt samhälle, och bias i online-algoritmer kommer ofrivilligt att främja orättvisa, forma människors övertygelser, sprida falsk information och främja konflikter mellan olika grupper.

Detta är där “dålig AI” kan ha verkligt betydande konsekvenser i förhållande till oönskade och/eller orättvisa bias.

Hur biased AI kan påverka trafikledningar negativt

Ta trafikledningar, som ett mer verkligt exempel. Långa väntetider vid trafikljus blir en sak av det förflutna tack vare nya AI-teknologier som distribueras på marknader runt om i landet. Dessa Transit Priority-lösningar utnyttjar realtids-trafikdata och anpassar ljusen för att kompensera för förändrade trafikmönster, håller trafiken flytande och minskar trängsel.

Systemen använder deep learning, där ett program förstår när det inte fungerar bra och försöker en annan kurs – eller fortsätter att förbättras när det gör framsteg.

Låter som en bra idé, eller hur? Vad händer om, över tid, AI-algoritmerna inbäddade i trafiksensorsteknologin börjar att prioritera mer dyra fordon över andra, baserat på biased algoritmer som är utformade för att känna igen att människor som kör en viss typ av fordon förtjänar prioritet över andra?

Detta är där “dålig AI” kan påverka en mycket viktig del av våra liv.

Låt oss ta till exempel dessa AI-styrda transitprioritetsystem som är en del av ett större Intelligent Transport System (ITS) som utnyttjar kraften i anslutna fordons-teknologier. ITS-system är bara så bra som de agnostiska molnbaserade data-delning-plattformarna de opererar på, och inte alla är skapade lika.

Att eliminera bias i AI-algoritmer

Dessa data-delning-plattformar har visat sig vara mycket effektiva, men bara när städer och kommuner som övervakar transport-system gör dem öppna för ordentlig data-delning där biased algoritmer inte tillåts delta. Tyvärr förblir många kommuner låsta i kontrakt med hårdvaru- och enhetsleverantörer som hävdar att de opererar under “öppen arkitektur” men är ovilliga att arbeta under en öppen data-plattform, och dessa städer begränsar allvarligt sig själva från de verkliga möjligheterna som en molnbaserad plattform kan erbjuda.

Molnbaserade transitprioritets-system tar den globala bilden av ett system i beaktande och använder opartisk data-centrerad maskinlärande för att förutsäga den optimala tiden att ge grönt ljus till transitfordon vid rätt tid. Det minimerar störningar med korsande rutter och samtidigt maximerar sannolikheten för en kontinuerlig körning. Mer viktigt, den agnostiska molnbaserade plattformen säkerställer att städer utnyttjar ett kontinuerligt uppdaterat system för maximalt transittillfälle, utan bias från oönskade källor.

Med denna teknik nu lätt tillgänglig, har städer, utvecklare och kommuner den teknik de behöver för att ordentligt accelerera byggandet av intelligenta transportnät för att gynna alla i regionen, rättvist och jämlikt.

Regioner som staden San José utnyttjar nu fördelarna med AI för att förbättra leveransen av tjänster till dess invånare. När staden alltmer använder AI-verktyg, är det viktigare än någonsin att säkerställa att dessa AI-system är effektiva och pålitliga. Genom att granska algoritmerna som används i dess verktyg, säkerställer Digital Privacy Office (DPO) att stadens AI-styrda teknikutveckling fungerar korrekt, minimerar bias och är tillförlitlig. När en stadskommun vill förvärva ett AI-verktyg, följer DPO specifika granskningsprocesser för att bedöma fördelarna och riskerna med varje AI-system.

För denna specifika region, är vi stolta över att ansluta oss till företag som Google som en av de få godkända AI-leverantörerna att delta i stadsvitt teknikutveckling på grund av opartiska algoritmer. När allt fler AI-teknologier utvecklas, kommer det att vara särskilt viktigt att säkerställa att de byggs utan några opartiska algoritmer för att gynna ett verkligt rättvist och jämlikt utnyttjande av lokala kommunala tjänster.