Hvordan byer udvikler førende teknologier med ubiasede AI-algoritmer

I dag berører næsten alle aspekter af vores liv en del af et online-netværk. Selvom dette bestemt har forbedret mange områder af livet selv, såsom hvordan vi går rundt med håndholdte enheder, der kan levere os information på ethvert tidspunkt, så stiller det også visse risici.

Disse risici går ud over traditionel hacking og dataudtræden i vores bankkonti, for eksempel. Mere præcist, hvad jeg henviser til her, er, at der er så mange dele af vores liv i dag, der påvirkes af algoritmer, der bruges af kunstig intelligens (AI). Vi antager, at denne AI inherent udnytter algoritmer, der er i vores bedste interesse. Men hvad sker der, når den forkerte type bias indtræffer i disse algoritmer? Hvordan kan det påvirke visse resultater?

Hvad sker der, når biasede algoritmer infiltrerer AI-systemer?

For at give et andet eksempel anbefaler en AI-algoritme næsten 70% af alle videoer på YouTube, og på sociale medie-platforme som Instagram og TikTok er procentdelen endnu højere. Selvom disse AI-algoritmer kan hjælpe brugere med at finde indhold, de er interesseret i, rejser de alvorlige privatlivsproblemer, og der er stigende beviser for, at nogen af de anbefalede indhold, folk forbruger online, er farlige på grund af misinformations- eller måske indeholder en bestemt perspektiv, der er designet til at underbevidst påvirke en persons politiske tanker eller overbevisninger.

Skabelsen af en velafbalanceret, tilpasningsdygtig AI er en udfordrende teknisk og social opgave, men en af de største betydninger.

Det er forståeligt, hvordan AI kan have en negativ indvirkning på sociale normer og online-brugsmønstre, samtidig med at man fokuserer på teknologiens positive effekter. Online-kilder har en betydelig indvirkning på vores samfund, og bias i online-algoritmer vil utilsigtet fremme uretfærdighed, forme folks overbevisninger, sprede falsk information og fremme konflikt mellem forskellige grupper.

Dette er, hvor “dårlig AI” kan have virkelig betydelige konsekvenser, når det kommer til uønskede og/eller uretfærdige bias.

Hvordan biasede AI kan påvirke trafikknudepunkter negativt

Tag trafikknudepunkter som et mere virkeligt eksempel. Lange ventetider ved trafiklys er blevet en sag fra fortiden takket være nye AI-teknologier, der er blevet udviklet på markedet rundt om i landet. Disse Transit Priority-løsninger udnytter realtids-trafikdata og tilpasser lysene til at kompensere for ændringer i trafikmønstre, så trafikken flyder og reducerer congestion.

Systemerne bruger deep learning, hvor et program forstår, når det ikke fungerer godt, og prøver en anden kurs – eller fortsætter med at forbedre sig, når det gør fremskridt.

Lyder som en god idé, ikke? Hvad sker der, hvis AI-algoritmerne, der er indbygget i trafiksensor-teknologien, over tid begynder at prioritere mere dyre køretøjer over andre, baseret på biasede algoritmer, der er designet til at genkende, at folk, der kører en bestemt type køretøj, fortjener prioritet over andre?

Dette er, hvor “dårlig AI” kan påvirke en meget vigtig del af vores liv.

Lad os tage et eksempel på, at disse AI-drevne transit-prioritets-systemer er en del af et større Intelligent Transport System (ITS), der udnytter kraften fra connected vehicle-teknologier. ITS-systemer er kun så gode som de agnostiske cloud-baserede data-delingsplatforme, de opererer på, og ikke alle er skabt lige.

Fjernelse af bias i AI-algoritmer

Disse data-delingsplatforme er blevet bevist højst effektive, men kun når byer og kommuner, der overvåger transportsystemer, åbner dem for ordentlig data-deling, hvor biasede algoritmer ikke er tilladt at deltage. Desværre forbliver mange kommuner låst i kontrakter med hardware- og enhedsleverandører, der påstår at operere under “åben arkitektur”, men er ikke villige til at arbejde under en åben data-platform, og disse byer begrænser alvorligt deres muligheder for, hvad en cloud-baseret platform kan tilbyde.

Cloud-baserede transit-prioritets-systemer tager det globale billede af et system i betragtning og bruger ubiasede data-centreret maskinlæring til at forudsige det optimale tidspunkt at give grønt lys til transit-køretøjer på det rette tidspunkt. Det minimiserer interference med krydsende ruter og samtidig maksimerer sandsynligheden for en kontinuerlig kørsel. Endnu vigtigere er, at den agnostiske cloud-baserede platform sikrer, at byer udnytter et kontinuerligt opdateret system for maksimeret transit-potentiale, uden bias fra uønskede kilder.

Med denne teknologi nu til rådighed har byer, udviklere og kommuner den teknologi, de behøver for at accelerere opbygningen af intelligente transit-netværk til gavn for alle i regionen, retfærdigt og ligelig.

Regioner som byen San José udnytter nu fordelene ved AI til at forbedre leveringen af services til dets indbyggere. Da byen i stigende grad bruger AI-værktøjer, er det mere vigtigt end nogensinde at sikre, at disse AI-systemer er effektive og pålidelige. Ved at gennemgå algoritmerne, der bruges i dens værktøjer, sikrer Digital Privacy Office (DPO), at byens AI-drevne teknologi-køb udføres nøjagtigt, minimiserer bias og er pålidelig. Når en byafdeling ønsker at købe et AI-værktøj, følger DPO bestemte gennemgangsprocesser for at vurdere fordelene og risikoen for ethvert AI-system.

For denne specifikke region er vi stolte af at slutte os til selskaber som Google som en af de få godkendte AI-leverandører til at deltage i by-omfattende teknologi-udviklinger på grund af ubiasede algoritmer. Da der udvikles mere AI-teknologi, vil det være særligt vigtigt at sikre, at de er bygget uden ubiasede algoritmer for at nyde en virkelig retfærdig og ligelig brug af lokale kommunale services.