Cum orașele implementează tehnologii de ultimă generație prin algoritmi AI imparțiali

Astăzi, practic fiecare aspect al vieții noastre atinge o parte a unei rețele online. În timp ce acest lucru a îmbunătățit cu siguranță multe domenii ale vieții în sine, cum ar fi modul în care ne plimbăm cu dispozitive portabile care ne pot furniza informații în orice moment, acesta ridică și anumite riscuri.

Aceste riscuri merg dincolo de hacking-ul tradițional și încălcarea datelor din conturile noastre bancare, de exemplu. Mai mult decât atât, ceea ce îmi propun să subliniez aici este că există multe părți ale vieții noastre astăzi care sunt afectate de algoritmii utilizați de inteligența artificială (AI). Presupunem că acest AI utilizează în mod inerent algoritmi care sunt în interesul nostru. Cu toate acestea, ce se întâmplă atunci când intră în acești algoritmi un tip greșit de bias? Cum ar putea afecta anumite rezultate?

Ce se întâmplă atunci când algoritmii biasați infiltrează sistemele AI?

Pentru a oferi un alt exemplu, pe YouTube, un algoritm AI recomandă aproape 70% din toate videoclipurile, și pe platformele de social media precum Instagram și TikTok, procentul este și mai mare. Deși acești algoritmi AI pot ajuta utilizatorii să găsească conținut care îi interesează, ridică probleme grave de confidențialitate, iar există dovezi tot mai multe că unele dintre conținuturile recomandate pe care oamenii le consumă online sunt chiar periculoase din cauza dezinformării sau poate conțin o anumită perspectivă care este proiectată pentru a influența subliminal gândirea politică sau convingerile unei persoane.

Crearea unui AI bine rotunjit și adaptabil este o întreprindere tehnică și socială dificilă, dar de o importanță deosebită.

Este înțelept cum AI ar putea avea un impact negativ asupra normelor sociale și modelelor de utilizare online, în timp ce se axează și pe efectele pozitive ale tehnologiei. Sursele online au o influență semnificativă asupra societății noastre, iar bias-ul din algoritmii online va favoriza în mod neintenționat injustiția, va modela convingerile oamenilor, va răspândi informații false și va favoriza conflictul între diverse grupuri.

Acesta este locul în care “AI-ul rău” poate avea consecințe cu adevărat semnificative, în ceea ce privește bias-urile nedorite și/sau injuste.

Cum poate AI-ul biasat să afecteze negativ intersecțiile de trafic

Luați, de exemplu, intersecțiile de trafic. Timpurile lungi de așteptare la semafoare devin o chestiune a trecutului, mulțumită noilor tehnologii AI care sunt implementate pe piață în jurul țării. Aceste soluții de prioritate a transportului public utilizează date de trafic în timp real și se adaptează la schimbările în modelele de trafic, menținând traficul în mișcare și reducând congestia.

Sistemele utilizează deep learning, unde un program înțelege când nu funcționează bine și încearcă o altă cale de acțiune – sau continuă să se îmbunătățească atunci când face progrese.

Sună ca o idee grozavă, nu? Ce se întâmplă dacă, în timp, algoritmii AI încorporați în tehnologia senzorilor de trafic încep să prioritizeze vehiculele mai scumpe decât altele, pe baza unor algoritmi biasați care sunt proiectați pentru a recunoaște că oamenii care conduc un anumit tip de vehicul merită priorități față de alții?

Acesta este locul în care “AI-ul rău” ar putea afecta negativ o parte foarte importantă a vieții noastre.

Să luăm, de exemplu, aceste sisteme de prioritate a transportului public bazate pe AI, care fac parte dintr-un sistem de transport inteligent (ITS) mai larg, care utilizează puterea tehnologiilor de vehicule conectate. Sistemele ITS sunt la fel de bune ca și platformele de partajare a datelor bazate pe cloud pe care funcționează, și nu toate sunt create în mod egal.

Eliminarea bias-ului în algoritmii AI

Aceste platforme de partajare a datelor s-au dovedit a fi foarte eficiente, dar numai atunci când orașele și municipalitățile care supraveghează sistemele de transport le fac deschise pentru un partajare adecvată a datelor, unde algoritmii biasați nu sunt permise să participe. Din nefericire, multe municipalități rămân blocate în contracte cu furnizori de hardware și dispozitive care pretind că funcționează sub “arhitectură deschisă”, dar nu sunt dispuși să lucreze pe o platformă de date deschisă, și aceste orașe se restricționează grav de la posibilitățile reale pe care le poate oferi o platformă bazată pe cloud.

Sistemele de prioritizare a transportului public bazate pe cloud iau în considerare imaginea de ansamblu a unui sistem și utilizează învățarea automată centrată pe date imparțiale pentru a prevedea momentul optim pentru a acorda semnalul verde vehiculelor de transport public la momentul potrivit. Minimizează interferența cu rutele care se intersectează și maximizează, în același timp, probabilitatea unei călătorii continue. Mai important, platforma bazată pe cloud asigură că orașele utilizează un sistem continuu actualizat pentru potențialul de transport maximizat, fără bias din surse nedorite.

Cu această tehnologie disponibilă acum, orașele, dezvoltatorii și municipalitățile au tehnologia de care au nevoie pentru a accelera în mod corespunzător construirea de rețele de transport inteligente, care să beneficieze pe toată lumea din regiune, în mod corect și echitabil.

Regiuni precum orașul San José utilizează acum beneficiile AI pentru a îmbunătăți livrarea de servicii către rezidenți. Pe măsură ce orașul utilizează tot mai mult instrumente AI, este și mai important să se asigure că aceste sisteme AI sunt eficiente și de încredere. Prin examinarea algoritmilor utilizați în instrumentele sale, Biroul de confidențialitate digitală (DPO) asigură că achizițiile de tehnologie AI ale orașului funcționează cu acuratețe, minimizează bias-ul și sunt de încredere. Atunci când un departament al orașului dorește să achiziționeze un instrument AI, DPO urmează procese de examinare specifice pentru a evalua beneficiile și riscurile oricărui sistem AI.

Pentru această regiune, suntem mândri să ne alăturăm companiilor precum Google, una dintre puținele furnizori de AI aprobate să participe la implementări tehnologice la nivel de oraș, datorită algoritmilor imparțiali. Pe măsură ce se dezvoltă tot mai multe tehnologii AI, va fi și mai important să se asigure că acestea sunt construite fără algoritmi imparțiali, pentru a beneficia de o utilizare cu adevărat corectă și echitabilă a serviciilor municipale locale.