Cum implementează orașele tehnologii de vârf prin algoritmi AI neîmpărtășiți

Astăzi, practic fiecare aspect al vieții noastre atinge o parte a unei rețele online. În timp ce acest lucru a îmbunătățit cu siguranță multe domenii ale vieții, cum ar fi modul în care ne plimbăm cu dispozitive portabile care ne pot furniza informații la orice oră, acesta ridică și anumite riscuri.

Aceste riscuri merg dincolo de hackingul tradițional și de încălcarea datelor din conturile noastre bancare, de exemplu. Mai mult, ceea ce îmi propun să subliniez aici este că există multe părți ale vieții noastre care sunt afectate de algoritmii utilizați de inteligența artificială (AI). Presupunem că acest AI utilizează în mod implicit algoritmi care sunt în interesul nostru. Cu toate acestea, ce se întâmplă atunci când intră în acești algoritmi un tip de bias greșit? Cum ar putea afecta acest lucru anumite rezultate?

Ce se întâmplă atunci când algoritmii împărtășiți pătrund în sistemele AI?

Pentru a oferi un alt exemplu, pe YouTube, un algoritm AI recomandă aproape 70% din toate videourile, și pe platformele de socializare precum Instagram și TikTok, procentul este și mai mare. Deși acești algoritmi AI pot ajuta utilizatorii să găsească conținut care îi interesează, ei ridică probleme grave de confidențialitate, și există dovezi tot mai multe că unele dintre conținuturile recomandate pe care oamenii le consumă online sunt periculoase din cauza dezinformării sau conțin perhaps o anumită perspectivă care este proiectată pentru a influența subliminal gândirea politică sau credințele unei persoane.

Crearea unui AI bine rotunjit, adaptabil, este o întreprindere tehnică și socială dificilă, dar de o importanță deosebită.

Este înțelept cum AI ar putea avea un impact negativ asupra normelor sociale și modelelor de utilizare online, în timp ce se concentrează și asupra efectelor pozitive ale tehnologiei. Sursele online au o influență semnificativă asupra societății noastre, și bias-urile din algoritmii online vor favoriza în mod neintenționat injustiția, vor modela credințele oamenilor, vor răspândi informații false și vor favoriza conflictul între diverse grupuri.

Acesta este locul în care “AI-ul rău” poate avea consecințe cu adevărat semnificative, în ceea ce privește bias-urile nedorite și/sau injuste.

Cum poate afecta AI-ul împărtășit intersecțiile de trafic în mod negativ

Luați, de exemplu, intersecțiile de trafic, ca un exemplu mai realist. Timpurile de așteptare lungi la semafoare devin o amintire a trecutului, mulțumită noilor tehnologii AI care sunt implementate pe piață în jurul țării. Aceste soluții de Prioritate a Transportului utilizează date de trafic în timp real și adaptează semafoarele pentru a compensa schimbările în modelele de trafic, menținând traficul în mișcare și reducând congestia.

Sistemele utilizează învățarea profundă, unde un program înțelege atunci când nu funcționează bine și încearcă o altă acțiune – sau continuă să se îmbunătățească atunci când face progrese.

Sună ca o idee grozavă, nu? Ce se întâmplă dacă, în timp, algoritmii AI încorporați în tehnologia senzorilor de trafic încep să prioritizeze vehiculele mai scumpe decât altele, pe baza algoritmilor împărtășiți care sunt proiectați pentru a recunoaște că oamenii care conduc un anumit tip de vehicul merită priorități față de alții?

Acesta este locul în care “AI-ul rău” ar putea afecta negativ o parte foarte importantă a vieții noastre.

Să luăm, de exemplu, aceste sisteme de prioritate a transportului bazate pe AI, care fac parte dintr-un sistem de transport inteligent (ITS) mai larg, care utilizează puterea tehnologiilor de vehicule conectate. Sistemele ITS sunt la fel de bune pe cât sunt de bune platformele de partajare a datelor bazate pe cloud pe care funcționează, și nu toate sunt create în mod egal.

Eliminarea bias-ului din algoritmii AI

Aceste platforme de partajare a datelor s-au dovedit a fi extrem de eficiente, dar numai atunci când orașele și municipalitățile care supraveghează sistemele de transport le deschid pentru un partajare adecvată a datelor, unde algoritmii împărtășiți nu sunt permise să participe. Din nefericire, multe municipalități rămân blocate în contracte cu furnizori de hardware și dispozitive care pretind că funcționează sub “arhitectură deschisă”, dar refuză să lucreze pe o platformă de date deschisă, și aceste orașe se restricționează grav de la posibilitățile pe care le poate oferi o platformă bazată pe cloud.

Sistemele de prioritate a transportului bazate pe cloud iau în considerare imaginea de ansamblu a unui sistem și utilizează învățarea automată centrată pe date neîmpărtășite pentru a prevedea momentul optim pentru a acorda semnalul verde vehiculelor de transport la momentul potrivit. Acestea minimizează interferența cu rutele care se intersectează și maximizează în același timp probabilitatea unei călătorii continue. Mai important, platforma bazată pe cloud asigură că orașele utilizează un sistem actualizat în mod continuu pentru potențialul maxim de transport, fără bias din surse nedorite.

Cu această tehnologie acum disponibilă, orașele, dezvoltatorii și municipalitățile au tehnologia de care au nevoie pentru a accelera în mod corespunzător dezvoltarea rețelelor de transport inteligente, pentru a beneficia pe toată lumea din regiune, în mod corect și echitabil.

Regiuni precum orașul San José sunt acum utilizând beneficiile AI pentru a îmbunătăți livrarea de servicii către rezidenții săi. Pe măsură ce orașul utilizează în mod tot mai frecvent instrumente AI, este și mai important să se asigure că aceste sisteme AI sunt eficiente și de încredere. Prin examinarea algoritmilor utilizați în instrumentele sale, Biroul de Confidențialitate Digitală (DPO) asigură că achizițiile de tehnologie AI ale orașului funcționează cu acuratețe, minimizează bias-ul și sunt fiabile. Atunci când un departament al orașului dorește să achiziționeze un instrument AI, DPO urmează procese specifice de examinare pentru a evalua beneficiile și riscurile oricărui sistem AI.

Pentru această regiune, suntem mândri să ne alăturăm companiilor precum Google, una dintre puținele furnizori de tehnologie AI aprobate pentru a participa la implementările tehnologice la nivel de oraș, datorită algoritmilor neîmpărtășiți. Pe măsură ce se dezvoltă mai multe tehnologii AI, va fi și mai important să se asigure că acestea sunt construite fără algoritmi neîmpărtășiți, pentru a beneficia de o utilizare corectă și echitabilă a serviciilor municipale locale.