Jak miasta wdrażają najnowsze technologie wykorzystując bezstronne algorytmy sztucznej inteligencji

Dziś niemal każdy aspekt naszego życia ma wpływ na sieć online. Chociaż poprawiło to wiele obszarów życia, takich jak to, że chodzimy z urządzeniami, które mogą dostarczyć nam informacje w każdej chwili, niesie to również pewne ryzyka.

Te ryzyka wykraczają poza tradycyjne hakowanie i naruszenia danych w naszych kontach bankowych, na przykład. Bardziej odnoszę się tu do tego, że wiele części naszego życia jest wpływanych przez algorytmy stosowane przez sztuczną inteligencję (AI). Zakładamy, że ta sztuczna inteligencja wykorzystuje algorytmy, które są w naszym najlepszym interesie. Jednak co się dzieje, gdy niewłaściwy rodzaj uprzedzenia wprowadza się do tych algorytmów? Jak to może wpłynąć na pewne wyniki?

Co się dzieje, gdy uprzedzone algorytmy infiltrowane są do systemów AI?

Aby podać inny przykład, na YouTube, algorytm AI zaleca prawie 70% wszystkich filmów, a na platformach społecznościowych, takich jak Instagram i TikTok, odsetek jest jeszcze wyższy. Chociaż te algorytmy AI mogą pomóc użytkownikom w znalezieniu treści, które ich interesują, podnoszą one poważne kwestie dotyczące prywatności, a istnieje coraz więcej dowodów, że część zalecanych treści, które ludzie konsumują w sieci, jest nawet niebezpieczna ze względu na dezinformację lub zawiera pewne spojrzenie, które ma podświadomie wpłynąć na myślenie polityczne lub przekonania.

Stworzenie dobrze zaokrąglonej, adaptacyjnej sztucznej inteligencji jest wyzwaniem technicznym i społecznym, ale jednym z największych znaczeń.

Można zrozumieć, jak sztuczna inteligencja może mieć negatywny wpływ na normy społeczne i wzorce użytkowania sieci, jednocześnie koncentrując się na pozytywnych skutkach technologii. Źródła online mają znaczący wpływ na nasze społeczeństwo, a uprzedzenia w algorytmach online będą nieświadomie sprzyjać niesprawiedliwości, kształtować przekonania ludzi, rozpowszechniać fałszywe informacje i wywoływać konflikty między różnymi grupami.

To jest miejsce, w którym „zła sztuczna inteligencja” może mieć naprawdę znaczące konsekwencje, jeśli chodzi o niepożądane i/lub niesprawiedliwe uprzedzenia.

Jak uprzedzona sztuczna inteligencja może niekorzystnie wpłynąć na skrzyżowania drogowe

Weźmy skrzyżowania drogowe, jako bardziej przykładowy przykład. Długie czasy oczekiwania na sygnalizację świetlną stają się rzadkością dzięki nowym technologiom sztucznej inteligencji wdrażanym na rynkach na całym świecie. Te rozwiązania priorytetu transportu publicznego wykorzystują dane o ruchu drogowym w czasie rzeczywistym i dostosowują sygnalizację do zmieniających się wzorców ruchu, utrzymując płynność ruchu i redukując zatłoczenia.

Systemy te wykorzystują głębokie uczenie, gdzie program rozumie, kiedy nie radzi sobie dobrze i próbuje innego kursu działania – lub kontynuuje poprawę, gdy robi postępy.

Brzmi to jak świetny pomysł, prawda? Co się dzieje, jeśli z czasem algorytmy AI wbudowane w technologie czujników ruchu zaczną faworyzować droższe pojazdy nad innymi, opierając się na uprzedzonych algorytmach, które są zaprojektowane tak, aby rozpoznać, że ludzie, którzy jeżdżą określonym typem pojazdu, zasługują na pierwszeństwo przed innymi?

To jest miejsce, w którym „zła sztuczna inteligencja” mogłaby niekorzystnie wpłynąć na bardzo ważną część naszego życia.

Weźmy na przykład te systemy priorytetu transportu publicznego, które są częścią większego Inteligentnego Systemu Transportu (ITS), który wykorzystuje moc połączonych technologii pojazdów. Systemy ITS są tak dobre, jak agnostyczne platformy udostępniania danych oparte na chmurze, na których działają, i nie wszystkie są równie dobre.

Usuwanie uprzedzeń w algorytmach sztucznej inteligencji

Te platformy udostępniania danych okazały się bardzo skuteczne, ale tylko wtedy, gdy miasta i gminy nadzorujące systemy transportu otwierają je dla właściwego udostępniania danych, gdzie uprzedzone algorytmy nie są dopuszczone do udziału. Niestety, wiele gmin pozostaje związanych umowami z dostawcami sprzętu i urządzeń, którzy twierdzą, że działają w ramach „otwartej architektury”, ale nie chcą pracować na otwartej platformie danych, a te miasta poważnie ograniczają się od prawdziwych możliwości, które może zapewnić platforma oparta na chmurze.

Chmura systemów priorytetu transportu publicznego bierze pod uwagę globalny obraz systemu i wykorzystuje bezstronne, oparte na danych uczenie maszynowe, aby przewidzieć optymalny moment nadania zielonego światła pojazdom transportu publicznego w odpowiednim momencie. Minimalizuje to interferencję z przecinającymi się trasami i jednocześnie maksymalizuje prawdopodobieństwo nieprzerwanego przejazdu. Co więcej, agnostyczna platforma oparta na chmurze zapewnia, że miasta wykorzystują stale aktualizowany system do maksymalizacji potencjału transportu, bez uprzedzeń z niepożądanych źródeł.

Ze względu na dostępność tej technologii miasta, deweloperzy i gminy mają teraz technologię, której potrzebują, aby właściwie przyspieszyć rozbudowę inteligentnych sieci transportowych, aby korzystały na tym wszystkie osoby w regionie, w sposób sprawiedliwy i równy.

Regiony takie jak miasto San José wykorzystują teraz korzyści sztucznej inteligencji, aby poprawić dostarczanie usług swoim mieszkańcom. Im więcej miasto korzysta z narzędzi sztucznej inteligencji, tym bardziej istotne jest zapewnienie, że te systemy sztucznej inteligencji są skuteczne i godne zaufania. Przez przegląd algorytmów stosowanych w swoich narzędziach, Biuro Ochrony Prywatności (DPO) zapewnia, że zakupy technologiczne miasta oparte na sztucznej inteligencji działają dokładnie, minimalizują uprzedzenia i są niezawodne. Gdy departament miasta chce nabyć narzędzie sztucznej inteligencji, DPO stosuje określone procesy przeglądowe, aby ocenić korzyści i ryzyka każdego systemu sztucznej inteligencji.

Dla tego regionu jesteśmy dumni, że dołączymy do firm takich jak Google jako jeden z nielicznych zatwierdzonych dostawców sztucznej inteligencji, którzy uczestniczą w wdrożeniach technologii na poziomie miasta ze względu na bezstronne algorytmy. Im więcej technologii sztucznej inteligencji jest rozwijanych, tym bardziej istotne będzie zapewnienie, że są one budowane bez uprzedzeń, dla korzyści z verdadecznie sprawiedliwego i równego wykorzystania usług komunalnych.