Jak města nasazují přední technologie využívající nevyvážené algoritmy AI

Dneska téměř každý aspekt našeho života se nějak dotýká online sítě. Zatímco to určitě zlepšilo mnoho oblastí života, jako je to, jak chodíme s ručními zařízeními, která mohou dodávat nám informace kdykoli, také to představuje určitá rizika.

Tato rizika přesahují tradiční hackování a porušování dat v našich bankovních účtech, například. Mnohem více se zde týkám toho, že existuje tolik částí našeho života dnes, které jsou ovlivněny algoritmy používanými umělou inteligencí (AI). Předpokládáme, že tato AI vnitřně využívá algoritmy, které jsou v našem nejlepším zájmu. Ale co se stane, když se do těchto algoritmů dostane špatný typ zkreslení? Jak by to mohlo ovlivnit určitá výsledná rozhodnutí?

Co se stane, když do systémů AI pronikají zkreslené algoritmy?

Abychom nabídli další příklad, na YouTube, algoritmus AI doporučuje téměř 70% všech videí, a na sociálních médiích, jako je Instagram a TikTok, je procento ještě vyšší. Ačkoli tyto algoritmy AI mohou pomoci uživatelům najít obsah, který je zajímá, vyvolávají vážné problémy s ochranou soukromí, a existuje rostoucí důkaz, že některé z doporučeného obsahu, který lidé konzumují online, jsou dokonce nebezpečné kvůli dezinformacím nebo perhaps obsahují určitý úhel pohledu, který je navržen tak, aby subliminálně ovlivňoval politické myšlení nebo přesvědčení člověka.

Vytvoření vyvážené, přizpůsobivé AI je složitým technickým a sociálním úsilím, ale jedním z nejvýznamnějších.

Je pochopitelné, jak AI může mít negativní dopad na sociální normy a vzorce online použití, zatímco se soustředí na pozitivní účinky technologie. Online zdroje mají významný vliv na naši společnost, a zkreslení v online algoritmech budou neúmyslně podporovat nespravedlnost, tvarovat lidi, šířit falešné informace a podporovat konflikty mezi různými skupinami.

To je místo, kde “špatná AI” může mít skutečně významné důsledky, pokud jde o nežádoucí a / nebo nespravedlivé zkreslení.

Jak zkreslená AI může nepříznivě ovlivnit dopravní křižovatky

Vezměme si dopravní křižovatky jako reálný příklad. Dlouhé čekací doby na semaforech se stávají věcí minulosti díky novým technologiím AI, které jsou nasazovány na trzích po celé zemi. Tyto řešení Transit Priority využívají data o provozu v reálném čase a přizpůsobují semafory měnícím se vzorcům dopravy, udržují tok dopravy a snižují kongesci.

Systémy využívají deep learning, kde program chápe, kdy nefunguje dobře, a snaží se jiný postup – nebo pokračuje ve zlepšování, když dosahuje pokroku.

Znít to jako skvělý nápad, že? Co se stane, když se v průběhu času algoritmy AI zabudované do technologie senzorů dopravy začnou upřednostňovat dražší vozidla před ostatními, na základě zkreslených algoritmů, které jsou navrženy tak, aby rozpoznaly, že lidé, kteří řídí určitý typ vozidla, si zaslouží přednost před ostatními?

To je místo, kde “špatná AI” může nepříznivě ovlivnit velmi důležitou část našeho života.

Vezměme si například tyto systémy AI s prioritou dopravy, které jsou součástí většího Inteligentního dopravního systému (ITS), který využívá sílu propojených vozidel. Systémy ITS jsou tak dobré, jako jsou agnostické cloudové platformy pro sdílení dat, na kterých fungují, a ne všechny jsou vytvořeny stejně.

Vyřazení zkreslení v algoritmech AI

Tyto platformy pro sdílení dat se ukázaly jako vysoce efektivní, ale pouze když města a obce, které dohlížejí na dopravní systémy, je otevřou pro řádné sdílení dat, kde zkreslené algoritmy nejsou povoleny. Bohužel, mnoho obcí zůstává uzavřeno ve smlouvách s poskytovateli hardwaru a zařízení, kteří tvrdí, že fungují pod “otevřenou architekturou”, ale nejsou ochotni pracovat na otevřené platformě pro sdílení dat, a tyto obce si vážně omezují skutečné možnosti, které může cloudová platforma poskytnout.

Cloudové systémy pro prioritu dopravy berou v úvahu globální obraz systému a využívají nevyvážené datové strojové učení, aby předpověděly optimální čas pro udělení zeleného světla vozidlům s prioritou právě ve správný čas. Minimalizují interference s křížícími se trasami a současně maximalizují pravděpodobnost nepřetržité jízdy. Co je ještě důležitější, agnostická cloudová platforma zajišťuje, aby města využívala neustále aktualizovaný systém pro maximalizaci potenciálu dopravy, bez zkreslení z nežádoucích zdrojů.

S touto technologií, která je nyní snadno dostupná, města, vývojáři a obce mají technologie, které potřebují k řádnému urychlení budování inteligentních dopravních sítí, aby prospěly všem v regionu, spravedlivě a rovně.

Regiony, jako je město San José, nyní využívají výhody AI ke zlepšení poskytování služeb svým obyvatelům. Jak město stále více využívá nástroje AI, je ještě důležitější zajistit, aby tyto systémy AI byly efektivní a důvěryhodné. Prohlížením algoritmů používaných v nástrojích zajišťuje Digitální úřad pro ochranu soukromí (DPO), že akvizice technologií AI města fungují přesně, minimalizují zkreslení a jsou spolehlivé. Když oddělení města chce pořídit nástroj AI, DPO postupuje podle specifických procesů pro hodnocení výhod a rizik jakéhokoli systému AI.

Pro tento konkrétní region jsme hrdí, že se připojujeme ke společnostem, jako je Google, jako jeden z mála schválených dodavatelů AI, kteří se účastní městských technologických nasazení, kvůli nevyváženým algoritmům. Jak se vyvíjí stále více technologií AI, bude ještě důležitější zajistit, aby byly postaveny bez zkreslených algoritmů pro skutečně spravedlivé a rovné využití místních komunálních služeb.