Jak města nasazují přední technologie s využitím nezávislých algoritmů AI

Dneska téměř každý aspekt našeho života se nějakým způsobem dotýká online sítě. Zatímco to určitě zlepšilo mnoho oblastí života, jako je například to, že chodíme s ručními zařízeními, která nám mohou poskytnout informace kdykoli, také to představuje určitá rizika.

Tyto rizika sahají za tradiční hacking a porušování dat v našich bankovních účtech, například. Myslím tím spíše to, že existuje tolik částí našeho života, které jsou ovlivněny algoritmy používanými umělou inteligencí (AI). Předpokládáme, že tato AI automaticky využívá algoritmy, které jsou v našem nejlepším zájmu. Ale co se stane, když se do těchto algoritmů dostanou špatné typy偏見? Jak by to mohlo ovlivnit určité výsledky?

Co se stane, když předpojaté algoritmy infiltrace do systémů AI?

Chcete-li mít další příklad, na YouTube, AI algoritmus doporučuje téměř 70 % všech videí, a na sociálních médiích, jako je Instagram a TikTok, je procento ještě vyšší. Ačkoli tyto AI algoritmy mohou pomoci uživatelům najít obsah, který je zajímá, také vyvolávají vážné problémy s ochranou soukromí, a existuje rostoucí důkaz, že některé z doporučeného obsahu, který lidé konzumují online, jsou dokonce nebezpečné kvůli dezinformacím nebo možná obsahují určitý úhel pohledu, který je navržen tak, aby subliminálně ovlivňoval politické myšlení nebo přesvědčení člověka.

Vytvoření vyvážené, přizpůsobivé AI je náročným technickým a sociálním úkolem, ale jedním z nejvýznamnějších.

Je pochopitelné, jak AI může mít negativní dopad na společenské normy a vzorce online použití, zatímco také se zaměřuje na pozitivní účinky technologie. Online zdroje mají významný vliv na naši společnost, a předpojatosti v online algoritmech budou neúmyslně podporovat nespravedlnost, formovat lidi, šířit falešné informace a podporovat konflikty mezi různými skupinami.

To je místo, kde „špatná AI“ může mít skutečně významné důsledky, pokud jde o nežádoucí a / nebo nespravedlivé předpojatosti.

Jak předpojatá AI může nepříznivě ovlivnit křižovatky

Vezměme si křižovatky, jako reálný příklad. Dlouhé čekací doby na semaforech se stávají věcí minulosti díky novým technologiím AI, které jsou nasazovány na trzích po celé zemi. Tyto systémy Transit Priority využívají data o provozu v reálném čase a přizpůsobují se měnícím se vzorcům provozu, udržují tok provozu a snižují kongesci.

Systémy využívají hluboké učení, kde program chápe, kdy nefunguje dobře, a snaží se o jiný postup – nebo pokračuje ve zlepšování, když dosahuje pokroku.

Znít to jako skvělý nápad, že? Co se stane, když se AI algoritmy zabudované do technologie senzorů provozu začnou upřednostňovat dražší vozidla před ostatními, na základě předpojatých algoritmů, které jsou navrženy tak, aby rozpoznaly, že lidé, kteří řídí určitý typ vozidla, si zaslouží přednost před ostatními?

To je místo, kde „špatná AI“ může nepříznivě ovlivnit velmi důležitou část našeho života.

Vezměme si například tyto AI-poháněné systémy Transit Priority, které jsou součástí většího Integrovaného dopravního systému (ITS), který využívá sílu propojených vozidel. Systémy ITS jsou pouze tak dobré, jako jsou agnostické cloudové platformy pro sdílení dat, na kterých fungují, a ne všechny jsou vytvořeny stejně.

Vynechání předpojatosti v algoritmech AI

Tyto platformy pro sdílení dat se ukázaly jako vysoce efektivní, ale pouze tehdy, když města a obce, které dohlížejí na dopravní systémy, je otevřou pro řádné sdílení dat, kde předpojaté algoritmy nejsou dovoleny. Bohužel, mnoho obcí zůstává uzavřeno ve smlouvách s poskytovateli hardwaru a zařízení, kteří tvrdí, že fungují pod „otevřenou architekturou“, ale nejsou ochotni pracovat na otevřené platformě pro sdílení dat, a tyto obce si tak výrazně omezují možnosti, které může cloudová platforma poskytnout.

Cloudové systémy pro priorizaci dopravy berou v úvahu globální obraz systému a využívají nezávislá datacentrická strojová učení k předpovědi optimálního času pro udělení zeleného světla vozidlům veřejné dopravy ve správný čas. Minimalizují interference s křížícími se cestami a současně maximalizují pravděpodobnost nepřetržité jízdy. Co je ještě důležitější, agnostická cloudová platforma zajišťuje, aby města využila neustále aktualizovaný systém pro maximalizaci potenciálu dopravy, bez předpojatosti z nežádoucích zdrojů.

S touto technologií, která je nyní snadno dostupná, města, vývojáři a obce mají technologie, které potřebují k urychlení budování inteligentních dopravních sítí pro výhodu všech v regionu, spravedlivě a rovně.

Oblasti, jako je město San José, nyní využívají výhody AI ke zlepšení poskytování služeb svým obyvatelům. Jak město stále více využívá nástroje AI, je ještě důležitější zajistit, aby tyto systémy AI byly efektivní a spolehlivé. Prostřednictvím přezkumu algoritmů používaných ve svých nástrojích zajišťuje Digitální úřad pro ochranu soukromí (DPO), že akvizice technologií AI města fungují přesně, minimalizují předpojatost a jsou spolehlivé. Když oddělení města chce pořídit nástroj AI, DPO následuje specifické procesy přezkumu, aby zhodnotilo výhody a rizika každého systému AI.

Pro tuto konkrétní oblast jsme hrdí, že se připojujeme ke společnostem, jako je Google, jako jeden z mála schválených dodavatelů AI, kteří se účastní nasazení technologií ve městě, a to díky nezávislým algoritmům. Jak se vyvíjí více technologií AI, bude ještě důležitější zajistit, aby byly postaveny bez předpojatých algoritmů pro výhodu skutečně spravedlivého a rovného využití místních komunálních služeb.