Myslitelé
Jak města zavádějí pokročilé technologie využívající algoritmy AI bez předpojatosti

Klíčové bodyNestranné systémy řízení dopravy využívající AI pracují s cloudovými daty, aby…
Zobrazit více
- Nestranné systémy řízení dopravy využívající AI pracují s cloudovými daty, aby spravedlivě optimalizovaly signalizaci pro všechna vozidla.
- AI algoritmus YouTube doporučuje 70 % videí, což přináší vážná rizika ohledně soukromí a šíření dezinformací.
- San José provádí revizi AI algoritmů, aby minimalizovalo zkreslení při nasazování městských služeb.
Dneska téměř každý aspekt našeho života se nějakým způsobem dotýká online sítě. Zatímco to určitě zlepšilo mnoho oblastí života, jako je například to, že chodíme s ručními zařízeními, která nám mohou poskytnout informace kdykoli, také to představuje určitá rizika.
Tato rizika sahají za tradiční hacking a porušování dat v našich bankovních účtech, například. Myslím tím spíše to, že existuje tolik částí našeho života, které jsou ovlivněny algoritmy používanými umělou inteligencí (AI). Předpokládáme, že tato AI automaticky využívá algoritmy, které jsou v našem nejlepším zájmu. Ale co se stane, když se do těchto algoritmů dostanou špatné typy zkreslení? Jak by to mohlo ovlivnit určité výsledky?
Co se stane, když předpojaté algoritmy proniknou do systémů AI?
Chcete-li mít další příklad, na YouTube, AI algoritmus doporučuje téměř 70 % všech videí, a na sociálních médiích, jako je Instagram a TikTok, je procento ještě vyšší. Ačkoli tyto AI algoritmy mohou pomoci uživatelům najít obsah, který je zajímá, také vyvolávají vážné problémy s ochranou soukromí, a existuje rostoucí důkaz, že některé z doporučeného obsahu, který lidé konzumují online, jsou dokonce nebezpečné kvůli dezinformacím nebo možná obsahují určitý úhel pohledu, který je navržen tak, aby subliminálně ovlivňoval politické myšlení nebo přesvědčení člověka.
Vytvoření vyvážené, přizpůsobivé AI je náročným technickým a sociálním úkolem, ale jedním z nejvýznamnějších.
Je pochopitelné, jak AI může mít negativní dopad na společenské normy a vzorce online použití, zatímco také se zaměřuje na pozitivní účinky technologie. Online zdroje mají významný vliv na naši společnost, a předpojatosti v online algoritmech budou neúmyslně podporovat nespravedlnost, utvářet přesvědčení lidí, šířit falešné informace a podporovat konflikty mezi různými skupinami.
To je místo, kde „špatná AI“ může mít skutečně významné důsledky, pokud jde o nežádoucí a / nebo nespravedlivé předpojatosti.
Jak předpojatá AI může nepříznivě ovlivnit křižovatky
Vezměme si křižovatky, jako reálný příklad. Dlouhé čekací doby na semaforech se stávají věcí minulosti díky novým technologiím AI, které jsou nasazovány na trzích po celé zemi. Tyto systémy Transit Priority využívají data o provozu v reálném čase a přizpůsobují semafory měnícím se vzorcům provozu, udržují tok provozu a snižují kongesci.
Systémy využívají hluboké učení, kde program chápe, kdy nefunguje dobře, a snaží se o jiný postup – nebo pokračuje ve zlepšování, když dosahuje pokroku.
Zní to jako skvělý nápad, že? Co se stane, když se AI algoritmy zabudované do technologie senzorů provozu začnou upřednostňovat dražší vozidla před ostatními, na základě předpojatých algoritmů, které jsou navrženy tak, aby rozpoznaly, že lidé, kteří řídí určitý typ vozidla, si zaslouží přednost před ostatními?
To je místo, kde „špatná AI“ může nepříznivě ovlivnit velmi důležitou část našeho života.
Vezměme si například tyto AI-poháněné systémy Transit Priority, které jsou součástí většího Inteligentního dopravního systému (ITS), který využívá sílu propojených vozidel. Systémy ITS jsou pouze tak dobré, jako jsou cloudové platformy nezávislé na dodavateli pro sdílení dat, na kterých fungují, a ne všechny jsou vytvořeny stejně.
Odstraňování předpojatosti v algoritmech AI
Tyto platformy pro sdílení dat se ukázaly jako vysoce efektivní, ale pouze tehdy, když města a obce, které dohlížejí na dopravní systémy, je otevřou pro řádné sdílení dat, kde předpojaté algoritmy nejsou dovoleny. Bohužel, mnoho obcí zůstává uzavřeno ve smlouvách s poskytovateli hardwaru a zařízení, kteří tvrdí, že fungují pod „otevřenou architekturou“, ale nejsou ochotni pracovat na otevřené platformě pro sdílení dat, a tyto obce si tak výrazně omezují možnosti, které může cloudová platforma poskytnout.
Cloudové systémy pro priorizaci dopravy berou v úvahu celkový obraz systému a využívají datově orientované strojové učení bez předpojatosti k předpovědi optimálního času pro udělení zeleného světla vozidlům veřejné dopravy ve správný čas. Minimalizují interference s křížícími se cestami a současně maximalizují pravděpodobnost nepřetržité jízdy. Co je ještě důležitější, cloudová platforma nezávislá na dodavateli zajišťuje, aby města využila neustále aktualizovaný systém pro maximalizaci potenciálu dopravy, bez předpojatosti z nežádoucích zdrojů.
S touto technologií, která je nyní snadno dostupná, města, vývojáři a obce mají technologie, které potřebují k urychlení budování inteligentních dopravních sítí pro výhodu všech v regionu, spravedlivě a rovně.
Oblasti, jako je město San José, nyní využívají výhody AI ke zlepšení poskytování služeb svým obyvatelům. Jak město stále více využívá nástroje AI, je ještě důležitější zajistit, aby tyto systémy AI byly efektivní a spolehlivé. Prostřednictvím přezkumu algoritmů používaných ve svých nástrojích zajišťuje Digitální úřad pro ochranu soukromí (DPO), že akvizice technologií AI města fungují přesně, minimalizují předpojatost a jsou spolehlivé. Když oddělení města chce pořídit nástroj AI, DPO následuje specifické procesy přezkumu, aby zhodnotilo výhody a rizika každého systému AI.
Pro tuto konkrétní oblast jsme hrdí, že se připojujeme ke společnostem, jako je Google, jako jeden z mála schválených dodavatelů AI, kteří se účastní nasazení technologií ve městě, a to díky algoritmům bez předpojatosti. Jak se vyvíjí více technologií AI, bude ještě důležitější zajistit, aby byly postaveny bez předpojatých algoritmů pro výhodu skutečně spravedlivého a rovného využití místních komunálních služeb.












