Umělá inteligence
Předsudky AI a kulturní stereotypy: účinky, omezení a zmírnění
Umělá inteligence (AI), zejména Generative AI, stále překonává očekávání svou schopností pochopit a napodobit lidskou kognici a inteligenci. Nicméně, ve mnoha případech, výsledky nebo předpovědi AI systémů mohou odrážet různé typy předsudků AI, jako jsou kulturní a rasové.
Webová stránka Buzzfeed „Barbies of the World“ (která je nyní smazána) jasně manifestuje tyto kulturní předsudky a nesprávnosti. Tyto „barbie“ byly vytvořeny pomocí Midjourney – vedoucího AI generátoru obrázků, aby se zjistilo, jak by vypadaly barbie v každé části světa. O tom budeme hovořit později.
Ale toto není první případ, kdy AI byla „rasistická“ nebo produkovala nesprávné výsledky. Například v roce 2022, Apple byl žalován kvůli obviněním, že senzor kyslíku v krvi Apple Watchu byl předsudkový proti lidem barevné pleti. V jiném případě, uživatelé Twitteru zjistili, že automatický AI pro ořezávání obrázků na Twitteru upřednostňoval tváře bílých lidí před černými jednotlivci a ženy před muži. Tyto jsou kritické výzvy a jejich řešení je značně komplikované.
V tomto článku, budeme se zabývat tím, co je předsudek AI, jak ovlivňuje naši společnost a stručně diskutovat, jak praktici mohou zmírnit ho, aby řešili výzvy, jako jsou kulturní stereotypy.
Co je předsudek AI?
Předsudek AI nastává, když AI modely produkují diskriminační výsledky proti určitým demografickým skupinám. Existuje několik typů předsudků, které mohou vstoupit do AI systémů a produkovat nesprávné výsledky. Některé z těchto předsudků AI jsou:
- Stereotypní předsudek: Stereotypní předsudek se týká jevu, kdy výsledky AI modelu obsahují stereotypy nebo vnímané představy o určité demografické skupině.
- Rasový předsudek: Rasový předsudek v AI nastává, když výsledek AI modelu je diskriminační a nespravedlivý vůči jednotlivci nebo skupině na základě jejich etnické příslušnosti nebo rasy.
- Kulturní předsudek: Kulturní předsudek nastává, když výsledky AI modelu upřednostňují jednu kulturu před druhou.
Kromě předsudků, existují i další problémy, které mohou bránit výsledkům AI systému, jako jsou:
- Nesprávnosti: Nesprávnosti nastávají, když výsledky produkované AI modelem jsou nesprávné kvůli nekonzistentním trénovacím datům.
- Halucinace: Halucinace nastávají, když AI modely produkují fiktivní a nesprávné výsledky, které nejsou založeny na faktických datech.
Vliv předsudku AI na společnost
Vliv předsudku AI na společnost může být devastující. Předsudkové AI systémy mohou produkovat nesprávné výsledky, které zesilují předsudky, které již existují ve společnosti. Tyto výsledky mohou zvýšit diskriminaci a porušování práv, ovlivnit procesy najímání a snížit důvěru v AI technologii.
Kromě toho, předsudkové AI výsledky často vedou k nesprávným předpovědím, které mohou mít závažné důsledky pro nevinné jednotlivce. Například, v srpnu 2020, Robert McDaniel se stal terčem zločinu kvůli algoritmu předpovědi zločinu Chicagského policejního oddělení, který ho označil jako „osobu zájmu“.
Podobně, předsudkové AI systémy ve zdravotnictví mohou mít závažné důsledky pro pacienty. V roce 2019, Science objevil, že široce používaný zdravotnický algoritmus ve Spojených státech byl rasově předsudkový proti lidem barevné pleti, což vedlo k tomu, že černí pacienti dostávali méně péče o vysoké riziko.
Barbie ze světa
V červenci 2023, Buzzfeed publikoval článek, který obsahoval 194 AI vygenerovaných barbie z celého světa. Článek se stal virálním na Twitteru. Ačkoli Buzzfeed napsal prohlášení, že se jedná o experiment, nezabránilo to uživatelům internetu v tom, aby poukázali na rasové a kulturní nesprávnosti. Například, AI vygenerovaná obraz Barbie z Německa nosila uniformu SS nacistického generála.
Podobně, AI vygenerovaná obraz Barbie z Jižního Súdánu držela pistoli u své strany, odrážející hluboce zakořeněné předsudky v AI algoritmech.
Kromě toho, několik dalších obrázků ukázalo kulturní nesprávnosti, jako například Barbie z Kataru nosící Ghutru, tradiční pokrývku hlavy nosenou arabskými muži.
Tento článek dostal velkou kritiku za kulturní stereotypy a předsudky. Londýnská interdisciplinární škola (LIS) nazvala tento reprezentační újmu, která musí být kontrolována stanovením kvalitních standardů a zavedením AI dohlížecích orgánů.
Omezení AI modelů
AI má potenciál revolucionalizovat mnoho odvětví. Ale, pokud se scénáře, jako jsou ty výše uvedené, budou opakovat, může to vést ke snížení celkové adopce AI, což bude mít za následek zmeškané příležitosti. Tyto případy obvykle nastávají kvůli významným omezením AI systémů, jako jsou:
- Chybějící kreativita: Protože AI může pouze učinit rozhodnutí na základě daných trénovacích dat, chybí jí kreativita, aby myslela mimo rámec, což brání kreativnímu řešení problémů.
- Chybějící kontextuální pochopení: AI systémy mají potíže s pochopením kontextuálních nuancí nebo jazykových vyjádření regionu, což často vede k chybám ve výsledcích.
- Trénovací předsudek: AI závisí na historických datech, která mohou obsahovat všechny druhy diskriminačních vzorků. Během trénování, model může snadno naučit diskriminační vzory, aby produkoval nespravedlivé a předsudkové výsledky.
Jak snížit předsudek v AI modelech
Odborníci odhadují, že do roku 2026, 90 % online obsahu bude synteticky generováno. Proto je důležité rychle minimalizovat problémy přítomné v Generative AI technologiích.
Existuje několik klíčových strategií, které lze implementovat, aby se snížil předsudek v AI modelech. Některé z nich jsou:
- Zajistit kvalitu dat: Přijímání kompletních, přesných a čistých dat do AI modelu může pomoci snížit předsudek a produkovat přesnější výsledky.
- Různorodá data: Zavedení různorodých dat do AI systému může pomoci zmírnit předsudek, protože AI systém se stává více inkluzivním.
- Směs zpětné vazby: S konstantní směsí zpětné vazby a učení, AI modely mohou postupně zlepšovat své výsledky
- Zvýšená regulace: Globální AI regulace jsou nezbytné pro udržení kvality AI systémů přes hranice. Proto musí mezinárodní organizace spolupracovat, aby zajistily standardizaci AI.
- Zvýšená adopce odpovědné AI: Strategie odpovědné AI přispívají pozitivně k zmírnění předsudku AI, kultivují spravedlnost a přesnost v AI systémech a zajišťují, aby sloužily rozmanitému uživatelskému základu, zatímco usilují o neustálé zlepšování.
Integrací různorodých dat, etické odpovědnosti a otevřených komunikačních prostředků, můžeme zajistit, aby AI byla zdrojem pozitivní změny po celém světě.
Pokud chcete se dozvědět více o předsudku a roli umělé inteligence ve společnosti, přečtěte si následující články.
