Předpojatost AI a kulturní stereotypy: Účinky, omezení a zmírnění

Zejména umělá inteligence (AI). Generativní AI, nadále překonává očekávání svou schopností porozumět a napodobit lidské poznání a inteligenci. V mnoha případech však výsledky nebo předpovědi systémů umělé inteligence mohou odrážet různé typy předsudků umělé inteligence, například kulturní a rasové.

BuzzfeedBarbie světa“ blog (který je nyní smazán) jasně projevuje tyto kulturní předsudky a nepřesnosti. Tyto 'barbíny' byly vytvořeny pomocí Střední cesta – přední generátor obrázků AI, abyste zjistili, jak by vypadaly barbíny v každé části světa. Více si o tom povíme později.

Není to však poprvé, co byla umělá inteligence „rasistická“ nebo přinesla nepřesné výsledky. Například v roce 2022 byl Apple žaloval kvůli obvinění, že senzor kyslíku v krvi Apple Watch byl zaujatý proti lidem barvy pleti. V dalším hlášeném případě to zjistili uživatelé Twitteru AI pro automatické ořezávání obrázků na Twitteru upřednostňoval tváře bílých lidí před černými a žen před muži. To jsou kritické výzvy a jejich řešení je značně náročné.

V tomto článku se podíváme na to, co je zaujatost AI, jak to ovlivňuje naši společnost, a stručně probereme, jak mohou praktici zmírnit řeší výzvy, jako jsou kulturní stereotypy.

Co je AI Bias?

Zkreslení AI nastává, když modely AI produkují diskriminační výsledky vůči určitým demografickým skupinám. Do systémů AI může vstoupit několik typů zkreslení a způsobit nesprávné výsledky. Některé z těchto předsudků AI jsou:

• Stereotypní zkreslení: Stereotypní zkreslení se týká jevu, kdy výsledky modelu umělé inteligence sestávají ze stereotypů nebo vnímaných představ o určité demografické skupině.
• Rasová zaujatost: K rasové zaujatosti v AI dochází, když je výsledek modelu AI diskriminační a nespravedlivý vůči jednotlivci nebo skupině na základě jejich etnického původu nebo rasy.
• Kulturní zaujatost: Kulturní zaujatost vstupuje do hry, když výsledky modelu umělé inteligence upřednostňují určitou kulturu před jinou.

Kromě zkreslení mohou výsledky systému umělé inteligence bránit i další problémy, jako například:

• nepřesnosti: K nepřesnostem dochází, když jsou výsledky vytvořené modelem AI nesprávné kvůli nekonzistentním tréninkovým datům.
• halucinace: Halucinace se objevují, když modely AI produkují smyšlené a falešné výsledky, které nejsou založeny na faktických datech.

Dopad zkreslení umělé inteligence na společnost

Dopad zaujatosti AI na společnost může být škodlivý. Předpojaté systémy umělé inteligence mohou produkovat nepřesné výsledky, které zesilují předsudky, které již ve společnosti existují. Tyto výsledky mohou zvýšit diskriminaci a porušování práv, ovlivnit náborové procesy a snížit důvěru v technologii AI.

Předpojaté výsledky AI také často vedou k nepřesným předpovědím, které mohou mít vážné důsledky pro nevinné jedince. Například v srpnu 2020 Robert McDaniel se stal terčem trestného činu kvůli prediktivnímu policejnímu algoritmu chicagského policejního oddělení, který ho označil za „zájmovou osobu“.

Podobně zaujaté systémy umělé inteligence ve zdravotnictví mohou mít akutní výsledky pro pacienty. v roce 2019 Věda zjistil, že široce používaný Americký lékařský algoritmus byl rasově zaujatý proti lidem barvy pleti, což vedlo k tomu, že černošští pacienti dostávali méně vysoce rizikové péče.

Barbie světa

V červenci 2023, Buzzfeed zveřejnil blog obsahující 194 barbíny vytvořené umělou inteligencí z celého světa. Příspěvek se stal virálním na Twitteru. Přestože Buzzfeed napsal prohlášení o vyloučení odpovědnosti, nezabránilo to uživatelům internetu v poukazování na rasové a kulturní nepřesnosti. Například AI vytvořený obraz německé Barbie měl na sobě uniformu a SS nacista obecně

Podobně byl obrázek jihosúdánské Barbie vytvořený umělou inteligencí zobrazen, jak drží u boku zbraň, což odráží hluboce zakořeněné předsudky v algoritmech umělé inteligence.

Kromě toho několik dalších snímků ukazovalo kulturní nepřesnosti, jako je například katarská Barbie s a Ghutra, tradiční pokrývka hlavy, kterou nosí arabští muži.

Tento blogový příspěvek zaznamenal masivní odpor kvůli kulturním stereotypům a zaujatosti. The Londýnská interdisciplinární škola (LIS) nazval to reprezentační újmu které je třeba udržet pod kontrolou zavedením norem kvality a zřízením orgánů dohledu nad umělou inteligencí.

Omezení modelů AI

AI na to má potenciál revoluci v mnoha průmyslových odvětvích. Pokud se však scénáře, jako jsou ty výše uvedené, množí, může to vést k poklesu obecné adopce AI, což má za následek promarněné příležitosti. K takovým případům obvykle dochází kvůli významným omezením systémů AI, jako jsou:

• Nedostatek kreativity: Vzhledem k tomu, že umělá inteligence se může rozhodovat pouze na základě daných tréninkových dat, postrádá kreativitu myslet mimo rámec, což brání kreativnímu řešení problémů.

• Nedostatek kontextového porozumění: Systémy umělé inteligence se potýkají s problémy s pochopením kontextových nuancí nebo jazykových výrazů regionu, což často vede k chybám ve výsledcích.

• Předpojatost školení: AI se opírá o historická data, která mohou obsahovat nejrůznější diskriminační vzorky. Během tréninku se model může snadno naučit diskriminačním vzorcům, aby produkoval nespravedlivé a zkreslené výsledky.

Jak snížit zkreslení v modelech AI

Odborníci odhad že do roku 2026 by mohlo být 90 % online obsahu generováno synteticky. Proto je nezbytné rychle minimalizovat problémy vyskytující se v technologiích generativní umělé inteligence.

Ke snížení zkreslení v modelech umělé inteligence lze implementovat několik klíčových strategií. Některé z nich jsou:

• Zajistěte kvalitu dat: Zpracování úplných, přesných a čistých dat do modelu AI může pomoci snížit zkreslení a získat přesnější výsledky.
• Různé datové sady: Zavedení různých datových sad do systému AI může pomoci zmírnit zkreslení, protože systém AI se postupem času stává inkluzivnějším.

• Zpětnovazební smyčky: S konstantou zpětnou vazbu a smyčku učeníAI modely mohou postupně zlepšovat své výsledky

• Zvýšená pravidla: Globální regulace umělé inteligence jsou zásadní pro udržení kvality systémů umělé inteligence přes hranice. Mezinárodní organizace proto musí spolupracovat, aby zajistily standardizaci AI.

• Zvýšené přijetí odpovědné umělé inteligence: Odpovědné strategie umělé inteligence pozitivně přispívají ke zmírnění zkreslení umělé inteligence, kultivaci spravedlnosti a přesnosti v systémech umělé inteligence a zajišťují, aby sloužily různorodé uživatelské základně a zároveň usilovaly o neustálé zlepšování.

Začleněním různých datových sad, etické odpovědnosti a otevřených komunikačních médií můžeme zajistit, aby umělá inteligence byla zdrojem pozitivních změn po celém světě.

Pokud se chcete dozvědět více o zaujatosti a roli umělé inteligence v naší společnosti, přečtěte si následující blogy.

• Jak města nasazují špičkové technologie využívající nezaujaté algoritmy umělé inteligence
• Umělá inteligence dokáže bojovat proti dezinformacím a předsudkům ve zprávách
• Předpojatost a spravedlnost systémů založených na umělé inteligenci v rámci finanční kriminality
• Kontrola předsudků řízená umělou inteligencí pro zpravodajské články, dostupná v Pythonu