Predsudky AI a kultúrne stereotypy: Účinky, obmedzenia a zmiernenie

Najmä umelá inteligencia (AI). Generatívna AI, naďalej prekonáva očakávania svojou schopnosťou porozumieť a napodobniť ľudské poznanie a inteligenciu. V mnohých prípadoch však výsledky alebo predpovede systémov AI môžu odrážať rôzne typy zaujatosti AI, napríklad kultúrne a rasové.

BuzzfeedBarbie sveta“ blog (ktorý je teraz vymazaný) jasne prejavuje tieto kultúrne predsudky a nepresnosti. Tieto „barbíny“ boli vytvorené pomocou Stredná cesta – popredný generátor obrázkov AI, aby ste zistili, ako by vyzerali barbíny v každej časti sveta. Viac si o tom povieme neskôr.

Nie je to však prvýkrát, čo bola AI „rasistická“ alebo priniesla nepresné výsledky. Napríklad v roku 2022 bol Apple žaloval kvôli obvineniam, že senzor kyslíka v krvi Apple Watch bol zaujatý voči ľuďom inej farby pleti. V inom nahlásenom prípade to zistili používatelia Twitteru AI na automatické orezávanie obrázkov na Twitteri uprednostňovali tváre bielych ľudí pred čiernymi a ženy pred mužmi. Toto sú kritické výzvy a ich riešenie je značne náročné.

V tomto článku sa pozrieme na to, čo je zaujatosť umelej inteligencie, ako to ovplyvňuje našu spoločnosť a stručne diskutujeme o tom, ako môžu odborníci zmierniť rieši výzvy, ako sú kultúrne stereotypy.

Čo je to AI Bias?

Skreslenie AI nastáva, keď modely AI prinášajú diskriminačné výsledky voči určitým demografickým údajom. Do systémov AI môže vstúpiť niekoľko typov skreslení a spôsobiť nesprávne výsledky. Niektoré z týchto predsudkov AI sú:

• Stereotypné skreslenie: Stereotypná zaujatosť sa týka javu, keď výsledky modelu AI pozostávajú zo stereotypov alebo vnímaných predstáv o určitej demografickej skupine.
• Rasová zaujatosť: K rasovej zaujatosti v AI dochádza, keď je výsledok modelu AI diskriminačný a nespravodlivý voči jednotlivcovi alebo skupine na základe ich etnickej príslušnosti alebo rasy.
• Kultúrna zaujatosť: Kultúrna zaujatosť vstupuje do hry, keď výsledky modelu AI uprednostňujú určitú kultúru pred inou.

Okrem zaujatosti môžu výsledky systému AI brániť aj iné problémy, ako napríklad:

• nepresnosti: K nepresnostiam dochádza, keď sú výsledky vytvorené modelom AI nesprávne v dôsledku nekonzistentných tréningových údajov.
• halucinácie: Halucinácie sa vyskytujú, keď modely AI produkujú fiktívne a falošné výsledky, ktoré nie sú založené na faktických údajoch.

Vplyv skreslenia AI na spoločnosť

Vplyv zaujatosti AI na spoločnosť môže byť škodlivý. Predpojaté systémy AI môžu produkovať nepresné výsledky, ktoré zosilňujú predsudky, ktoré už v spoločnosti existujú. Tieto výsledky môžu zvýšiť diskrimináciu a porušovanie práv, ovplyvniť náborové procesy a znížiť dôveru v technológiu AI.

Predpojaté výsledky AI tiež často vedú k nepresným predpovediam, ktoré môžu mať vážne následky pre nevinných jednotlivcov. Napríklad v auguste 2020 Robert McDaniel sa stal terčom trestného činu kvôli prediktívnemu policajnému algoritmu chicagského policajného oddelenia, ktorý ho označil za „osobu záujmu“.

Podobne zaujaté systémy umelej inteligencie v zdravotníctve môžu mať akútne výsledky pre pacientov. v roku 2019 veda zistil, že široko používaný Americký medicínsky algoritmus bol rasovo zaujatý voči ľuďom inej farby pleti, čo viedlo k tomu, že černošskí pacienti dostávali menej vysokorizikové riadenie starostlivosti.

Barbie sveta

V júli 2023, Buzzfeed zverejnil blog obsahuje 194 barbies vytvorených AI z celého sveta. Príspevok sa stal virálnym na Twitteri. Aj keď Buzzfeed napísal vyhlásenie o vylúčení zodpovednosti, nezabránilo to obyvateľom siete v poukazovaní na rasové a kultúrne nepresnosti. Napríklad obraz nemeckej Barbie vygenerovaný AI mala na sebe uniformu a SS nacistická všeobecne.

Podobne bol zobrazený obrázok juhosudánskej Barbie vytvorenej AI, ktorá drží pri boku zbraň, čo odráža hlboko zakorenenú zaujatosť v algoritmoch AI.

Okrem toho niekoľko ďalších obrázkov ukázalo kultúrne nepresnosti, ako napríklad katarská Barbie s a Ghutra, tradičná pokrývka hlavy, ktorú nosia arabskí muži.

Tento blogový príspevok zaznamenal masívny odpor pre kultúrne stereotypy a zaujatosť. The Londýnska interdisciplinárna škola (LIS) nazýva to reprezentačná ujma ktoré sa musia držať pod kontrolou zavedením noriem kvality a zriadením orgánov dohľadu nad AI.

Obmedzenia modelov AI

AI má na to potenciál spôsobiť revolúciu v mnohých odvetviach. Ak sa však rozšíria scenáre, ako sú tie, ktoré sú spomenuté vyššie, môže to viesť k poklesu všeobecného prijatia AI, čo bude mať za následok premeškané príležitosti. Takéto prípady sa zvyčajne vyskytujú v dôsledku významných obmedzení v systémoch AI, ako napríklad:

• Nedostatok kreativity: Keďže AI sa môže rozhodovať iba na základe daných tréningových údajov, chýba jej kreativita myslieť mimo rámca, čo bráni kreatívnemu riešeniu problémov.

• Nedostatok kontextového porozumenia: Systémy AI čelia ťažkostiam s pochopením kontextových nuancií alebo jazykových výrazov regiónu, čo často vedie k chybám vo výsledkoch.

• Zaujatosť tréningu: AI sa spolieha na historické údaje, ktoré môžu obsahovať všetky druhy diskriminačných vzoriek. Počas tréningu sa model môže ľahko naučiť diskriminačným vzorcom, aby produkoval nespravodlivé a neobjektívne výsledky.

Ako znížiť zaujatosť v modeloch AI

Odborníci odhad že do roku 2026 by sa 90 % online obsahu mohlo generovať synteticky. Preto je nevyhnutné rýchlo minimalizovať problémy prítomné v technológiách generatívnej AI.

Na zníženie zaujatosti v modeloch AI je možné implementovať niekoľko kľúčových stratégií. Niektoré z nich sú:

• Zabezpečte kvalitu údajov: Vloženie úplných, presných a čistých údajov do modelu AI môže pomôcť znížiť skreslenie a produkovať presnejšie výsledky.
• Rôzne množiny údajov: Zavedenie rôznych súborov údajov do systému AI môže pomôcť zmierniť zaujatosť, pretože systém AI sa časom stáva inkluzívnejším.

• Slučky spätnej väzby: S konštantou spätná väzba a slučka učeniaAI modely môžu postupne zlepšovať svoje výsledky

• Zvýšené predpisy: Globálne predpisy o umelej inteligencii sú kľúčové pre udržanie kvality systémov umelej inteligencie naprieč hranicami. Medzinárodné organizácie preto musia spolupracovať, aby zabezpečili štandardizáciu AI.

• Zvýšené prijatie zodpovednej AI: Zodpovedné stratégie AI pozitívne prispievajú k zmierňovaniu zaujatosti AI, kultivácii spravodlivosti a presnosti v systémoch AI a zabezpečujú, že slúžia rôznorodej používateľskej základni a zároveň sa snažia o neustále zlepšovanie.

Začlenením rôznych súborov údajov, etickej zodpovednosti a otvorených komunikačných médií môžeme zabezpečiť, že AI bude zdrojom pozitívnych zmien na celom svete.

Ak sa chcete dozvedieť viac o zaujatosti a úlohe umelej inteligencie v našej spoločnosti, prečítajte si nasledujúce blogy.

• Ako mestá nasadzujú popredné technológie využívajúce nezaujaté algoritmy AI
• AI dokáže bojovať proti dezinformáciám a zaujatosti v správach
• Zaujatosť a spravodlivosť systémov založených na AI v rámci finančnej kriminality
• Kontrola zaujatosti riadená AI pre spravodajské články, dostupná v Pythone