Bias AI u Stereotipi Kulturali: Effetti, Limitazzjonijiet, & Mitigazzjoni

Intelliġenza Artifiċjali (AI), partikolarment AI Ġenerattiva, ikompli jaqbeż l-aspettattivi bil-kapaċità tiegħu li jifhem u jimita l-konjizzjoni u l-intelliġenza tal-bniedem. Madankollu, f'ħafna każijiet, ir-riżultati jew il-previżjonijiet tas-sistemi tal-AI jistgħu jirriflettu diversi tipi ta' preġudizzju tal-AI, bħal kulturali u razzjali.

Buzzfeed's "Barbies tad-Dinja” blog (li issa huwa mħassar) jimmanifesta biċ-ċar dawn il-preġudizzji kulturali u ineżattezzi. Dawn il-'barbies' ġew maħluqa bl-użu Nofs il-vjaġġ – ġeneratur ewlieni tal-immaġni AI, biex issir taf kif ikunu jidhru l-barbies f'kull parti tad-dinja. Nitkellmu aktar dwar dan aktar tard.

Iżda din mhix l-ewwel darba li l-AI kienet "razzista" jew ipproduċiet riżultati mhux preċiżi. Per eżempju, fl-2022, Apple kien mħarrek fuq allegazzjonijiet li s-sensor tal-ossiġnu tad-demm tal-Apple Watch kien preġudikat kontra nies ta 'kulur. F'każ ieħor irrappurtat, l-utenti ta 'Twitter sabu dan AI awtomatika tal-ħsad tal-immaġni ta' Twitter iffavorixxa l-uċuħ tan-nies bojod fuq l-individwi suwed u n-nisa fuq l-irġiel. Dawn huma sfidi kritiċi, u l-indirizzar tagħhom hija sfida sinifikanti.

F'dan l-artikolu, ser inħarsu lejn x'inhi l-preġudizzju tal-AI, kif għandha impatt fuq is-soċjetà tagħna, u niddiskutu fil-qosor kif il-prattikanti jistgħu ittaffi biex tindirizza sfidi bħall-isterjotipi kulturali.

X'inhu AI Bias?

Il-preġudizzju tal-AI iseħħ meta l-mudelli tal-AI jipproduċu riżultati diskriminatorji kontra ċerti demografiji. Diversi tipi ta 'preġudizzji jistgħu jidħlu fis-sistemi AI u jipproduċu riżultati żbaljati. Xi wħud minn dawn il-preġudizzji tal-AI huma:

• Preġudizzju Stereotipiku: Preġudizzju stereotipiku jirreferi għall-fenomenu fejn ir-riżultati ta 'mudell AI jikkonsistu fi sterjotipi jew kunċetti perċepiti dwar ċertu demografija.
• Preġudizzju Razzjali: Il-preġudizzju razzjali fl-AI jseħħ meta r-riżultat ta' mudell tal-IA huwa diskriminatorju u inġust għal individwu jew grupp ibbażat fuq l-etniċità jew ir-razza tagħhom.
• Preġudizzju Kulturali: Il-preġudizzju kulturali jidħol fis-seħħ meta r-riżultati ta 'mudell AI jiffavorixxu ċerta kultura fuq oħra.

Minbarra l-preġudizzji, kwistjonijiet oħra jistgħu wkoll ixekklu r-riżultati ta’ sistema AI, bħal:

• Ineżattezzi: Ineżattezzi jseħħu meta r-riżultati prodotti minn mudell AI ma jkunux korretti minħabba data ta 'taħriġ inkonsistenti.
• Alluċinazzjonijiet: L-alluċinazzjonijiet iseħħu meta mudelli AI jipproduċu riżultati fittizji u foloz li mhumiex ibbażati fuq data fattwali.

L-Impatt ta' AI Bias fuq is-Soċjetà

L-impatt tal-preġudizzju tal-IA fuq is-soċjetà jista’ jkun ta’ detriment. Sistemi preġudikati tal-IA jistgħu jipproduċu riżultati mhux preċiżi li jamplifikaw il-preġudizzju diġà eżistenti fis-soċjetà. Dawn ir-riżultati jistgħu jżidu d-diskriminazzjoni u l-ksur tad-drittijiet, jaffettwaw il-proċessi ta’ kiri, u jnaqqsu l-fiduċja fit-teknoloġija tal-IA.

Ukoll, ir-riżultati preġudikati tal-AI ħafna drabi jwasslu għal tbassir mhux preċiż li jista 'jkollhom konsegwenzi severi għal individwi innoċenti. Pereżempju, f'Awwissu 2020, Robert McDaniel sar il-mira ta’ att kriminali minħabba li l-algoritmu ta’ tbassir tal-pulizija tad-Dipartiment tal-Pulizija ta’ Chicago li ttikkettjah bħala “persuna ta’ interess”.

Bl-istess mod, sistemi preġudikati tal-AI tal-kura tas-saħħa jista' jkollhom riżultati akuti tal-pazjent. Fl-2019, xjenza skoprew li tintuża ħafna Algoritmu mediku tal-Istati Uniti kien preġudikat razzjalment kontra nies ta 'kulur, li wassal biex pazjenti suwed jieħdu ġestjoni tal-kura ta' riskju inqas għoli.

Barbies tad-Dinja

F'Lulju 2023, Buzzfeed ippubblika blog li jinkludi 194 barbi iġġenerat mill-AI minn madwar id-dinja. Il-post sar virali fuq Twitter. Għalkemm Buzzfeed kiteb dikjarazzjoni ta’ ċaħda, ma waqqafx lin-netizens milli jindikaw l-ineżattezzi razzjali u kulturali. Pereżempju, l-immaġni ġenerata mill-AI ta' Barbie Ġermaniża kienet liebes l-uniformi ta' a SS Nazisti ġenerali

Bl-istess mod, l-immaġni ġġenerata mill-AI ta 'Barbie tas-Sudan t'Isfel intweriet li żżomm pistola ma' ġenbha, li tirrifletti l-preġudizzju b'għeruq profondi fl-algoritmi tal-AI.

Apparti dan, diversi stampi oħra wrew ineżattezzi kulturali, bħall-Barbie tal-Qatar liebes a Ghutra, xedd tar-ras tradizzjonali li jintlibes mill-irġiel Għarab.

Din il-post tal-blog irċieva reazzjoni massiva għall-isterjotipi kulturali u l-preġudizzju. Il- Skola Interdixxiplinarja ta' Londra (LIS) sejjaħ dan ħsara rappreżentattiva li għandhom jinżammu taħt kontroll billi jiġu imposti standards ta' kwalità u jiġu stabbiliti korpi ta' sorveljanza tal-IA.

Limitazzjonijiet tal-Mudelli AI

AI għandha l-potenzjal li jirrivoluzzjonaw ħafna industriji. Iżda, jekk ix-xenarji bħal dawk imsemmija hawn fuq jipproliferaw, jista 'jwassal għal tnaqqis fl-adozzjoni ġenerali tal-AI, li jirriżulta f'opportunitajiet mitlufa. Każijiet bħal dawn tipikament iseħħu minħabba limitazzjonijiet sinifikanti fis-sistemi AI, bħal:

• Nuqqas ta' Kreattività: Peress li l-AI tista 'tieħu deċiżjonijiet biss ibbażati fuq id-dejta tat-taħriġ mogħtija, hija nieqsa mill-kreattività biex taħseb barra mill-kaxxa, li tfixkel is-soluzzjoni kreattiva tal-problemi.

• Nuqqas ta' Fehim Kuntestwali: Is-sistemi tal-IA jiffaċċjaw diffikultà biex jifhmu sfumaturi kuntestwali jew espressjonijiet tal-lingwa ta’ reġjun, li ħafna drabi jwassal għal żbalji fir-riżultati.

• Preġudizzju tat-Taħriġ: L-AI tiddependi fuq data storika li jista' jkun fiha kull xorta ta' kampjuni diskriminatorji. Waqt it-taħriġ, il-mudell jista' faċilment jitgħallem mudelli diskriminatorji biex jipproduċi riżultati inġusti u preġudikati.

Kif Tnaqqas il-Preġudizzju fil-Mudelli AI

Esperti stima li sal-2026, 90% tal-kontenut onlajn jista' jiġi ġġenerat b'mod sintetiku. Għalhekk, huwa vitali li timminimizza malajr il-kwistjonijiet preżenti fit-teknoloġiji tal-AI Ġenerattiva.

Jistgħu jiġu implimentati diversi strateġiji ewlenin biex jitnaqqas il-preġudizzju fil-mudelli tal-IA. Xi wħud minn dawn huma:

• Żgura l-Kwalità tad-Dejta: L-inġestjoni ta' data kompluta, preċiża u nadifa f'mudell AI tista' tgħin biex tnaqqas il-preġudizzju u tipproduċi riżultati aktar preċiżi.
• Settijiet tad-Data Diversi: L-introduzzjoni ta’ settijiet ta’ dejta differenti f’sistema ta’ AI tista’ tgħin biex tittaffa l-preġudizzju hekk kif is-sistema ta’ AI ssir aktar inklużiva maż-żmien.

• Feedback Loops: Bil-kostanti feedback u loop tat-tagħlim, Mudelli AI jistgħu gradwalment itejbu r-riżultati tagħhom

• Regolamenti Żieda: Ir-regolamenti globali tal-IA huma kruċjali għaż-żamma tal-kwalità tas-sistemi tal-AI bejn il-fruntieri. Għalhekk, l-organizzazzjonijiet internazzjonali jridu jaħdmu flimkien biex jiżguraw l-istandardizzazzjoni tal-IA.

• Żieda fl-Adozzjoni ta' AI Responsabbli: Strateġiji responsabbli tal-AI jikkontribwixxu b'mod pożittiv lejn il-mitigazzjoni tal-preġudizzju tal-AI, jikkultivaw il-ġustizzja u l-eżattezza fis-sistemi tal-AI, u jiżguraw li jservu bażi ta' utenti diversa filwaqt li jistinkaw għal titjib kontinwu.

Billi ninkorporaw settijiet ta’ dejta differenti, responsabbiltà etika, u mezzi ta’ komunikazzjoni miftuħa, nistgħu niżguraw li l-IA tkun sors ta’ bidla pożittiva madwar id-dinja.

Jekk trid titgħallem aktar dwar il-preġudizzju u r-rwol tal-Intelliġenza Artifiċjali fis-soċjetà tagħna, aqra l-blogs li ġejjin.

• Kif Il-Bliet Qed Jiskjerixxu Teknoloġiji Ewlenin billi Jingaġġaw Algoritmi Impreġġjati tal-AI
• L-AI Tista' Tiġġieled il-Miżinformazzjoni u l-Preġudizzju fl-Aħbarijiet
• Preġudizzju u Ekwità ta' Sistemi Ibbażati fuq AI Fi ħdan il-Kriminalità Finanzjarja
• Kontroll ta' Preġudizzju Mmexxi mill-AI għal Artikli tal-Aħbarijiet, Disponibbli f'Python