AI Bias & Stereotipên Çandî: Bandor, Sînorkirin, & Kêmkirin

Îstixbarata Artificial (AI), bi taybetî Generative AI, bi şiyana xwe ya têgihiştin û teqlîdkirina zane û aqilê mirovî, hêviyên xwe zêdetir dike. Lêbelê, di pir rewşan de, encam an pêşbîniyên pergalên AI-ê dikarin cûrbecûr pêşbaziyên AI-ê, wekî çandî û nijadî, nîşan bidin.

Buzzfeed's "Barbiyên Cîhanê” blog (ku niha hatiye jêbirin) bi zelalî van nelirêtî û nerastiyên çandî diyar dike. Ev 'barbî' bi kar hatin afirandin midjourney - jeneratorek pêşeng a wêneya AI-ê, da ku fêr bibe ka dê li her devera cîhanê çawa barbiyan xuya bikin. Em ê li ser vê paşê bêtir biaxivin.

Lê ev ne cara yekem e ku AI "nîjadperest" dibe an encamên nerast derdixe. Mînakî, di sala 2022 de, Apple bû darizandin li ser îdiayên ku senzora oksîjena xwînê ya Apple Watch li dijî kesên rengîn aligir bûye. Di bûyerek din a raporkirî de, bikarhênerên Twitter ew dîtin AI-ya hilberandina wêneya otomatîkî ya Twitter rûyê mirovên spî li ser kesên reş û jinan li ser mêran dipejirîne. Ev kêşeyên krîtîk in, û çareserkirina wan pir dijwar e.

Di vê gotarê de, em ê binihêrin ka AI-ya AI-ê çi ye, ew çawa bandorê li civaka me dike, û bi kurtî nîqaş bikin ka bijîjk çawa dikarin kêmkirin ew ji bo çareserkirina kêşeyên mîna stereotipên çandî.

AI Bias çi ye?

Biasiya AI-ê dema ku modelên AI-ê li dijî hin demografîk encamên cûdakar derdixin çêdibe. Çend cureyên nelirêtiyê dikarin bikevin pergalên AI-ê û encamên nerast derxînin. Hin ji van pêşbaziyên AI ev in:

• Biasiya Stereotypîk: Biasiya stereotipîkî diyardeyek e ku encamên modelek AI-ê ji stereotip an têgînên têgihîştî yên derheqê demografîkek diyar pêk tê.
• Biasiya nijadî: Nerazîbûna nijadî di AI-ê de gava ku encama modelek AI-ê li ser kesek an komekê li ser bingeha etnîsîte an nijada wan cûdaxwaz û neheq be diqewime.
• Texmîna çandî: Dema ku encamên modelek AI-ê çandek diyarkirî li ser çandek din xweş dike, pêşbaziya çandî tê lîstikê.

Ji xeynî alîgiran, pirsgirêkên din jî dikarin encamên pergalek AI-ê asteng bikin, wek:

• Nerastî: Dema ku encamên ku ji hêla modelek AI-ê ve têne hilberandin ji ber daneyên perwerdehiya nehevgirtî nerast in, xeletî çêdibin.
• Halusînasyon: Halusînasyon çêdibin dema ku modelên AI-ê encamên xeyalî û derewîn çêdikin ku ne li gorî daneyên rastîn in.

Bandora AI Bias li ser civakê

Bandora biasiya AI-ê li ser civakê dikare zirardar be. Pergalên AI-ê yên alîgir dikarin encamên nerast derxînin ku pêşdaraziya ku berê di civakê de heye zêde dike. Van encam dikarin cihêkarî û binpêkirinên mafan zêde bikin, bandorê li pêvajoyên kirêkirinê bikin, û baweriya bi teknolojiya AI kêm bikin.

Di heman demê de, encamên AI-ê yên alîgir bi gelemperî dibe sedema pêşbîniyên nerast ên ku dikarin ji bo kesên bêguneh encamên giran hebin. Mînakî, di Tebaxa 2020 de, Robert McDaniel ji ber algorîtmaya polîsê pêşbînîkirî ya Midûriyeta Polîsan a Chicagoyê ku wî wekî "kesê berjewendî" bi nav dike, bû hedefa kiryarek sûc.

Bi heman rengî, pergalên AI-ê yên lênihêrîna tenduristî yên alîgir dikarin encamên nexweş ên tûj hebin. Di sala 2019 de, Zanist vedîtin ku bi berfirehî tê bikaranîn Algorîtmaya bijîjkî ya Dewletên Yekbûyî bi nijadperestî li dijî mirovên rengîn bû, ku bû sedem ku nexweşên reş kêmtir rêveberiya lênihêrîna xeternak bistînin.

Barbiyên Cîhanê

Di Tîrmeha 2023-an de Buzzfeed blogek weşand 194 barbiyen AI-a ku ji çar aliyên cîhanê hatine çêkirin pêk tê. Ev post li ser Twitterê belav bû. Her çend Buzzfeed daxuyaniyeke betalkirinê nivîsand jî, ew nehişt ku netewan îşaret bi nerastiyên nijadî û çandî bikin. Mînakî, wêneya ku ji hêla AI-ê ve hatî çêkirin Barbie ya Alman cil û bergên a SS Nazi gelemperî

Bi heman rengî, wêneya ku ji hêla AI-ê ve hatî çêkirin a Barbie ya Sûdana Başûr, ku çekek li kêleka wê girtiye, hate pêşandan, ku di algorîtmayên AI-ê de alikariya kûr a kok nîşan dide.

Ji xeynî vê yekê, çend wêneyên din jî nerastiyên çandî nîşan didin, wek mînak Barbia Qatarê ku li xwe dike. Ghutra, seriyekî kevneşopî ku zilamên Ereb li xwe dikin.

Vê posta blogê ji bo stereotype û neyartiya çandî bertekek mezin wergirt. Ew Dibistana Interdisciplinary London (LIS) bang kir zirara nûnertiyê ku divê bi sepandina standardên kalîteyê û damezrandina saziyên çavdêriya AI-ê ve were kontrol kirin.

Sînorên Modelên AI-ê

AI xwedî potansiyel e gelek pîşesaziyan şoreş bike. Lê, heke senaryoyên mîna yên ku li jor hatine destnîşan kirin zêde bibin, ew dikare bibe sedema kêmbûna pejirandina AI-ê ya gelemperî, ku di encamê de fersendên wenda bibin. Bûyerên weha bi gelemperî ji ber tixûbên girîng ên di pergalên AI-ê de çêdibin, wek:

• Nebûna Afirînerî: Ji ber ku AI tenê dikare li ser bingeha daneyên perwerdehiyê yên hatî dayîn biryaran bide, afirîneriya wê tune ku li derveyî qutiyê bifikire, ku çareseriya pirsgirêka afirîner asteng dike.

• Kêmasiya Têgihîştinê: Pergalên AI-ê di têgihiştina nuwazeyên kontekstê an vegotinên zimanî yên herêmek de bi dijwarî re rû bi rû dimînin, ku bi gelemperî di encaman de dibe sedema xeletiyan.

• Biasiya Perwerdehiyê: AI xwe dispêre daneyên dîrokî yên ku dikarin her cûre nimûneyên cihêkariyê dihewîne. Di dema perwerdehiyê de, model dikare bi hêsanî şêwazên cihêkariyê fêr bibe da ku encamên neheq û alîgir derxe holê.

Meriv Di Modelên AI-ê de Bias çawa kêm dike

Pispor texmînkirin ku heya sala 2026-an, 90% ji naveroka serhêl dikare bi syntetîk were çêkirin. Ji ber vê yekê, pir girîng e ku bi lez pirsgirêkên heyî yên di teknolojiyên AI-ya Generative de kêm bikin.

Gelek stratejiyên sereke dikarin werin sepandin da ku di modêlên AI-ê de pêşbaziyê kêm bikin. Hin ji van ev in:

• Kalîteya Daneyê piştrast bikin: Vexwarina daneyên bêkêmasî, rast û paqij di nav modelek AI-ê de dikare bibe alîkar ku biasiyan kêm bike û encamên rasttir derxe holê.
• Daneyên cihêreng: Danasîna danehevên cihêreng di nav pergalek AI-ê de dikare bibe alîkar ku meriv alîgiriyê kêm bike ji ber ku pergala AI bi demê re berfirehtir dibe.

• Girêdanên Bersiv: Bi berdewamî veger û fêrbûnê, modelên AI-ê dikarin hêdî hêdî encamên xwe baştir bikin

• Rêzikên Zêdekirin: Rêzikên gerdûnî yên AI-ê ji bo domandina kalîteya pergalên AI-ê li seranserê sînor pir girîng in. Ji ber vê yekê, rêxistinên navneteweyî divê bi hev re bixebitin da ku standardkirina AI-ê piştrast bikin.

• Zêdebûna Pejirandina AI-ya Berpirsyar: Stratejiyên AI-ê yên berpirsiyar bi erênî beşdarî kêmkirina alikariya AI-ê dikin, di pergalên AI-ê de dadperwerî û rastdariyê dişoxilînin, û piştrast dikin ku ew ji bingehek bikarhênerek cihêreng re xizmet dikin dema ku ji bo baştirkirina domdar hewl didin.

Bi tevlêkirina danûstendinên cihêreng, berpirsiyariya exlaqî, û navgînên ragihandinê yên vekirî, em dikarin piştrast bikin ku AI li çaraliyê cîhanê çavkaniyek guheztina erênî ye.

Heke hûn dixwazin li ser alîgiriyê û rola îstîxbarata artificial di civaka me de bêtir fêr bibin, blogên jêrîn bixwînin.

• Çawa Bajar Teknolojiyên Pêşerojê Bi Karanîna Algorîtmayên AI-yê yên Bêalî Dikin
• AI Di Nûçeyê de Dikare Têkoşîna Dezînformasyon û Biasê bike
• Bias û Dadperweriya Pergalên Bingeha AI-ê di nav sûcê darayî de
• Ji bo Gotarên Nûçeyan Kontrolkerek Biasê ya AI-Driven, Di Python de heye