AI Laofachta & Steiréitíopaí Cultúrtha: Éifeachtaí, Teorainneacha, & Maolú

Faisnéise Saorga (AI), go háirithe AI giniúna, leanann sé ar aghaidh ag sárú ionchais lena chumas chun cognaíocht agus intleacht dhaonna a thuiscint agus a aithris. I go leor cásanna, áfach, is féidir le torthaí nó tuar na gcóras AI cineálacha éagsúla de chlaonadh AI a léiriú, mar shampla cultúrtha agus ciníoch.

Buzzfeed ar “Barbies an Domhain” Léiríonn blag (atá scriosta anois) na laofachtaí agus na míchruinneas cultúrtha seo go soiléir. Cruthaíodh na 'barbies' seo ag baint úsáide as Meán-turas – gineadóir íomhá AI chun cinn, chun a fháil amach cén chuma a bheadh ​​ar bharbies i ngach cearn den domhan. Labhróimid níos mó faoi seo níos déanaí.

Ach ní hé seo an chéad uair a bhí AI “ciníoch” nó torthaí míchruinn a tháirgeadh. Mar shampla, i 2022, bhí Apple agairt níos mó ná líomhaintí go raibh braiteoir ocsaigin fola an Apple Watch claonta i gcoinne daoine dathúla. I gcás eile a tuairiscíodh, fuair úsáideoirí Twitter é sin AI bearrtha íomhánna uathoibríoch Twitter bhí sé i bhfabhar aghaidheanna na ndaoine bána thar dhaoine dubha agus aghaidh na mban thar na bhfear. Is dúshláin ríthábhachtacha iad seo, agus is mór an dúshlán é dul i ngleic leo.

San Airteagal seo, breathnóidh muid ar chlaonadh AI, conas a théann sé i bhfeidhm ar ár sochaí, agus pléifimid go hachomair conas is féidir le cleachtóirí maolú chun aghaidh a thabhairt ar dhúshláin cosúil le steiréitíopaí cultúrtha.

Cad is AI Bias ann?

Tarlaíonn laofacht AI nuair a tháirgeann samhlacha AI torthaí idirdhealaitheacha i gcoinne déimeagrafaic áirithe. Is féidir le roinnt cineálacha laofachta dul isteach i gcórais AI agus torthaí míchearta a tháirgeadh. Seo cuid de na laofachtaí AI seo:

• Claonadh Steiréitipiceach: Tagraíonn laofacht steiréitipiceach don fheiniméan ina bhfuil torthaí samhail AI comhdhéanta de steiréitíopaí nó tuairimí braite faoi dhéimeagrafach áirithe.
• Claonadh Ciníoch: Tarlaíonn laofacht chiníoch in AI nuair a bhíonn toradh samhail AI idirdhealaitheach agus éagórach do dhuine aonair nó do ghrúpa bunaithe ar a n-eitneachas nó a gcine.
• Claonadh Cultúrtha: Tagann laofacht chultúrtha i bhfeidhm nuair a bhíonn torthaí samhail AI i bhfabhar cultúr áirithe seachas cultúr eile.

Seachas laofachtaí, is féidir le saincheisteanna eile bac a chur ar thorthaí córais AI, mar shampla:

• Míchruinneas: Tarlaíonn míchruinneas nuair a bhíonn na torthaí a tháirgtear le múnla AI mícheart mar gheall ar shonraí oiliúna neamhréireach.
• siabhránachtaí: Tarlaíonn siabhránachtaí nuair a tháirgeann samhlacha AI torthaí ficseanacha agus bréagacha nach bhfuil bunaithe ar shonraí fíorasacha.

Tionchar Laofachta AI ar an tSochaí

Is féidir leis an tionchar a bhíonn ag claonadh AI ar an tsochaí a bheith díobhálach. Is féidir le córais AI claonta torthaí míchruinne a tháirgeadh a mhéadaíonn an dochar atá sa tsochaí cheana féin. Féadfaidh na torthaí seo idirdhealú agus sáruithe ar chearta a mhéadú, tionchar a imirt ar phróisis fhostú, agus muinín i dteicneolaíocht AI a laghdú.

Chomh maith leis sin, is minic go mbíonn tuar míchruinn mar thoradh ar thorthaí AI claonta a bhféadfadh iarmhairtí tromchúiseacha a bheith acu do dhaoine aonair neamhchiontacha. Mar shampla, i mí Lúnasa 2020, Robert McDainiel Bhí gníomh coiriúil mar sprioc aige mar gheall ar algartam póilíneachta thuarthach Roinn Póilíní Chicago a lipéadaigh é mar “dhuine spéise”.

Ar an gcaoi chéanna, is féidir torthaí géarmhíochaine othar a bheith ag córais AI cúram sláinte claonta. In 2019, Eolaíocht fuair sé amach go bhfuil a úsáidtear go forleathan Algartam leighis SAM a bhí claonta ciníoch i gcoinne daoine dathúla, rud a d'fhág gur lú an bhainistíocht cúraim ardriosca a bhí ag othair dhubha.

Barbies an Domhain

I mí Iúil 2023, D'fhoilsigh Buzzfeed blag comhdhéanta de 194 barbies AI-ghinte ó gach cearn den domhan. Chuaigh an post víreasach ar Twitter. Cé gur scríobh Buzzfeed ráiteas séanta, níor chuir sé bac ar na netizens na míchruinneas ciníoch agus cultúrtha a chur in iúl. Mar shampla, bhí éide a SS Naitsíoch ginearálta

Ar an gcaoi chéanna, taispeánadh an íomhá de Barbie ón tSúdáin Theas a ghin AI, agus gunna á choinneáil aici lena taobh, rud a léirigh an claonadh atá fréamhaithe go domhain in algartaim AI.

Seachas sin, léirigh roinnt íomhánna eile míchruinneas cultúrtha, mar an Barbie Catar ag caitheamh a Ghutra, ceannbheart traidisiúnta a chaitheann fir Arabacha.

Fuair ​​an blagphost seo aimhreas ollmhór maidir le steiréitíopáil chultúrtha agus laofacht. Tá an Scoil Idirdhisciplíneach Londain (LIS) ar a dtugtar seo dochar ionadaíochta ní mór é sin a choinneáil faoi smacht trí chaighdeáin cháilíochta a fhorchur agus trí chomhlachtaí maoirseachta AI a bhunú.

Teorainneacha ar Mhúnlaí AI

Tá an cumas ag AI tionscail go leor a réabhlóidiú. Ach, má mhéadaíonn cásanna cosúil leis na cinn a luaitear thuas, is féidir go dtiocfadh laghdú ar an nglacadh go ginearálta le AI, rud a fhágann go gcaillfear deiseanna. Tarlaíonn cásanna den sórt sin de ghnáth mar gheall ar theorainneacha suntasacha i gcórais AI, mar:

• Easpa Cruthaitheachta: Ós rud é nach féidir le AI cinntí a dhéanamh ach amháin bunaithe ar na sonraí oiliúna a thugtar, níl an chruthaitheacht ann chun smaoineamh lasmuigh den bhosca, rud a chuireann bac ar réiteach fadhbanna cruthaitheach.

• Easpa Tuisceana Comhthéacsúla: Bíonn deacrachtaí ag córais AI tuiscint a fháil ar nuances comhthéacsúla nó léirithe teanga de chuid réigiúin, rud a fhágann go minic earráidí i dtorthaí.

• Claonadh Oiliúna: Braitheann AI ar shonraí stairiúla ar féidir leo gach cineál samplaí idirdhealaitheacha a chuimsiú. Le linn na hoiliúna, is féidir leis an tsamhail patrúin idirdhealaitheacha a fhoghlaim go héasca chun torthaí éagóracha agus claonta a bhaint amach.

Conas Laofacht a Laghdú i Múnlaí AI

Saineolaithe meastachán go bhféadfaí 2026% den ábhar ar líne a ghiniúint go sintéiseach faoi 90. Mar sin, tá sé ríthábhachtach na saincheisteanna atá i láthair i dteicneolaíochtaí Giniteacha AI a íoslaghdú go tapa.

Is féidir roinnt príomhstraitéisí a chur i bhfeidhm chun an laofacht i múnlaí AI a laghdú. Seo cuid acu:

• Cinntigh Cáilíocht Sonraí: Is féidir le sonraí iomlána, cruinne agus glana a ionghabháil isteach i múnla AI cuidiú le claonadh a laghdú agus torthaí níos cruinne a tháirgeadh.
• Tacair Sonraí Éagsúla: Is féidir le tacair shonraí éagsúla a thabhairt isteach i gcóras AI cuidiú leis an gclaonadh a mhaolú de réir mar a éiríonn an córas AI níos cuimsithí le himeacht ama.

• Lúba Aiseolais: Le tairiseach lúb aiseolais agus foghlama, is féidir le samhlacha AI a gcuid torthaí a fheabhsú de réir a chéile

• Rialacháin Mhéadaithe: Tá rialacháin AI domhanda ríthábhachtach chun cáilíocht na gcóras AI thar theorainneacha a chothabháil. Mar sin, ní mór d'eagraíochtaí idirnáisiúnta oibriú le chéile chun caighdeánú AI a chinntiú.

• Glacadh Méadaithe ar AI Freagrach: Cuidíonn straitéisí freagracha AI go dearfach le claonadh AI a mhaolú, cothaítear cothroime agus cruinneas i gcórais AI, agus cinntíonn siad go bhfreastalaíonn siad ar bhonn úsáideora éagsúil agus iad ag iarraidh feabhsú leanúnach a dhéanamh.

Trí thacair sonraí éagsúla, freagracht eiticiúil, agus meáin chumarsáide oscailte a ionchorprú, is féidir linn a chinntiú go bhfuil AI ina fhoinse athraithe dearfacha ar fud an domhain.

Más mian leat tuilleadh a fhoghlaim faoi chlaonadh agus faoi ról na hIntleachta Saorga inár sochaí, léigh na blaganna seo a leanas.

• An Dóigh a bhfuil Príomhtheicneolaíochtaí á nImscaradh ag Cathracha a Ghiaráilíonn Algartaim AI Neamhchlaonta
• Is féidir le AI Mífhaisnéis agus Claonadh sa Nuacht a Chomhrac
• Laofacht agus Cothroime Córas AI-Bhunaithe Laistigh de Choireacht Airgeadais
• Seiceálaí Claonachta AI-tiomáinte le haghaidh Ailt Nuachta, Ar fáil i Python