AI hlutdrægni og menningarlega staðalímyndir: Áhrif, takmarkanir og mildun

Sérstaklega gervigreind (AI). Kynslóð AI, heldur áfram að fara fram úr væntingum með getu sinni til að skilja og líkja eftir mannlegri vitsmuna og greind. Hins vegar, í mörgum tilfellum, geta niðurstöður eða spár gervigreindarkerfa endurspeglað ýmsar gerðir af gervigreindarhlutdrægni, svo sem menningar- og kynþáttafordóma.

Buzzfeed er “Barbie heimsins” blogg (sem nú er eytt) sýnir greinilega þessar menningarlegu hlutdrægni og ónákvæmni. Þessar 'barbies' voru búnar til með því að nota Miðferð - leiðandi gervigreindarmyndavél, til að komast að því hvernig barbíar myndu líta út í öllum heimshlutum. Við tölum meira um þetta síðar.

En þetta er ekki í fyrsta skipti sem gervigreind hefur verið „rasisti“ eða skilað ónákvæmum niðurstöðum. Til dæmis, árið 2022, var Apple lögsótt vegna ásakana um að súrefnisskynjari Apple Watch í blóði hafi verið hlutdrægur gegn lituðu fólki. Í öðru tilviki sem greint var frá komust Twitter notendur að því Sjálfvirk gervigreind á Twitter studdi andlit hvíts fólks fram yfir svarta einstaklinga og konum fram yfir karla. Þetta eru mikilvægar áskoranir og það er verulega krefjandi að takast á við þau.

Í þessari grein munum við skoða hvað hlutdrægni í gervigreind er, hvernig hún hefur áhrif á samfélag okkar og ræðum stuttlega hvernig iðkendur geta draga úr það til að takast á við áskoranir eins og menningarlegar staðalmyndir.

Hvað er AI hlutdrægni?

AI hlutdrægni á sér stað þegar gervigreind líkön skila niðurstöðum sem mismuna ákveðnum lýðfræði. Nokkrar gerðir af hlutdrægni geta farið inn í gervigreindarkerfi og gefið rangar niðurstöður. Sum þessara AI hlutdrægni eru:

• Staðalýpísk hlutdrægni: Staðalýpísk hlutdrægni vísar til fyrirbærisins þar sem niðurstöður gervigreindarlíkans samanstanda af staðalmyndum eða skynjuðum hugmyndum um ákveðna lýðfræði.
• Kynþáttafordómar: Kynþáttahlutdrægni í gervigreind á sér stað þegar niðurstaða gervigreindarlíkans er mismunun og ósanngjörn gagnvart einstaklingi eða hópi á grundvelli þjóðernis eða kynþáttar.
• Menningarleg hlutdrægni: Menningarleg hlutdrægni kemur við sögu þegar niðurstöður gervigreindarlíkans styðja ákveðna menningu fram yfir aðra.

Burtséð frá hlutdrægni geta önnur mál einnig hindrað niðurstöður gervigreindarkerfis, svo sem:

• Ónákvæmni: Ónákvæmni á sér stað þegar niðurstöður sem framleiddar eru af gervigreindarlíkani eru rangar vegna ósamræmis þjálfunargagna.
• Ofskynjanir: Ofskynjanir eiga sér stað þegar gervigreind líkön gefa upp skáldaðar og rangar niðurstöður sem eru ekki byggðar á staðreyndum.

Áhrif AI hlutdrægni á samfélagið

Áhrif AI hlutdrægni á samfélagið geta verið skaðleg. Hlutdræg gervigreind kerfi geta skilað ónákvæmum niðurstöðum sem magna upp þá fordóma sem þegar eru til staðar í samfélaginu. Þessar niðurstöður geta aukið mismunun og réttindabrot, haft áhrif á ráðningarferli og dregið úr trausti á gervigreindartækni.

Einnig leiða hlutdrægar gervigreindarniðurstöður oft til ónákvæmar spár sem geta haft alvarlegar afleiðingar fyrir saklausa einstaklinga. Til dæmis, í ágúst 2020, Robert McDaniel varð skotmark glæpsamlegs athæfis vegna spádómslögreglu lögreglunnar í Chicago sem merkti hann sem „hagsmunaaðila“.

Á sama hátt geta hlutdræg gervigreindarkerfi í heilbrigðisþjónustu haft bráða útkomu sjúklinga. Árið 2019, Vísindi uppgötvaði að mikið notað Bandarískt læknisfræðilegt reiknirit var kynþáttafordómar gegn lituðu fólki, sem leiddi til þess að svartir sjúklingar fengu minni áhættumeðferð.

Barbie heimsins

Í júlí 2023, Buzzfeed birti blogg samanstendur af 194 gervigreindum barbíum frá öllum heimshornum. Færslan fór sem eldur í sinu á Twitter. Þrátt fyrir að Buzzfeed hafi skrifað fyrirvararyfirlýsingu kom það ekki í veg fyrir að netverjar bentu á kynþátta- og menningarlega ónákvæmni. Til dæmis var gervigreind mynd af þýskri Barbie klædd einkennisbúningi a SS nasisti almennt

Á sama hátt var sýnd gervigreind mynd af Barbie frá Suður-Súdan með byssu við hlið sér, sem endurspeglar rótgróna hlutdrægni í gervigreind reiknirit.

Fyrir utan þetta sýndu nokkrar aðrar myndir menningarlega ónákvæmni, eins og Katar Barbie klædd Ghutra, hefðbundið höfuðfat sem arabískir karlmenn bera.

Þessi bloggfærsla fékk gríðarlegt bakslag vegna menningarlegra staðalímynda og hlutdrægni. The London Interdisciplinary School (LIS) kallaði þetta táknrænn skaða sem verður að halda í skefjum með því að setja gæðastaðla og koma á fót eftirlitsstofnunum með gervigreind.

Takmarkanir gervigreindarlíkana

AI hefur möguleika á að gjörbylta mörgum atvinnugreinum. En ef atburðarás eins og þær sem nefnd eru hér að ofan fjölga sér, getur það leitt til lækkunar á almennri upptöku gervigreindar, sem leiðir til glötuðra tækifæra. Slík tilvik eiga sér stað venjulega vegna verulegra takmarkana í gervigreindarkerfum, svo sem:

• Skortur á sköpunargáfu: Þar sem gervigreind getur aðeins tekið ákvarðanir byggðar á gefnum þjálfunargögnum, skortir það sköpunargáfuna til að hugsa út fyrir rammann, sem hindrar skapandi vandamálalausn.

• Skortur á samhengisskilningi: Gervigreind kerfi eiga í erfiðleikum með að skilja blæbrigði í samhengi eða tungumálatjáningu svæðis, sem oft leiðir til villna í niðurstöðum.

• Þjálfunarhlutdrægni: Gervigreind treystir á söguleg gögn sem geta innihaldið alls kyns mismununarsýni. Meðan á þjálfun stendur getur líkanið auðveldlega lært mismununarmynstur til að framleiða ósanngjarnar og hlutdrægar niðurstöður.

Hvernig á að draga úr hlutdrægni í gervigreindum gerðum

Sérfræðingar áætlun að árið 2026 væri hægt að búa til 90% af efninu á netinu. Þess vegna er mikilvægt að draga hratt úr vandamálum sem eru til staðar í Generative AI tækni.

Hægt er að innleiða nokkrar lykilaðferðir til að draga úr hlutdrægni í gervigreindarlíkönum. Sum þessara eru:

• Tryggja gagnagæði: Að taka heill, nákvæm og hrein gögn inn í gervigreind líkan getur hjálpað til við að draga úr hlutdrægni og framleiða nákvæmari niðurstöður.
• Fjölbreytt gagnasöfn: Að kynna fjölbreytt gagnasöfn í gervigreindarkerfi getur hjálpað til við að draga úr hlutdrægni þar sem gervigreindarkerfið verður meira innifalið með tímanum.

• Feedback lykkjur: Með fasta endurgjöf og námslykkju, gervigreind líkön geta smám saman bætt útkomu sína

• Auknar reglur: Alþjóðlegar gervigreindarreglur eru mikilvægar til að viðhalda gæðum gervigreindarkerfa þvert á landamæri. Þess vegna verða alþjóðlegar stofnanir að vinna saman að því að tryggja stöðlun gervigreindar.

• Aukin innleiðing á ábyrgri gervigreind: Ábyrgar gervigreindaraðferðir stuðla jákvætt að því að draga úr hlutdrægni gervigreindar, rækta sanngirni og nákvæmni í gervigreindarkerfum og tryggja að þær þjóni fjölbreyttum notendahópi á sama tíma og þeir leitast við áframhaldandi umbætur.

Með því að fella inn fjölbreytt gagnasöfn, siðferðilega ábyrgð og opna samskiptamiðla getum við tryggt að gervigreind sé uppspretta jákvæðra breytinga um allan heim.

Ef þú vilt læra meira um hlutdrægni og hlutverk gervigreindar í samfélagi okkar, lestu eftirfarandi blogg.

• Hvernig borgir eru að beita leiðandi tækni að nýta óhlutdræg gervigreind reiknirit
• AI getur barist við rangar upplýsingar og hlutdrægni í fréttum
• Hlutdrægni og sanngirni gervigreindarkerfa innan fjármálaglæpa
• AI-drifinn hlutdrægni afgreiðslumaður fyrir fréttagreinar, fáanlegur í Python