AI-bias och kulturella stereotyper: effekter, begränsningar och begränsning

Speciellt artificiell intelligens (AI). Generativ AI, fortsätter att överträffa förväntningarna med sin förmåga att förstå och efterlikna mänsklig kognition och intelligens. Men i många fall kan resultaten eller förutsägelserna av AI-system återspegla olika typer av AI-bias, såsom kulturell och ras.

Buzzfeeds "Världens Barbies” blogg (som nu är raderad) visar tydligt dessa kulturella fördomar och felaktigheter. Dessa "barbies" skapades med hjälp av midjourney – en ledande AI-bildgenerator för att ta reda på hur barbies skulle se ut i alla delar av världen. Vi kommer att prata mer om detta senare.

Men det här är inte första gången AI har varit "rasistisk" eller producerat felaktiga resultat. Till exempel, 2022 var Apple stämd över anklagelser om att Apple Watchs blodsyresensor var partisk mot färgade personer. I ett annat rapporterat fall fann Twitter-användare det Twitters automatiska bildbeskärnings-AI gynnade vita människors ansikten framför svarta individer och kvinnor framför män. Dessa är kritiska utmaningar, och att ta itu med dem är mycket utmanande.

I den här artikeln kommer vi att titta på vad AI-bias är, hur det påverkar vårt samhälle och kort diskutera hur utövare kan mildra det för att ta itu med utmaningar som kulturella stereotyper.

Vad är AI Bias?

AI-bias uppstår när AI-modeller ger diskriminerande resultat mot viss demografi. Flera typer av fördomar kan komma in i AI-system och ge felaktiga resultat. Några av dessa AI-fördomar är:

• Stereotypisk bias: Stereotypisk bias hänvisar till fenomenet där resultaten av en AI-modell består av stereotyper eller upplevda föreställningar om en viss demografi.
• Rasfördom: Rasfördomar i AI uppstår när resultatet av en AI-modell är diskriminerande och orättvist mot en individ eller grupp baserat på deras etnicitet eller ras.
• Kulturell fördom: Kulturell fördom spelar in när resultaten av en AI-modell gynnar en viss kultur framför en annan.

Förutom fördomar kan andra problem också hindra resultatet av ett AI-system, till exempel:

• Felaktigheter: Felaktigheter uppstår när resultaten som produceras av en AI-modell är felaktiga på grund av inkonsekventa träningsdata.
• Hallucinationer: Hallucinationer uppstår när AI-modeller producerar fiktiva och falska resultat som inte är baserade på fakta.

Effekten av AI-bias på samhället

Effekten av AI-bias på samhället kan vara skadlig. Partiska AI-system kan ge felaktiga resultat som förstärker de fördomar som redan finns i samhället. Dessa resultat kan öka diskriminering och kränkningar av rättigheter, påverka anställningsprocesser och minska förtroendet för AI-teknik.

Dessutom leder partiska AI-resultat ofta till felaktiga förutsägelser som kan få allvarliga konsekvenser för oskyldiga individer. Till exempel, i augusti 2020, Robert McDaniel blev måltavla för en kriminell handling på grund av att Chicago Police Departments förutsägande polisalgoritm stämplade honom som en "intressant person".

På samma sätt kan partiska AI-system inom sjukvården ha akuta patientresultat. Under 2019, Vetenskap upptäckte att en mycket använd Amerikansk medicinsk algoritm var rasmässigt partisk mot färgade personer, vilket ledde till att svarta patienter fick mindre högriskvård.

Världens Barbies

I juli 2023, Buzzfeed publicerade en blogg bestående av 194 AI-genererade barbies från hela världen. Inlägget blev viralt på Twitter. Även om Buzzfeed skrev ett uttalande om ansvarsfriskrivning, hindrade det inte nätanvändarna från att påpeka rasistiska och kulturella felaktigheter. Till exempel bar den AI-genererade bilden av tyska Barbie uniformen av en SS nazist allmänhet.

På liknande sätt visades den AI-genererade bilden av en Sydsudan Barbie med en pistol vid sin sida, vilket återspeglar den djupt rotade fördomen i AI-algoritmer.

Bortsett från detta visade flera andra bilder kulturella felaktigheter, som att Qatar Barbie bar en Ghutra, en traditionell huvudbonad som bärs av arabiska män.

Det här blogginlägget fick en massiv motreaktion för kulturell stereotypisering och partiskhet. De London Interdisciplinary School (LIS) kallade detta representativ skada som måste hållas i schack genom att införa kvalitetsstandarder och inrätta tillsynsorgan för AI.

Begränsningar för AI-modeller

AI har potential att revolutionera många branscher. Men om scenarier som de som nämns ovan sprider sig, kan det leda till en minskning av allmän AI-användning, vilket resulterar i missade möjligheter. Sådana fall uppstår vanligtvis på grund av betydande begränsningar i AI-system, såsom:

• Brist på kreativitet: Eftersom AI bara kan fatta beslut baserat på givna träningsdata saknar den kreativitet att tänka utanför ramarna, vilket hindrar kreativ problemlösning.

• Brist på kontextuell förståelse: AI-system har svårt att förstå kontextuella nyanser eller språkuttryck i en region, vilket ofta leder till fel i resultaten.

• Träningsbias: AI förlitar sig på historisk data som kan innehålla alla möjliga diskriminerande prover. Under utbildningen kan modellen lätt lära sig diskriminerande mönster för att skapa orättvisa och partiska resultat.

Hur man minskar bias i AI-modeller

Experter uppskatta att år 2026 skulle 90 % av onlineinnehållet kunna genereras syntetiskt. Därför är det viktigt att snabbt minimera problem som finns i Generativ AI-teknik.

Flera nyckelstrategier kan implementeras för att minska bias i AI-modeller. Några av dessa är:

• Säkerställ datakvalitet: Att ta in fullständiga, korrekta och rena data i en AI-modell kan bidra till att minska bias och producera mer exakta resultat.
• Olika datamängder: Att introducera olika datauppsättningar i ett AI-system kan hjälpa till att mildra partiskhet eftersom AI-systemet blir mer inkluderande med tiden.

• Feedback loopar: Med en konstant feedback och inlärningsslingaAI-modeller kan gradvis förbättra sina resultat

• Ökade regler: Globala AI-regler är avgörande för att upprätthålla kvaliteten på AI-system över gränserna. Därför måste internationella organisationer arbeta tillsammans för att säkerställa AI-standardisering.

• Ökad användning av ansvarsfull AI: Ansvarsfulla AI-strategier bidrar positivt till att mildra AI-bias, odla rättvisa och noggrannhet i AI-system och se till att de tjänar en mångfaldig användarbas samtidigt som de strävar efter ständiga förbättringar.

Genom att införliva olika datauppsättningar, etiskt ansvar och öppna kommunikationsmedier kan vi säkerställa att AI är en källa till positiv förändring över hela världen.

Om du vill lära dig mer om partiskhet och artificiell intelligenss roll i vårt samhälle, läs följande bloggar.

• Hur städer använder ledande teknik som utnyttjar opartiska AI-algoritmer
• AI kan bekämpa desinformation och partiskhet i nyheter
• Fördom och rättvisa hos AI-baserade system inom finansiell brottslighet
• En AI-driven fördomskontroll för nyhetsartiklar, tillgänglig i Python