Artificiell intelligens
AI-fördomar och kulturella stereotyper: Effekter, begrÀnsningar och minskning
Artificiell intelligens (AI), särskilt Generativ AI, fortsätter att överträffa förväntningarna med sin förmåga att förstå och härma mänsklig kognition och intelligens. Men i många fall kan resultaten eller förutsägelserna från AI-system reflektera olika typer av AI-fördomar, såsom kulturella och rasliga.
Buzzfeeds “Barbies of the World“-blogg (som nu är borttagen) visar tydligt dessa kulturella fördomar och ofullkomligheter. Dessa “barbies” skapades med hjälp av Midjourney – en ledande AI-bildgenerator, för att ta reda på hur barbies skulle se ut i varje del av världen. Vi kommer att prata mer om detta senare.
Men detta är inte första gången AI har varit “rasistisk” eller producerat ofullständiga resultat. Till exempel stämdes Apple 2022 för påståenden om att Apple Watchs blodsyremätare var fördomsfull mot personer med färg. I ett annat rapporterat fall upptäckte Twitter-användare att Twitters automatiska bildbeskärnings-AI föredrog vita människors ansikten framför svarta individer och kvinnor framför män. Dessa är kritiska utmaningar, och att hantera dem är betydligt utmanande.
I den här artikeln kommer vi att undersöka vad AI-fördomar är, hur de påverkar vårt samhälle och kort diskutera hur praktiker kan minska dem för att hantera utmaningar som kulturella stereotyper.
Vad är AI-fördomar?
AI-fördomar uppstår när AI-modeller producerar diskriminerande resultat mot vissa demografiska grupper. Flera typer av fördomar kan komma in i AI-system och producera felaktiga resultat. Några av dessa AI-fördomar är:
- Stereotyp fördom: Stereotyp fördom hänvisar till fenomenet där resultaten från en AI-modell består av stereotyper eller uppfattade begrepp om en viss demografisk grupp.
- Raslig fördom: Raslig fördom i AI inträffar när resultatet av en AI-modell är diskriminerande och orättvist mot en individ eller grupp baserat på deras etnicitet eller ras.
- Kulturell fördom: Kulturell fördom kommer in i spel när resultaten från en AI-modell föredrar en viss kultur framför en annan.
Förutom fördomar kan andra problem också hindra resultaten från ett AI-system, såsom:
- Felaktigheter: Felaktigheter uppstår när resultaten som produceras av en AI-modell är felaktiga på grund av inkonsekvent träningsdata.
- Hallucinationer: Hallucinationer uppstår när AI-modeller producerar fiktiva och falska resultat som inte baseras på faktiska data.
AI-fördomars påverkan på samhället
AI-fördomars påverkan på samhället kan vara skadlig. Fördomsfulla AI-system kan producera felaktiga resultat som förstärker de fördomar som redan finns i samhället. Dessa resultat kan öka diskriminering och rättighetsbrott, påverka rekryteringsprocesser och minska förtroendet för AI-teknik.
Dessutom leder fördomsfulla AI-resultat ofta till felaktiga förutsägelser som kan ha allvarliga konsekvenser för oskyldiga individer. Till exempel blev Robert McDaniel i augusti 2020 måltavla för en brottslig handling på grund av Chicagopolisens prediktiva polisalgoritm som märkte honom som en “person av intresse”.
Liknande fördomsfulla AI-system inom hälso- och sjukvården kan ha allvarliga patientresultat. 2019 upptäckte Science att en allmänt använd amerikansk medicinsk algoritm var rasligt fördomsfull mot personer med färg, vilket ledde till att svarta patienter fick mindre högriskvård.
Barbies of the World
I juli 2023 publicerade Buzzfeed en blogg som bestod av 194 AI-genererade barbies från hela världen. Inlägget blev viralt på Twitter. Även om Buzzfeed skrev en varningsmeddelande, kunde det inte stoppa nätanvändarna från att peka på de rasliga och kulturella ofullkomligheterna. Till exempel bar den AI-genererade bilden av en tysk Barbie uniformen för en SS-nazistisk general.
Liknande den AI-genererade bilden av en sydsudanesisk Barbie som höll ett vapen vid sin sida, vilket reflekterade de djupt rotade fördomarna i AI-algoritmerna.
Förutom detta visade flera andra bilder kulturella ofullkomlighet, såsom Qatar-Barbie som bar en ghutra, en traditionell huvudbonad som bärs av arabiska män.
Denna bloggpost fick en massiv motreaktion för kulturell stereotyp och fördom. London Interdisciplinary School (LIS) kallade detta representativ skada som måste hållas under kontroll genom att införa kvalitetsstandarder och etablera AI-övervakningsorgan.
Begränsningar av AI-modeller
AI har potentialen att revolutionera många branscher. Men om scenarier som de ovan nämnda förökar sig, kan det leda till en minskning av den allmänna AI-antagningen, vilket resulterar i missade möjligheter. Sådana fall uppstår vanligtvis på grund av betydande begränsningar i AI-system, såsom:
- Brist på kreativitet: Eftersom AI endast kan fatta beslut baserat på den givna träningsdatan, saknar den kreativitet för att tänka utanför boxen, vilket hindrar kreativt problemlösning.
- Brist på kontextuell förståelse: AI-system har svårt att förstå kontextuella nyanser eller språkuttryck i en region, vilket ofta leder till fel i resultaten.
- Träningsfördom: AI förlitar sig på historiska data som kan innehålla alla typer av diskriminerande prover. Under träningsprocessen kan modellen lätt lära sig diskriminerande mönster för att producera orättvisa och fördomsfulla resultat.
Hur man minskar fördomar i AI-modeller
Experter uppskattar att år 2026 kan 90% av all onlineinnehåll vara syntetiskt genererat. Därför är det viktigt att snabbt minimera problemen i Generative AI-teknologier.
Flera viktiga strategier kan implementeras för att minska fördomar i AI-modeller. Några av dessa är:
- Säkerställ datakvalitet: Att mata in fullständig, korrekt och ren data i en AI-modell kan hjälpa till att minska fördomar och producera mer exakta resultat.
- Mångfaldiga dataset: Att införa mångfaldiga dataset i ett AI-system kan hjälpa till att minska fördomar eftersom AI-systemet blir mer inkluderande över tid.
- Återkopplingsloopar: Med en konstant återkopplings- och inlärningsloop kan AI-modeller gradvis förbättra sina resultat
- Ökade regleringar: Globala AI-regleringar är avgörande för att upprätthålla kvaliteten på AI-system över gränserna. Därför måste internationella organisationer arbeta tillsammans för att säkerställa AI-standardisering.
- Ökad antagande av ansvarsfull AI: Ansvarsfulla AI-strategier bidrar positivt till att minska AI-fördomar, odla rättvisa och exakthet i AI-system och säkerställa att de tjänar en mångfaldig användarbas samtidigt som de strävar efter kontinuerlig förbättring.
Genom att införa mångfaldiga dataset, etiskt ansvar och öppna kommunikationsmedier kan vi säkerställa att AI är en källa till positiv förändring i hela världen.
Om du vill lära dig mer om fördomar och rollen av artificiell intelligens i vårt samhälle, läs följande blogginlägg.
