Kunstig intelligens
AI-forvrengning og kulturelle stereotyper: Effekter, begrensninger og mitigasjon
Kunstig intelligens (AI), spesielt Generative AI, fortsetter å overgå forventningene med sin evne til å forstå og etterligne menneskelig kognisjon og intelligens. Likevel kan resultater eller prediksjoner fra AI-systemer i mange tilfeller reflektere ulike typer AI-forvrengning, som kulturelle og rasiale.
Buzzfeed’s “Barbies of the World“-blogg (som nå er slettet) manifesterte tydelig disse kulturelle forvrengningene og uakkuratheitene. Disse “barbies” ble laget med hjelp av Midjourney – en ledende AI-bildegenerator, for å finne ut hvordan barbies ville se ut i hver del av verden. Vi kommer til å diskutere dette mer senere.
Men dette er ikke første gangen AI har vært “rasistisk” eller produsert uakkurate resultater. For eksempel ble Apple i 2022 søkt på grunn av påstander om at Apple Watchs blodoksygen-sensor var forvrengt mot personer med mørk hud. I en annen rapportert sak fant Twitter-brukere ut at Twitters automatisk bilde-kropping AI favoriserte hvite menneskers ansikter over svarte mennesker og kvinner over menn. Disse er kritiske utfordringer, og å løse dem er betydelig utfordrende.
I denne artikkelen vil vi se på hva AI-forvrengning er, hvordan den påvirker vårt samfunn, og diskutere kort hvordan praktikere kan mitigere den for å løse utfordringer som kulturelle stereotyper.
Hva er AI-forvrengning?
AI-forvrengning skjer når AI-modeller produserer diskriminerende resultater mot bestemte demografiske grupper. Det kan være flere typer forvrengninger som kan komme inn i AI-systemer og produsere feil resultater. Noen av disse AI-forvrengningene er:
- Stereotyp-forvrengning: Stereotyp-forvrengning refererer til fenomenet der resultater fra en AI-modell består av stereotyper eller oppfattede forestillinger om en bestemt demografisk gruppe.
- Ras-forvrengning: Ras-forvrengning i AI skjer når resultatet av en AI-modell er diskriminerende og urettferdig mot en person eller gruppe basert på deres etnisitet eller rase.
- Kulturell forvrengning: Kulturell forvrengning kommer inn i bildet når resultater fra en AI-modell favoriserer en bestemt kultur over en annen.
Foruten forvrengninger, kan andre problemer også hindre resultater fra et AI-system, som:
- Uakkuratheiteter: Uakkuratheiteter skjer når resultater produsert av en AI-modell er feil på grunn av inkonsistente treningdata.
- Hallusinasjoner: Hallusinasjoner skjer når AI-modeller produserer fiktive og feil resultater som ikke er basert på faktiske data.
AI-forvrengningens effekt på samfunnet
AI-forvrengningens effekt på samfunnet kan være skadelig. Forvrengte AI-systemer kan produsere uakkurate resultater som forsterker fordommene som allerede eksisterer i samfunnet. Disse resultater kan øke diskriminering og rettsbrudd, påvirke rekrutteringsprosesser og redusere tillit til AI-teknologi.
Også, forvrengte AI-resultater fører ofte til uakkurate prediksjoner som kan ha alvorlige konsekvenser for uskyldige personer. For eksempel, i august 2020, ble Robert McDaniel målet for en kriminell handling på grunn av Chicago Politidepartementets prediksjonsalgoritme som klassifiserte ham som en “person av interesse”.
Liknende, forvrengte helse-AI-systemer kan ha alvorlige konsekvenser for pasienter. I 2019, oppdaget Science at en vidt brukte US-medisinsk algoritme var ras-forvrengt mot personer med mørk hud, noe som førte til at svarte pasienter fikk mindre høyrisiko-behandling.
Barbies of the World
I juli 2023, publiserte Buzzfeed en blogg som bestod av 194 AI-genererte barbies fra hele verden. Innlegget gikk viralt på Twitter. Selv om Buzzfeed skrev en disclaimer-erklæring, stoppet det ikke nettbrukerne fra å peke på de rasiale og kulturelle uakkuratheitene. For eksempel, var AI-generert bilde av en tysk Barbie iført uniformen til en SS-nazist-general.
Liknende, var AI-generert bilde av en sør-sudanesisk Barbie avbildet med en pistol ved siden av, noe som reflekterte de dypt rotfestede forvrengningene i AI-algoritmene.
Foruten dette, viste flere andre bilder kulturelle uakkuratheiteter, som den qatarske Barbie som bar en ghutra, en tradisjonell hodeplagg båret av arabiske menn.
Denne blogginnlegget fikk en massiv tilbakegang for kulturell stereotyp og forvrengning. London Interdisciplinary School (LIS) kalte dette representativ skade som må holdes under kontroll ved å pålegge kvalitetsstandarder og etablere AI-overvakningsorganer.
Begrensninger i AI-modeller
AI har potensialet til å revolusjonere mange bransjer. Men hvis scenarier som de ovennevnte blir vanlige, kan det føre til en nedgang i generell AI-adoptsjon, noe som kan føre til missede muligheter. Slike tilfeller skjer vanligvis på grunn av betydelige begrensninger i AI-systemer, som:
- Mangel på kreativitet: Ettersom AI bare kan ta beslutninger basert på gitt treningdata, mangler det kreativitet til å tenke utenfor boksen, noe som hindrer kreativ problemløsning.
- Mangel på kontekstuell forståelse: AI-systemer har vanskelig for å forstå kontekstuelle nyanser eller språkuttrykk fra en region, noe som ofte fører til feil i resultater.
- Trening-forvrengning: AI er avhengig av historiske data som kan inneholde diskriminerende mønster. Under trening kan modellen lett lære diskriminerende mønster for å produsere urettferdige og forvrengte resultater.
Hvordan redusere forvrengning i AI-modeller
Eksperter estimerer at innen 2026 kan 90% av online-innholdet være syntetisk generert. Derfor er det viktig å raskt minimere problemene i generative AI-teknologier.
Det finnes flere nøkkelstrategier som kan implementeres for å redusere forvrengning i AI-modeller. Noen av disse er:
- Sikre datakvalitet: Å innføre fullstendige, nøyaktige og rene data i en AI-modell kan hjelpe med å redusere forvrengning og produsere mer nøyaktige resultater.
- Mangfoldige datasett: Å innføre mangfoldige datasett i en AI-system kan hjelpe med å mitigere forvrengning ettersom AI-systemet blir mer inklusivt over tid.
- Tilbakemeldingsløkker: Med en konstant tilbakemeldings- og læringsløkke kan AI-modeller gradvis forbedre sine resultater
- Økt regulering: Globale AI-reguleringer er avgjørende for å opprettholde kvaliteten på AI-systemer over grenser. Derfor må internasjonale organisasjoner samarbeide for å sikre AI-standardisering.
- Økt adopsjon av ansvarlig AI: Ansvarlige AI-strategier bidrar positivt til å mitigere AI-forvrengning, dyrke rettferdighet og nøyaktighet i AI-systemer, og sikre at de tjener et mangfoldig brukergrunnlag mens de stræber etter kontinuerlig forbedring.
Ved å inkorporere mangfoldige datasett, etisk ansvar og åpne kommunikasjonsmedium, kan vi sikre at AI er en kilde til positiv forandring globalt.
Hvis du ønsker å lære mer om forvrengning og rollen til kunstig intelligens i vårt samfunn, les følgende blogginnlegg.
