Kunstig intelligens
AI-forudsel og kulturelle stereotyper: Effekter, begrænsninger og formindskelse
Kunstig intelligens (AI), især Generative AI, fortsætter med at overgå forventningerne med sin evne til at forstå og efterligne menneskelig kognition og intelligens. Dog kan resultaterne eller forudsigelserne fra AI-systemer i mange tilfælde afspejle forskellige typer af AI-forudsel, såsom kulturelle og racemæssige.
Buzzfeed’s “Barbies of the World“-blog (som nu er slettet) manifestere tydeligt disse kulturelle forudsel og uretfærdigheder. Disse ‘barbies’ blev skabt ved hjælp af Midjourney – en førende AI-billedegenerator, for at se, hvordan barbies ville se ud i hver del af verden. Vi kommer til at tale mere om dette senere.
Men dette er ikke første gang, AI har været “racistisk” eller produceret uretfærdige resultater. For eksempel blev Apple i 2022 sagt for påstande om, at Apple Watch’s blod-ilt-sensor var fordomsfuld over for personer af farve. I et andet rapporteret tilfælde fandt Twitter-brugere, at Twitter’s automatisk billedbeskæring-AI foretrækker hvide menneskers ansigter over sorte individer og kvinder over mænd. Disse er kritiske udfordringer, og at løse dem er betydeligt svært.
I denne artikel vil vi se på, hvad AI-forudsel er, hvordan det påvirker vores samfund, og kort diskutere, hvordan praktikere kan førhindre det for at løse udfordringer som kulturelle stereotyper.
Hvad er AI-forudsel?
AI-forudsel opstår, når AI-modeller producerer diskriminerende resultater mod bestemte befolkningsgrupper. Der kan være flere typer af forudsel, der kan trænge ind i AI-systemer og producere forkerte resultater. Nogle af disse AI-forudsel er:
- Stereotyp-forudsel: Stereotyp-forudsel henviser til fænomenet, hvor resultaterne af en AI-model består af stereotyper eller opfattede forestillinger om en bestemt befolkningsgruppe.
- Racemæssig forudsel: Racemæssig forudsel i AI sker, når resultaterne af en AI-model er diskriminerende og uretfærdige over for en person eller gruppe baseret på deres etnicitet eller race.
- Kulturel forudsel: Kulturel forudsel kommer til syne, når resultaterne af en AI-model favoriserer en bestemt kultur over en anden.
Ud over forudsel kan andre problemer også hindre resultaterne af et AI-system, såsom:
- <strong,Urette: Urette sker, når resultaterne produceret af en AI-model er forkerte på grund af inkonsistent træningsdata.
- Hallucinationer: Hallucinationer sker, når AI-modeller producerer fiktive og forkerte resultater, der ikke er baseret på faktuelle data.
AI-forudselens indvirkning på samfundet
AI-forudselens indvirkning på samfundet kan være skadelig. Forudselte AI-systemer kan producere forkerte resultater, der forstærker fordommene, der allerede findes i samfundet. Disse resultater kan øge diskrimination og krænkelser af rettigheder, påvirke rekrutteringsprocesser og reducere tilliden til AI-teknologi.
Desuden fører forudselte AI-resultater ofte til forkerte forudsigelser, der kan have alvorlige konsekvenser for uskyldige personer. For eksempel blev Robert McDaniel i august 2020 mål for en kriminel handling på grund af Chicago Politiets prædiktive politi-algoritme, der havde markeret ham som en “person af interesse”.
Lignende kan forudselte sundheds-AI-systemer have alvorlige patientresultater. I 2019 opdagede Science, at en bredt brugt amerikansk sundhedsalgoritme var racemæssigt forudselte over for personer af farve, hvilket resulterede i, at sorte patienter fik mindre højrisiko-sundhedsstyring.
Barbies of the World
I juli 2023 offentliggjorde Buzzfeed en blog, der bestod af 194 AI-genererede barbies fra hele verden. Indlægget gik viralt på Twitter. Selv om Buzzfeed skrev en disclaimer-erklæring, stoppede det ikke netbrugerne fra at pege på de racemæssige og kulturelle uretfærdigheder. For eksempel var AI-genereret billede af en tysk Barbie iført uniformen for en SS-nazist.
Lignende var AI-genereret billede af en sydsudanesisk Barbie, der blev vist med en pistol ved sin side, hvilket afspejlede de dybt rodende forudsel i AI-algoritmerne.
Ud over dette viste flere andre billeder kulturelle uretfærdigheder, såsom Qatar-Barbie iført en Ghutra, en traditionel hovedbeklædning båret af arabiske mænd.
Denne blogpost fik en massiv backlash for kulturel stereotypisering og forudsel. London Interdisciplinary School (LIS) kaldte dette repræsentations-skade, der skal holdes under kontrol ved at pålægge kvalitetsstandarder og etablere AI-overvågningsorganer.
Begrænsninger i AI-modeller
AI har potentialet til at revolutionere mange industrier. Men hvis scenarier som de ovennævnte bliver mere almindelige, kan det føre til en nedgang i den generelle AI-adopteringsgrad, hvilket resulterer i missede muligheder. Sådanne tilfælde sker typisk på grund af betydelige begrænsninger i AI-systemer, såsom:
- Mangel på kreativitet: Da AI kun kan træffe beslutninger baseret på de givne træningsdata, mangler det kreativitet til at tænke uden for rammerne, hvilket hindrer kreativ problemløsning.
- Mangel på kontekstuel forståelse: AI-systemer har svært ved at forstå kontekstuelle nuancer eller sprogudtryk i en region, hvilket ofte fører til fejl i resultaterne.
- Trænings-forudsel: AI afhænger af historiske data, der kan indeholde alle mulige diskriminerende eksempler. Under træning kan modellen let lære diskriminerende mønstre for at producere uretfærdige og forudselte resultater.
Hvordan reducerer man AI-forudsel i AI-modeller?
Eksperter estimerer, at i 2026 kan 90% af det online-indhold være syntetisk genereret. Derfor er det vitalt at minimere problemerne i Generative AI-teknologier så hurtigt som muligt.
Der kan implementeres flere nøglestrategier for at reducere AI-forudsel i AI-modeller. Nogle af disse er:
- Sikre datakvalitet: At indtage komplette, nøjagtige og rene data i en AI-model kan hjælpe med at reducere forudsel og producere mere præcise resultater.
- Diværse datasæt: At introducere diværse datasæt i et AI-system kan hjælpe med at mindske forudsel, da AI-systemet bliver mere inklusivt over tid.
- Feedback-løkker: Med en konstant feedback- og læringssøjle kan AI-modeller gradvist forbedre deres resultater
- Øgede reguleringer: Globale AI-reguleringer er afgørende for at opretholde kvaliteten af AI-systemer på tværs af grænser. Derfor skal internationale organisationer samarbejde for at sikre AI-standardisering.
- Øget adoption af ansvarlig AI: Ansvarlige AI-strategier bidrager positivt til at mindske AI-forudsel, dyrke retfærdighed og præcision i AI-systemer og sikre, at de tjener en divers brugerbase, mens de stræber efter fortsat forbedring.
Ved at inkorporere diværse datasæt, etisk ansvar og åbne kommunikationsmidler kan vi sikre, at AI er en kilde til positiv forandring verden over.
Hvis du ønsker at lære mere om forudsel og AI’s rolle i vores samfund, læs følgende blogs.
