AI-vooringenomenheid & Culturele Stereotypen: Effecten, Beperkingen & Mitigatie

Kunstmatige Intelligentie (AI), met name Generatieve AI, blijft verwachtingen overtreffen met haar vermogen om menselijke cognitie en intelligentie te begrijpen en te imiteren. Echter, in veel gevallen kunnen de resultaten of voorspellingen van AI-systemen verschillende soorten AI-vooringenomenheid weerspiegelen, zoals culturele en raciale.

Buzzfeed’s “Barbies van de Wereld“-blog (die nu verwijderd is) toont duidelijk deze culturele vooringenomenheden en onnauwkeurigheden. Deze ‘barbies’ werden gemaakt met behulp van Midjourney – een toonaangevende AI-afbeeldingsgenerator, om te zien hoe barbies eruit zouden zien in elke hoek van de wereld. We zullen hier later meer over spreken.

Maar dit is niet de eerste keer dat AI “racistisch” is of onnauwkeurige resultaten heeft geproduceerd. Zo werd Apple in 2022 aangeklaagd vanwege beschuldigingen dat de bloedzuurstofsensor van de Apple Watch bevooroordeeld was tegen mensen van kleur. In een ander gerapporteerd geval ontdekten Twitter-gebruikers dat Twitter’s automatische afbeeldings-bijsnijdings-AI de voorkeur gaf aan het gezicht van blanke mensen boven zwarte individuen en vrouwen boven mannen. Dit zijn kritieke uitdagingen, en het aanpakken ervan is aanzienlijk moeilijk.

In dit artikel zullen we kijken naar wat AI-vooringenomenheid is, hoe het onze samenleving beïnvloedt, en kort bespreken hoe beoefenaars het kunnen mitigeren om uitdagingen zoals culturele stereotypen aan te pakken.

Wat is AI-vooringenomenheid?

AI-vooringenomenheid treedt op wanneer AI-modellen discriminatoire resultaten produceren tegen bepaalde demografische groepen. Verschillende soorten vooringenomenheden kunnen in AI-systemen terechtkomen en onjuiste resultaten produceren. Sommige van deze AI-vooringenomenheden zijn:

• Stereotype-vooringenomenheid: Stereotype-vooringenomenheid verwijst naar het fenomeen waarbij de resultaten van een AI-model bestaan uit stereotypen of veronderstelde noties over een bepaalde demografische groep.
• Raciale vooringenomenheid: Raciale vooringenomenheid in AI treedt op wanneer het resultaat van een AI-model discriminatoir en oneerlijk is voor een individu of groep op basis van hun etniciteit of ras.
• Culturele vooringenomenheid: Culturele vooringenomenheid komt in het spel wanneer de resultaten van een AI-model een bepaalde cultuur bevoordelen boven een andere.

Naast vooringenomenheden kunnen andere problemen de resultaten van een AI-systeem ook hinderen, zoals:

• Onnauwkeurigheden: Onnauwkeurigheden treden op wanneer de resultaten die door een AI-model worden geproduceerd onjuist zijn vanwege inconsistentie in de trainingsdata.
• Hallucinaties: Hallucinaties treden op wanneer AI-modellen fictieve en valse resultaten produceren die niet op feitelijke gegevens zijn gebaseerd.

De impact van AI-vooringenomenheid op de samenleving

De impact van AI-vooringenomenheid op de samenleving kan nadelig zijn. Bevooroordeelde AI-systemen kunnen onnauwkeurige resultaten produceren die de reeds bestaande vooroordelen in de samenleving versterken. Deze resultaten kunnen discriminatie en schendingen van rechten verhogen, het wervingsproces beïnvloeden en het vertrouwen in AI-technologie verminderen.

Daarnaast leiden bevooroordeelde AI-resultaten vaak tot onnauwkeurige voorspellingen die ernstige gevolgen kunnen hebben voor onschuldige individuen. Zo werd Robert McDaniel in augustus 2020 het slachtoffer van een misdrijf vanwege het voorspellingsalgoritme van de Chicago Police Department, dat hem had gelabeld als een “persoon van interesse”.

Soortgelijk kunnen bevooroordeelde AI-systemen in de gezondheidszorg acute patiëntresultaten hebben. In 2019 ontdekte Science dat een breed gebruikt Amerikaans medisch algoritme raciaal bevooroordeeld was tegen mensen van kleur, wat leidde tot minder intensieve zorgbeheer voor zwarte patiënten.

Barbies van de Wereld

In juli 2023 publiceerde Buzzfeed een blog met 194 AI-gegenereerde barbies uit de hele wereld. Het bericht werd viraal op Twitter. Hoewel Buzzfeed een disclaimer-statement schreef, kon dit de netizens niet tegenhouden om de raciale en culturele onnauwkeurigheden aan te wijzen. Zo droeg de AI-gegenereerde afbeelding van de Duitse Barbie het uniform van een SS-Nazi-generaal.

Soortgelijk werd de AI-gegenereerde afbeelding van een Zuid-Soedanese Barbie getoond met een geweer aan haar zijde, wat de diepgewortelde vooringenomenheid in AI-algoritmen weerspiegelt.

Daarnaast toonden verschillende andere afbeeldingen culturele onnauwkeurigheden, zoals de Qatar-Barbie die een Ghutra droeg, een traditionele hoofdbedekking voor Arabische mannen.

Deze blogpost kreeg een enorme backlash vanwege culturele stereotypen en vooringenomenheid. De London Interdisciplinary School (LIS) noemde dit representational harm dat in de hand moet worden gehouden door kwaliteitsnormen op te leggen en AI-toezichtsorganen op te richten.

Beperkingen van AI-modellen

AI heeft het potentieel om vele industrieën te revolutioneren. Maar als scenario’s zoals de bovenstaande zich vermenigvuldigen, kan dit leiden tot een daling in de algemene adoptie van AI, waardoor kansen worden gemist. Dergelijke gevallen treden meestal op vanwege significante beperkingen in AI-systemen, zoals:

• Gebrek aan creativiteit: Aangezien AI alleen beslissingen kan nemen op basis van de gegeven trainingsdata, ontbreekt het aan creativiteit om buiten de box te denken, wat het vermogen tot creatief probleemoplossen belemmert.

• Gebrek aan contextuele begrip: AI-systemen hebben moeite om contextuele nuances of taaluitdrukkingen van een regio te begrijpen, wat vaak leidt tot fouten in de resultaten.

• Trainingsvooringenomenheid: AI is afhankelijk van historische gegevens die allerlei discriminatoire voorbeelden kunnen bevatten. Tijdens de training kan het model gemakkelijk discriminatoire patronen leren om oneerlijke en bevooroordeelde resultaten te produceren.

Hoe AI-vooringenomenheid in AI-modellen te verminderen

Deskundigen schatten dat tegen 2026 90% van de online inhoud synthetisch gegenereerd kan zijn. Het is daarom essentieel om de problemen in Generatieve AI-technologieën snel te minimaliseren.

Er zijn verschillende sleutelstrategieën die kunnen worden geïmplementeerd om AI-vooringenomenheid te verminderen. Sommige hiervan zijn:

• Zorg voor gegevenskwaliteit: Het invoeren van complete, nauwkeurige en schone gegevens in een AI-model kan helpen om vooringenomenheid te verminderen en nauwkeurigere resultaten te produceren.
• Uitgebreide datasets: Het introduceren van uitgebreide datasets in een AI-systeem kan helpen om vooringenomenheid te mitigeren, aangezien het AI-systeem meer inclusief wordt na verloop van tijd.

• Feedback-lussen: Met een constante feedback- en leerlus kunnen AI-modellen hun resultaten geleidelijk verbeteren

• Verhoogde regulering: Globale AI-regulering is cruciaal voor het handhaven van de kwaliteit van AI-systemen over de grenzen heen. Internationale organisaties moeten dan ook samenwerken om AI-standaardisatie te waarborgen.

• Verhoogde adoptie van verantwoorde AI: Verantwoorde AI-strategieën dragen positief bij aan het mitigeren van AI-vooringenomenheid, het bevorderen van eerlijkheid en nauwkeurigheid in AI-systemen en het waarborgen dat ze een diverse gebruikersbasis bedienen, terwijl ze streven naar voortdurende verbetering.

Door het incorporeren van uitgebreide datasets, ethische verantwoordelijkheid en open communicatiemiddelen, kunnen we ervoor zorgen dat AI een bron van positieve verandering wereldwijd is.

Als u meer wilt leren over vooringenomenheid en de rol van Kunstmatige Intelligentie in onze samenleving, leest u de volgende blogs.

• Hoe steden toonaangevende technologieën inzetten met onbevooroordeelde AI-algoritmen
• AI kan desinformatie en vooringenomenheid in nieuws bestrijden
• Vooringenomenheid en eerlijkheid van AI-gebaseerde systemen binnen financieel misdrijf
• Een AI-gedreven vooringenomenheidscontrole voor nieuwsartikelen, beschikbaar in Python