Hoe menselijke vooroordelen AI-gestuurde oplossingen ondermijnen

Vorige september kwamen wereldleiders zoals Elon Musk, Mark Zuckerberg en Sam Altman, CEO van OpenAI, samen in Washington D.C. met het doel om te bespreken hoe de publieke en private sector samen kunnen werken om deze technologie ten goede te gebruiken, en om regulering aan te pakken, een kwestie die centraal staat in de discussie over AI.

Beide gesprekken leiden vaak tot hetzelfde punt. Er is een groeiende nadruk op het maken van AI meer ethisch, door AI te evalueren alsof het een andere mens was wiens moraliteit in twijfel werd getrokken. Maar wat betekent ethische AI? DeepMind, een onderzoekscentrum van Google dat zich richt op AI, heeft onlangs een studie gepubliceerd waarin ze een driedelige structuur voorstelden om de risico’s van AI te evalueren, inclusief zowel sociale als ethische risico’s. Deze structuur omvatte capaciteit, menselijke interactie en systeemimpact, en concludeerde dat context doorslaggevend was om te bepalen of een AI-systeem veilig was.

Een van deze systemen die onder vuur liggen, is ChatGPT, dat in zo veel als 15 landen is verboden, zelfs als sommige van die verboden zijn opgeheven. Met meer dan 100 miljoen gebruikers, is ChatGPT een van de meest succesvolle LLM’s, en het is vaak beschuldigd van vooroordelen. Als we de studie van DeepMind in overweging nemen, laten we context hierin opnemen. Vooroordeel, in deze context, betekent het bestaan van oneerlijke, vooroordeelde of vertekende perspectieven in de gegenereerde tekst door modellen zoals ChatGPT. Dit kan op verschillende manieren gebeuren–raciale vooroordeel, geslachtsvooroordeel, politiek vooroordeel en veel meer.

Deze vooroordelen kunnen uiteindelijk schadelijk zijn voor AI zelf, waardoor de kans kleiner wordt dat we de volle potentie van deze technologie kunnen benutten. Recent onderzoek van Stanford University heeft bevestigd dat LLM’s zoals ChatGPT tekenen van achteruitgang vertonen in hun vermogen om betrouwbare, onbevooroordeelde en nauwkeurige antwoorden te geven, wat uiteindelijk een obstakel is voor ons effectief gebruik van AI.

Een kwestie die centraal staat in dit probleem is hoe menselijke vooroordelen worden overgedragen aan AI, aangezien ze diep geworteld zijn in de data die wordt gebruikt om de modellen te ontwikkelen. Maar dit is een dieper probleem dan het lijkt.

Oorzaken van vooroordeel

Het is gemakkelijk om de eerste oorzaak van dit vooroordeel te identificeren. De data waaruit het model leert, is vaak gevuld met stereotypen of bestaande vooroordelen die hebben geholpen bij het vormen van die data, dus AI eindigt onbewust met het in stand houden van die vooroordelen omdat dat is wat het weet te doen.

Maar de tweede oorzaak is veel complexer en tegenintuïtief, en het legt druk op sommige van de inspanningen die worden gedaan om AI meer ethisch en veilig te maken. Er zijn, natuurlijk, enkele voor de hand liggende gevallen waarin AI onbewust schadelijk kan zijn. Bijvoorbeeld, als iemand AI vraagt: “Hoe kan ik een bom maken?” en het model geeft het antwoord, draagt het bij aan het genereren van schade. De andere kant is dat als AI wordt beperkt–zelfs als de reden gerechtvaardigd is–we het vermogen van AI om te leren beperken. Door de mens ingestelde beperkingen wordt AI’s vermogen om te leren van een breder scala aan data verhinderd, wat verder verhindert dat het nuttige informatie verstrekt in niet-schadelijke contexten.

Laten we ook in gedachten houden dat veel van deze beperkingen zelf vooroordeeld zijn, omdat ze afkomstig zijn van mensen. Dus, terwijl we allemaal kunnen instemmen dat “Hoe kan ik een bom maken?” kan leiden tot een potentieel fataal resultaat, zijn andere vragen die als gevoelig kunnen worden beschouwd, veel subjectiever. Gevolglijk, als we de ontwikkeling van AI op die gebieden beperken, beperken we de vooruitgang, en we bevorderen het gebruik van AI alleen voor doeleinden die door degenen die de regelgeving met betrekking tot LLM-modellen maken, als aanvaardbaar worden beschouwd.

Onvermogen om gevolgen te voorspellen

We hebben de gevolgen van het introduceren van beperkingen in LLM’s nog niet volledig begrepen. Daarom kunnen we meer schade aan de algoritmes veroorzaken dan we beseffen. Gezien het enorm hoge aantal parameters dat bij modellen zoals GPT is betrokken, is het, met de huidige instrumenten, onmogelijk om de impact te voorspellen, en, vanuit mijn perspectief, zal het meer tijd kosten om te begrijpen wat de impact is dan de tijd die nodig is om het neurale netwerk zelf te trainen.

Daarom kunnen we, onbewust, ertoe leiden dat het model onverwachte gedragingen of vooroordelen ontwikkelt. Dit komt ook doordat AI-modellen vaak complexe systemen met meerdere parameters zijn, wat betekent dat als we één parameter veranderen–bijvoorbeeld door een beperking in te voeren–we een golf-effect veroorzaken dat door het hele model resoneren in manieren die we niet kunnen voorzien.

Moeilijkheid bij het evalueren van de “ethiek” van AI

Het is niet praktisch haalbaar om te evalueren of AI ethisch is of niet, omdat AI geen persoon is die met een specifiek doel handelt. AI is een Large Language Model, dat, van nature, niet meer of minder ethisch kan zijn. Zoals de studie van DeepMind onthulde, is wat telt de context waarin het wordt gebruikt, en dit meet de ethiek van de mens achter AI, niet van AI zelf. Het is een illusie om te denken dat we AI kunnen beoordelen alsof het een moreel kompas had.

Een potentiële oplossing die wordt gepromoot, is een model dat AI kan helpen ethische beslissingen te nemen. Maar de realiteit is dat we geen idee hebben over hoe dit wiskundige model van ethiek zou kunnen werken. Dus, als we het niet begrijpen, hoe zouden we het dan kunnen bouwen? Er is veel menselijke subjectiviteit in ethiek, wat het een complexe taak maakt om het te kwantificeren.

Hoe lossen we dit probleem op?

Op basis van de bovengenoemde punten, kunnen we niet echt praten over of AI ethisch is of niet, omdat elke aanname die als onethisch wordt beschouwd, een variatie is van menselijke vooroordelen die in de data zijn opgenomen, en een instrument dat mensen voor hun eigen agenda gebruiken. Ook zijn er nog veel wetenschappelijke onbekenden, zoals de impact en het potentieel van schade dat we aan AI-algoritmes kunnen toebrengen door beperkingen op te leggen.

Daarom kan worden gesteld dat het beperken van de ontwikkeling van AI geen haalbare oplossing is. Zoals sommige van de studies die ik noemde, hebben aangetoond, zijn deze beperkingen gedeeltelijk de oorzaak van de achteruitgang van LLM’s.

Gezegd hebbende, wat kunnen we eraan doen?

Vanuit mijn perspectief ligt de oplossing in transparantie. Ik geloof dat als we het open-source model dat in de ontwikkeling van AI werd gebruikt, herstellen, we samen kunnen werken om betere LLM’s te bouwen die onze ethische zorgen kunnen verlichten. Anders is het heel moeilijk om adequaat te controleren wat er achter gesloten deuren gebeurt.

Een uitstekende initiatief in dit opzicht is de Baseline Model Transparency Index, onlangs onthuld door Stanford HAI (wat staat voor Human-Centered Artificial Intelligence), die beoordeelt of de ontwikkelaars van de tien meest gebruikte AI-modellen voldoende informatie over hun werk en de manier waarop hun systemen worden gebruikt, onthullen. Dit omvat de openbaarmaking van partnerschappen en derde-partijontwikkelaars, evenals de manier waarop persoonlijke gegevens worden gebruikt. Het is opmerkelijk om te zeggen dat geen van de beoordeelde modellen een hoge score kreeg, wat een echt probleem onderstreept.

Aan het einde van de dag is AI niets meer dan Large Language Models, en het feit dat ze open zijn en kunnen worden geëxperimenteerd, in plaats van in een bepaalde richting te worden gestuurd, is wat ons in staat zal stellen om nieuwe baanbrekende ontdekkingen te doen in elk wetenschappelijk veld. Maar als er geen transparantie is, zal het heel moeilijk zijn om modellen te ontwikkelen die echt voor het voordeel van de mensheid werken, en om de omvang van de schade te kennen die deze modellen kunnen veroorzaken als ze niet adequaat worden aangepakt.