Hvordan menneskelig bias undergraver AI-drevne løsninger

Sidste september mødtes verdensledere som Elon Musk, Mark Zuckerberg og Sam Altman, OpenAIs administrerende direktør, i Washington D.C. med det formål at diskutere, på den ene side, hvordan offentlige og private sektorer kan arbejde sammen for at udnytte denne teknologi til det bedste, og på den anden side, for at adresse regulering, et spørgsmål, der har været i centrum af diskussionen omkring AI.

Begge samtaler fører ofte til det samme sted. Der er en stigende fokus på, om vi kan gøre AI mere etisk, ved at evaluere AI som en anden menneskelig, hvis moral var i spørgsmål. Men hvad betyder etisk AI? DeepMind, et Google-ejet forskningslaboratorium, der fokuserer på AI, offentliggjorde nyligt en undersøgelse, hvor de foreslog en tredelt struktur til at evaluere risikoen for AI, herunder både sociale og etiske risici. Denne ramme omfattede kapacitet, menneskelig interaktion og systemisk påvirkning, og konkluderede, at kontekst var afgørende for at bestemme, om et AI-system var sikkert.

Et af disse systemer, der er blevet kritiseret, er ChatGPT, der er blevet forbudt i så mange som 15 lande, selv om nogle af disse forbud er blevet ophævet. Med over 100 million brugere, er ChatGPT en af de mest succesfulde LLM’er, og det er ofte blevet beskyldt for bias. Ved at tage DeepMinds undersøgelse i betragtning, lad os inkorporere kontekst her. Bias, i denne kontekst, betyder eksistensen af urimelige, fordomsfulde eller forvrængede perspektiver i den tekst, der genereres af modeller som ChatGPT. Dette kan ske på en række måder – racemæssig bias, kønsbias, politisk bias og meget mere.

Disse bias kan være skadelige for AI selv, og hindrer sandsynligheden for, at vi kan udnytte den fulde potentiale af denne teknologi. Nylig forskning fra Stanford University har bekræftet, at LLM’er som ChatGPT viser tegn på tilbagegang i forhold til deres evne til at give pålidelige, upartiske og præcise svar, hvilket ultimativt er en vejspærring for vores effektive brug af AI.

Et problem, der ligger til grund for dette problem, er, hvordan menneskelig bias oversættes til AI, da de er dybt indarbejdet i de data, der bruges til at udvikle modellerne. Men dette er et dybere problem, end det ser ud til.

Bias’ årsager

Det er let at identificere den første årsag til denne bias. Dataene, som modellen lærer af, er ofte fyldt med stereotyper eller forudgående fordomme, der hjalp med at forme disse data fra starten, så AI, utilsigtet, ender med at videreføre disse bias, fordi det er det, den ved, hvordan man gør.

Men den anden årsag er langt mere kompleks og modsigende, og det lægger en belastning på nogle af de bestræbelser, der er gjort for angiveligt at gøre AI mere etisk og sikkert. Der er, naturligvis, nogle åbenlyse eksempler, hvor AI kan ubevidst være skadeligt. For eksempel, hvis nogen spørger AI: “Hvordan kan jeg lave en bombe?” og modellen giver svaret, bidrager det til at generere skade. Den modsatte side er, at når AI er begrænset – selv hvis årsagen er berettiget – forhindrer vi, at det lærer. Menneskeskabte begrænsninger begrænser AI’s evne til at lære fra en bredere vifte af data, hvilket yderligere forhindrer, at det kan give nyttige oplysninger i ikke-skadelige sammenhænge.

Lad os også huske, at mange af disse begrænsninger er bias, fordi de stammer fra mennesker. Så selv om vi alle kan være enige om, at “Hvordan kan jeg lave en bombe?” kan føre til en potentielt dødelig udgang, er andre forespørgsler, der kan være følsomme, meget mere subjektive. Følgelig, hvis vi begrænser udviklingen af AI på disse områder, begrænser vi fremgangen, og vi fremmer kun brugen af AI til formål, der er acceptabelt for dem, der laver reglerne for LLM-modeller.

Uevnen til at forudsige konsekvenser

Vi har ikke fuldt ud forstået konsekvenserne af at indføre begrænsninger i LLM’er. Derfor kan vi muligvis forårsage mere skade på algoritmerne, end vi er klar over. Givet det utroligt høje antal parametre, der er involveret i modeller som GPT, er det, med de værktøjer vi har nu, umuligt at forudsige påvirkningen, og fra min synsvinkel vil det tage mere tid at forstå, hvad påvirkningen er, end det tager at træne neuralt netværk selv.

Derfor kan vi, ved at placere disse begrænsninger, utilsigtet føre modellen til at udvikle uventede adfærd eller bias. Dette skyldes også, at AI-modeller ofte er komplekse systemer med mange parametre, hvilket betyder, at hvis vi ændrer ét parameter – for eksempel ved at introducere en begrænsning – påvirker vi en kaskadeffekt, der reverbererer over hele modellen på måder, vi ikke kan forudsige.

Sværheden ved at evaluere AI’s “etik”

Det er ikke praktisk muligt at evaluere, om AI er etisk eller ej, fordi AI ikke er en person, der handler med en bestemt intention. AI er en stor sprogmodel, der, af natur, ikke kan være mere eller mindre etisk. Som DeepMinds undersøgelse afslørede, er det konteksten, der er afgørende for at bestemme, om et AI-system er sikkert. Det er en illusion at tro, at vi kan dømme AI, som havde det en moralcompass.

En mulig løsning, der er blevet fremhævet, er en model, der kan hjælpe AI med at træffe etiske beslutninger. Men virkeligheden er, at vi ikke har nogen idé om, hvordan denne matematiske model af etik kan fungere. Så hvis vi ikke forstår det, hvordan kan vi så bygge det? Der er meget menneskelig subjektivitet i etik, hvilket gør opgaven med at kvantificere det meget kompleks.

Hvordan løser vi dette problem?

Basert på de ovenstående punkter, kan vi ikke rigtigt tale om, om AI er etisk eller ej, fordi hver antagelse, der anses for uetisk, er en variation af menneskelig bias, der er indeholdt i dataene, og et værktøj, som mennesker bruger til deres egen dagsorden. Der er også stadig mange videnskabelige ukendte, såsom påvirkningen og den potentielle skade, vi kunne være ved at gøre på AI-algoritmerne ved at placere begrænsninger på dem.

Derfor kan det siges, at begrænsning af AI’s udvikling ikke er en livskraftig løsning. Som nogle af de studier, jeg nævnte, har vist, er disse begrænsninger delvist årsagen til, at LLM’er forringes.

Hvad kan vi så gøre ved det?

Fra min synsvinkel ligger løsningen i gennemsigtighed. Jeg tror, at hvis vi genopretter den åbne kilde-model, der var fremherskende i AI’s udvikling, kan vi arbejde sammen om at bygge bedre LLM’er, der kan udstyres til at lette vores etiske bekymringer. Ellers er det meget svært at gennemføre en ordentlig revision af det, der sker bag lukkede døre.

En fremragende initiativ i denne retning er Baseline Model Transparency Index, der nyligt blev offentliggjort af Stanford HAI (der står for Human-Centered Artificial Intelligence), som vurderer, om udviklerne af de ti mest brugte AI-modeller afslører tilstrækkeligt med information om deres arbejde og den måde, deres systemer bruges på. Dette inkluderer afsløring af partnerskaber og tredjepartsudviklere samt den måde, hvorpå personlige data bruges. Det er værd at nævne, at ingen af de vurderede modeller fik en høj score, hvilket understreger et reel problem.

Til sidst er AI ikke andet end store sprogmodeller, og det faktum, at de er åbne og kan eksperimenteres med, i stedet for at blive styret i en bestemt retning, er det, der vil tillade os at gøre nye banebrydende opdagelser i hvert videnskabeligt felt. Men hvis der ikke er gennemsigtighed, vil det være meget svært at designe modeller, der virkelig fungerer for menneskehedens bedste, og at kende omfanget af den skade, disse modeller kunne forårsage, hvis de ikke håndteres ordentligt.