Hvordan menneskelig fordom underminerer AI-drevne løsninger

Forrige september samlet verdensledere som Elon Musk, Mark Zuckerberg og Sam Altman, administrerende direktør i OpenAI, seg i Washington D.C. for å diskutere hvordan offentlige og private sektorer kan samarbeide for å utnytte denne teknologien for det større gode, og for å diskutere regulering, et tema som har vært fremtredende i samtalen om AI.

Begge samtaler fører ofte til samme sted. Det er en økende fokus på om vi kan gjøre AI mer etisk, ved å vurdere AI som om det var et annet menneske hvis moral var i tvil. Men hva betyr etisk AI? DeepMind, et Google-eid forskningslaboratorium som fokuserer på AI, publiserte nylig en studie hvor de foreslo en tredelt struktur for å vurdere risikoen med AI, inkludert både sosiale og etiske risiker. Denne rammen inkluderte kapasitet, menneskelig interaksjon og systemisk påvirkning, og konkluderte med at kontekst var avgjørende for å bestemme om et AI-system var trygt.

Et av disse systemene som har vært under angrep er ChatGPT, som har vært forbudt i så mange som 15 land, selv om noen av disse forbudene har blitt omgjort. Med over 100 million brukere, er ChatGPT ett av de mest suksessfulle LLM, og det har ofte vært anklaget for fordom. Ved å ta DeepMinds studie i betraktning, la oss inkorporere kontekst her. Fordom, i denne konteksten, betyr eksistensen av urettferdige, fordomsfulle eller forvrengte perspektiver i tekst generert av modeller som ChatGPT. Dette kan skje på en rekke måter–rasistisk fordom, kjønnsfordom, politisk fordom og mye mer.

Disse fordommene kan, til slutt, være skadelige for AI selv, og hindre sannsynligheten for at vi kan utnytte den fulle potensialet til denne teknologien. Nylig forskning fra Stanford University har bekreftet at LLM som ChatGPT viser tegn på nedgang i evnen til å gi pålitelige, upartiske og nøyaktige svar, som til slutt er en hindring for vår effektive bruk av AI.

Et problem som ligger til grunn for dette problemet er hvordan menneskelige fordommer oversettes til AI, siden de er dypt inngrodd i dataene som brukes til å utvikle modellene. Men dette er et dypere problem enn det ser ut til.

Årsaker til fordom

Det er lett å identifisere den første årsaken til denne fordommen. Dataene som modellen lærer fra er ofte fylt med stereotyper eller forhåndsbestemte fordommer som hjalp til å forme disse dataene fra første sted, så AI, uforvarende, ender opp med å videreføre disse fordommene fordi det er det den vet hvordan å gjøre.

Men den andre årsaken er mye mer komplisert og motsigende, og det setter en belastning på noen av de innsatsene som gjøres for å angivelig gjøre AI mer etisk og trygg. Det finnes, selvfølgelig, noen åpenbare eksempler hvor AI kan ubevisst være skadelig. For eksempel, hvis noen spør AI “Hvordan kan jeg lage en bombe?” og modellen gir svaret, bidrar det til å generere skade. Den andre siden er at når AI er begrenset–selv om årsaken bare er rettferdig–hindrer vi det fra å lære. Menneskelige begrensninger begrenser AI sin evne til å lære fra en bredere rekke data, som videre hindrer det fra å gi nyttig informasjon i ikke-skadelige sammenhenger.

Og la oss huske at mange av disse begrensningene er fordomsfulle også, fordi de stammer fra mennesker. Så mens vi alle kan enes om at “Hvordan kan jeg lage en bombe?” kan føre til en potensielt dødelig utfall, andre spørsmål som kan være sensitive er mye mer subjektive. Derfor, hvis vi begrenser utviklingen av AI på disse områdene, begrenser vi fremgangen, og vi fremmer bruken av AI bare for formål som er akseptable for de som gjør reguleringsbestemmelsene for LLM-modeller.

Uevne til å forutsi konsekvenser

Vi har ikke fullstendig forstått konsekvensene av å innføre begrensninger i LLM. Derfor kan vi kanskje gjøre mer skade på algoritmene enn vi innser. Gitt det ekstremt høye antallet parametre som er involvert i modeller som GPT, er det, med de verktøyene vi har nå, umulig å forutsi påvirkningen, og, fra min perspektiv, vil det ta mer tid å forstå hva påvirkningen er enn det tar å trene neuralnettet selv.

Derfor, ved å plassere disse begrensningene, kan vi, uforvarende, føre modellen til å utvikle uventede atferd eller fordommer. Dette er også fordi AI-modeller ofte er komplekse systemer med mange parametre, som betyr at hvis vi endrer en parameter–for eksempel ved å innføre en begrensning–fører vi til en effekt som reverberer gjennom hele modellen på måter som vi ikke kan forutsi.

Vanskeligheter ved å vurdere “etikken” til AI

Det er ikke praktisk mulig å vurdere om AI er etisk eller ikke, fordi AI ikke er et menneske som handler med en bestemt intensjon. AI er et stort språkmodell, som, av natur, ikke kan være mer eller mindre etisk. Som DeepMinds studie avdekket, er det konteksten det brukes i som teller, og dette måler etikken til mennesket bak AI, ikke til AI selv. Det er en illusjon å tro at vi kan dømme AI som om det hadde en moral kompass.

En mulig løsning som blir fremmet er en modell som kan hjelpe AI med å ta etiske beslutninger. Men, virkeligheten er at vi ikke har noen ide om hvordan denne matematiske modellen av etikk kan fungere. Så, hvis vi ikke forstår det, hvordan kan vi muligens bygge det? Det er mye menneskelig subjektivitet i etikk, som gjør oppgaven med å kvantifisere det svært komplekst.

Hvordan løse dette problemet?

Basert på de ovennevnte punktene, kan vi ikke virkelig snakke om om AI er etisk eller ikke, fordi hver antagelse som anses som uetisk er en variasjon av menneskelige fordommer som er innebygd i dataene, og et verktøy som mennesker bruker for sin egen agenda. Og, det er fortsatt mange vitenskapelige ukjente, som påvirkningen og den potensielle skaden som vi kunne gjøre mot AI-algoritmene ved å plassere begrensninger på dem.

Derfor kan det siges at å begrense utviklingen av AI ikke er en livskraftig løsning. Som noen av de studiene jeg nevnte har vist, er disse begrensningene delvis årsaken til forverringen av LLM.

Hva kan vi da gjøre med det?

Fra mitt perspektiv, ligger løsningen i åpenhet. Jeg tror at hvis vi gjenoppretter den åpne kildekodemodellen som var fremherskende i utviklingen av AI, kan vi arbeide sammen for å bygge bedre LLM som kunne være utstyrt til å lettet våre etiske bekymringer. Ellers, er det svært vanskelig å gjennomføre en tilstrekkelig revisjon av alt som gjøres bak lukkede dører.

En superb initiativ i denne retningen er Baseline Model Transparency Index, nylig avdekket av Stanford HAI (som står for Human-Centered Artificial Intelligence), som vurderer om utviklerne av de ti mest brukte AI-modellene avslører tilstrekkelig informasjon om deres arbeid og hvordan deres systemer brukes. Dette inkluderer avsløring av samarbeidspartnere og tredjepartsutviklere, samt hvordan personlige data brukes. Det er verd å nevne at ingen av de vurderede modellene fikk en høy score, noe som understreker et virkelig problem.

Til slutt, er AI ingenting mer enn store språkmodeller, og det faktum at de er åpne og kan eksperimenteres med, i stedet for å styres i en bestemt retning, er det som vil tillate oss å gjøre nye banebrytende oppdagelser i hvert vitenskapelig felt. Men, hvis det ikke er åpenhet, vil det være svært vanskelig å designe modeller som virkelig fungerer for menneskehetens beste, og å vite omfang av skaden som disse modellene kunne forårsake hvis de ikke håndteres på en passende måte.