Hva er LLM-hallusinasjoner? Årsaker, etiske bekymringer og forebygging

Store språkmodeller (LLM) er kunstig intelligens-systemer som kan analysere og generere menneske-lignende tekst. Men de har et problem – LLM hallucinerer, dvs. de finner på ting. LLM-hallusinasjoner har gjort forskerne bekymret for fremgangen i dette feltet, fordi hvis forskerne ikke kan kontrollere resultatene av modellene, kan de ikke bygge kritiske systemer som skal tjene menneskeheten. Mer om dette senere.

Generelt bruker LLM store mengder treningdata og komplekse læring-algoritmer for å generere realistiske utdata. I noen tilfeller brukes in-context learning for å trene disse modellene med kun noen få eksempler. LLM er blir stadig mer populære over ulike anvendingsområder, fra maskin-oversettelse, sentiment-analyse, virtuell AI-assistans, bilde-annotering, naturlig språk-behandling osv.

Til tross for den banebrytende naturen til LLM, er de fortsatt utsatt for forutinntak, feil og hallusinasjoner. Yann LeCun, nåværende sjef for AI-vitenskap hos Meta, nevnte nylig den sentrale feilen i LLM som forårsaker hallusinasjoner: “Store språkmodeller har ingen idé om den underliggende virkeligheten som språket beskriver. Disse systemene genererer tekst som høres fin ut, både grammatisk og semantisk, men de har ikke noen objektiv annen enn å tilfredsstille statistisk konsistens med prompten”.

Hallusinasjoner i LLM

Bilde av Gerd Altmann fra Pixabay

Hallusinasjoner refererer til modellens generering av utdata som er syntaktisk og semantisk korrekte, men som er frakoblet fra virkeligheten og basert på feilaktige antagelser. Hallusinasjon er en av de viktigste etiske bekymringene for LLM, og det kan ha skadelige konsekvenser hvis brukere uten tilstrekkelig domenekunnskap begynner å over-gjøre på disse stadig mer overbevisende språkmodellene.

En viss grad av hallusinasjon er uunngåelig over alle autoregressive LLM. For eksempel kan en modell tilskrive en forfalsket sitat til en celebrity som aldri ble sagt. De kan hevde noe om et bestemt tema som er faktisk feil eller sitere ikke-eksisterende kilder i forskningspapirer, og dermed spre misinformasjon.

Men å få AI-modeller til å hallucinere har ikke alltid negative effekter. For eksempel viser en ny studie at forskere oppdager ‘nye proteiner med en ubegrenset rekke egenskaper’ gjennom hallusinerende LLM.

Hva forårsaker LLM-hallusinasjoner?

LLM kan hallucinere på grunn av ulike faktorer, fra over-tilpasning-feil i encoding og decoding til trening-forutinntak.

Over-tilpasning

Bilde av janjf93 fra Pixabay

Over-tilpasning er et problem der en AI-modell passer treningdata for godt, men ikke kan fullt ut representere hele rekken av inndata den kan møte, dvs. den svikter å generalisere sin prediktive kraft til nye, uante data. Over-tilpasning kan føre til at modellen produserer hallusinert innhold.

Encoding- og decoding-feil

Bilde av geralt fra Pixabay

Hvis det er feil i encoding og decoding av tekst og dens påfølgende representasjoner, kan dette også føre til at modellen genererer meningsløse og feilaktige utdata.

Trening-forutinntak

Bilde av Quince Creative fra Pixabay

En annen faktor er tilstedeværelsen av bestemte forutinntak i treningdata, som kan føre til at modellen gir resultater som representerer disse forutinntakene fremfor den faktiske naturen til dataene. Dette er lignende mangelen på diversitet i treningdata, som begrenser modellens evne til å generalisere til nye data.

Den komplekse strukturen til LLM gjør det ganske utfordrende for AI-forskere og -praktikere å identifisere, tolke og korrigere de underliggende årsakene til hallusinasjoner.

Etiske bekymringer for LLM-hallusinasjoner

LLM kan videreformidle og forsterke skadelige forutinntak gjennom hallusinasjoner og kan, i tur, negativt påvirke brukerne og ha skadelige sosiale konsekvenser. Noen av disse viktigste etiske bekymringene er listet under:

Discriminerende og giftig innhold

Bilde av ar130405 fra Pixabay

Siden LLM-treningdata ofte er fullt av socio-kulturelle stereotyper på grunn av de innebygde forutinntakene og mangelen på diversitet, kan LLM produsere og forsterke disse skadelige ideene mot underprivilegerte grupper i samfunnet.

De kan generere dette diskriminerende og hatefulle innhold basert på rase, kjønn, religion, etnisitet osv.

Personvernsproblemer

Bilde av JanBaby fra Pixabay

LLM er trent på en massiv treningssamling som ofte inkluderer personlige opplysninger om enkeltpersoner. Det har vært tilfeller hvor slike modeller har krenket personers personvern. De kan lekke spesifik informasjon som personnummer, hjemmeadresser, mobiltelefonnummer og medisinske detaljer.

Misinformasjon og desinformasjon

Bilde av geralt fra Pixabay

Språkmodeller kan produsere menneske-lignende innhold som ser korrekt ut, men som i virkeligheten er feil og ikke støttet av empirisk bevis. Dette kan være utilsiktet, og føre til misinformasjon, eller det kan ha en ondsinnet hensikt bak å spre desinformasjon. Hvis dette ikke blir stoppet, kan det skape negative sosio-kulturelle-økonomiske-politiske trender.

Forebygging av LLM-hallusinasjoner

Bilde av athree23 fra Pixabay

Forskere og praktikere tar ulike tilnærminger for å løse problemet med hallusinasjoner i LLM. Dette inkluderer å forbedre diversiteten i treningdata, å eliminere innebygde forutinntak, å bruke bedre regulariseringsteknikker og å anvende adversarial trening og forsterkning-læring, blant annet:

• Utvikling av bedre regulariseringsteknikker er i kjernen av å løse hallusinasjoner. De hjelper å forebygge over-tilpasning og andre problemer som forårsaker hallusinasjoner.
• Data-forbedring kan redusere hyppigheten av hallusinasjoner, som vist i en forskningsstudie. Data-forbedring innebærer å forbedre treningssamlingen ved å legge til en tilfeldig token hvor som helst i setningen. Det doblet størrelsen på treningssamlingen og fører til en reduksjon i hyppigheten av hallusinasjoner.
• OpenAI og Google’s DeepMind utviklet en teknikk kalt forsterkning-læring med menneskelig tilbakemelding (RLHF) for å løse ChatGPT’s hallusinasjonsproblem. Det innebærer en menneskelig vurderer som ofte gjennomgår modellens svar og velger det mest passende for bruker-promptene. Denne tilbakemeldingen brukes deretter til å justere modellens atferd. Ilya Sutskever, OpenAI’s sjef for AI-vitenskap, nevnte nylig at denne tilnærmingen kan potensielt løse hallusinasjoner i ChatGPT: “Jeg er ganske optimistisk om at ved å forbedre denne påfølgende forsterkning-læringen fra menneskelig tilbakemelding, kan vi lære det å ikke hallucinere”.
• Identifisering av hallusinert innhold for å bruke som eksempel for fremtidig trening er også en metode som brukes for å løse hallusinasjoner. En ny teknikk i denne sammenhengen detekterer hallusinasjoner på token-nivå og prediker om hver token i utdata er hallusinert. Det inkluderer også en metode for uovervåket læring av hallusinasjons-detektorer.

Token-nivå hallusinasjons-deteksjon

For å forkorte, LLM-hallusinasjoner er en voksende bekymring. Og til tross for innsatsen, er det fortsatt mye arbeid som må gjøres for å løse problemet. Kompleksiteten til disse modellene gjør det generelt utfordrende å identifisere og korrigere de underliggende årsakene til hallusinasjoner riktig.

Men med fortsatt forskning og utvikling, er det mulig å redusere hallusinasjoner i LLM og minimere deres etiske konsekvenser.

Hvis du ønsker å lære mer om LLM og de forebyggende teknikkene som utvikles for å rette opp LLM-hallusinasjoner, kan du besøke unite.ai for å utvide din kunnskap.