Hvad er LLM Hallucinationer? Årsager, Ethiske Bekymringer & Forebyggelse

Store sprogmodeller (LLM’er) er kunstig intelligenssystemer, der kan analysere og generere menneske-lignende tekst. Men de har et problem – LLM’er hallucinerer, dvs. de finder på noget. LLM-hallucinationer har gjort forskere bekymrede for fremskridtet i dette felt, fordi hvis forskerne ikke kan kontrollere modellernes udfald, kan de ikke bygge kritiske systemer til at tjene menneskeheden. Mere om dette senere.

Generelt bruger LLM’er store mængder træningsdata og komplekse læringsalgoritmer til at generere realistiske udfald. I visse tilfælde bruges in-context learning til at træne disse modeller ved hjælp af kun få eksempler. LLM’er bliver mere og mere populære på tværs af forskellige anvendelsesområder, fra maskinoversættelse, sentimentanalyse, virtuel AI-assistance, billedannotering, naturlig sprogbehandling osv.

Trods den avancerede natur af LLM’er er de stadig udsat for fordomme, fejl og hallucinationer. Yann LeCun, nuværende chef for AI-virksomhed hos Meta, nævnte nylig den centrale fejl i LLM’er, der forårsager hallucinationer: “Store sprogmodeller har ingen idé om den underliggende virkelighed, som sproget beskriver. Disse systemer genererer tekst, der lyder fint, grammatisk og semantisk, men de har ikke rigtig nogen objektiv andet end at tilfredsstille statistisk konsistens med prompten”.

Hallucinationer i LLM’er

Billede af Gerd Altmann fra Pixabay

Hallucinationer refererer til, at modellen genererer udfald, der er syntaktisk og semantisk korrekte, men er frakoblet fra virkeligheden og baseret på fejltagelige antagelser. Hallucination er en af de vigtigste etiske bekymringer for LLM’er, og det kan have skadelige konsekvenser, når brugere uden tilstrækkelig domæneviden begynder at over-rely på disse stadig mere overbevisende sprogmodeller.

En vis grad af hallucination er uundgåelig over alle autoregressive LLM’er. For eksempel kan en model tilskrive en falsk citat til en berømthed, der aldrig er blevet sagt. De kan hævde noget om et bestemt emne, der er faktisk forkert, eller citerer ikke-eksisterende kilder i forskningspapirer, og dermed sprede misinformation.

Men at få AI-modeller til at hallucinere har ikke altid negative effekter. For eksempel viser en ny studie, at videnskabsmænd opdager ‘nye proteiner med en ubegrænset mængde af egenskaber’ gennem hallucinerende LLM’er.

Hvad Forårsager LLM’Hallucinationer?

LLM’er kan hallucinere på grund af forskellige faktorer, der spænder fra overfitningfejl i encoding og decoding til træningsfordomme.

Overfitning

Billede af janjf93 fra Pixabay

Overfitning er et problem, hvor en AI-model passer træningsdataen for godt, men ikke kan fuldt ud repræsentere det hele spektrum af input, den kan møde, dvs. den fejler at generalisere sin predictive kraft til nye, usete data. Overfitning kan føre til, at modellen producerer hallucineret indhold.

Encoding- og Decodingfejl

Billede af geralt fra Pixabay

Hvis der er fejl i encoding og decoding af tekst og dens efterfølgende repræsentationer, kan dette også føre til, at modellen genererer meningsløse og fejlbehæftede udfald.

Træningsforuddomme

Billede af Quince Creative fra Pixabay

En anden faktor er tilstedeværelsen af visse fordomme i træningsdataene, der kan føre til, at modellen giver resultater, der repræsenterer disse fordomme snarere end den faktiske natur af dataene. Dette ligner mangel på diversitet i træningsdataene, der begrænser modellens evne til at generalisere til nye data.

Den komplekse struktur af LLM’er gør det ret svært for AI-forskere og -praktikere at identificere, fortolke og korrigere disse underliggende årsager til hallucinationer.

Ethiske Bekymringer for LLM’Hallucinationer

LLM’er kan fastholde og forstærke skadelige fordomme gennem hallucinationer og kan dermed have negative sociale konsekvenser. Nogle af disse vigtigste etiske bekymringer er nævnt nedenfor:

Discriminerende og Giftig Indhold

Billede af ar130405 fra Pixabay

Da LLM-træningsdataene ofte er fulde af sociokulturelle stereotyper på grund af de indbyggede fordomme og manglen på diversitet, kan LLM’er produces og fastholde disse skadelige idéer mod udsatte grupper i samfundet.

De kan generere dette diskriminerende og hadefulde indhold baseret på race, køn, religion, etnicitet osv.

Privatlivsproblemer

Billede af JanBaby fra Pixabay

LLM’er er trænet på en massiv træningskorpus, der ofte inkluderer personlige oplysninger om enkeltpersoner. Der har været tilfælde, hvor sådanne modeller har krænket personers privatliv. De kan lække specifikke oplysninger som sociale sikkerhedsnumre, hjemmehavende adresser, mobiltelefonnumre og medicinske detaljer.

Misinformation og Desinformation

Billede af geralt fra Pixabay

Sprogmodeller kan producere menneske-lignende indhold, der ser præcist ud, men i virkeligheden er forkert og ikke understøttet af empiriske beviser. Dette kan være utilsigtet, hvilket fører til misinformation, eller det kan have en ondsindet hensigt bag at sprede desinformation. Hvis dette ikke kontrolleres, kan det skabe negative sociale-kulturelle-økonomiske-politiske tendenser.

Forebyggelse af LLM’Hallucinationer

Billede af athree23 fra Pixabay

Forskere og praktikere tager forskellige tilgange for at løse problemet med hallucinationer i LLM’er. Disse inkluderer forbedring af diversiteten i træningsdataene, eliminering af indbyggede fordomme, brug af bedre regulariseringsteknikker og anvendelse af adversarial træning og forstærkninglæring, blandt andet:

• Udvikling af bedre regulariseringsteknikker er centralt for at tackle hallucinationer. De hjælper med at forhindre overfitning og andre problemer, der forårsager hallucinationer.
• Dataforstærkning kan reducere hyppigheden af hallucinationer, som det er dokumenteret i en forskningsstudie. Dataforstærkning indebærer at forstærke træningssættet ved at tilføje en tilfældig token hvor som helst i sætningen. Det fordobler størrelsen af træningssættet og medfører en reduktion i hyppigheden af hallucinationer.
• OpenAI og Google’s DeepMind udviklede en teknik kaldet forstærkninglæring med menneskelig feedback (RLHF) for at løse ChatGPT’s hallucinationsproblem. Det indebærer en menneskelig evaluator, der ofte gennemgår modellens svar og vælger det mest passende for brugerens prompts. Denne feedback bruges derefter til at justere modellens adfærd. Ilya Sutskever, OpenAI’s chefvidenskabsmand, nævnte nylig, at denne tilgang potentelt kan løse hallucinationer i ChatGPT: “Jeg er ret optimistisk om, at ved blot at forbedre denne efterfølgende forstærkninglæring fra menneskelig feedback, kan vi lære det at ikke hallucinere”.
• Identifikation af hallucineret indhold til brug som eksempel for fremtidig træning er også en metode til at tackle hallucinationer. En ny teknik i denne henseende detekterer hallucinationer på token-niveau og forudsiger, om hver token i udfaldet er hallucineret. Den inkluderer også en metode til usuperviseret læring af hallucinationsdetektorer.

Token-niveau Hallucinationsdetektion

Med andre ord er LLM-hallucinationer en voksende bekymring. Og trods bestræbelserne er der stadig meget arbejde, der skal gøres for at løse problemet. Kompleksiteten af disse modeller gør det generelt svært at identificere og korrigere de underliggende årsager til hallucinationer korrekt.

Men med fortsat forskning og udvikling er det muligt at mindske hallucinationer i LLM’er og reducere deres etiske konsekvenser.

Hvis du ønsker at lære mere om LLM’er og de forebyggende teknikker, der udvikles for at rette LLM-hallucinationer, kan du besøge unite.ai for at udvide din viden.