Wat zijn LLM-hallucinaties? Oorzaken, ethische zorg en preventie

Grote taalmodellen (LLM’s) zijn kunstmatige intelligentiesystemen die in staat zijn om menselijke tekst te analyseren en te genereren. Maar ze hebben een probleem – LLM’s hallucineren, oftewel verzinnen dingen. LLM-hallucinaties hebben onderzoekers bezorgd gemaakt over de vooruitgang in dit veld, omdat onderzoekers geen kritieke systemen kunnen bouwen om de mensheid te dienen als ze de uitkomst van de modellen niet kunnen controleren. Meer hierover later.

Over het algemeen gebruiken LLM’s grote hoeveelheden trainingsdata en complexe leer-algoritmen om realistische uitvoer te genereren. In sommige gevallen wordt in-context learning gebruikt om deze modellen te trainen met slechts een paar voorbeelden. LLM’s worden steeds populairder in verschillende toepassingsgebieden, van machinevertaling tot sentimentanalyse, virtuele AI-assistentie, beeldannotatie, natuurlijke taalverwerking, enz.

Ondanks de baanbrekende aard van LLM’s, zijn ze nog steeds gevoelig voor vooroordelen, fouten en hallucinaties. Yann LeCun, de huidige Chief AI Scientist bij Meta, vermeldde onlangs de centrale fout in LLM’s die hallucinaties veroorzaakt: “Grote taalmodellen hebben geen idee van de onderliggende realiteit die de taal beschrijft. Deze systemen genereren tekst die grammaticaal en semantisch in orde is, maar ze hebben geen objectief andere doel dan alleen maar statistische consistentie met de prompt te behouden”.

Hallucinaties in LLM’s

Afbeelding door Gerd Altmann van Pixabay

Hallucinaties verwijzen naar de generatie van uitvoer die syntactisch en semantisch correct is, maar losstaat van de realiteit en gebaseerd is op valse aannamen. Hallucinatie is een van de belangrijkste ethische zorgen van LLM’s en kan schadelijke gevolgen hebben als gebruikers zonder adequate domeinkennis beginnen te vertrouwen op deze steeds overtuigender wordende taalmodellen.

Een zeker niveau van hallucinatie is onvermijdelijk in alle autoregressieve LLM’s. Bijvoorbeeld, een model kan een valse citaat toeschrijven aan een beroemdheid die nooit is uitgesproken. Ze kunnen iets beweren over een bepaald onderwerp dat feitelijk onjuist is of niet-bestaande bronnen citeren in onderzoeksartikelen, waardoor misinformatie wordt verspreid.

Echter, het laten hallucineren van AI-modellen heeft niet altijd nadelige gevolgen. Bijvoorbeeld, een nieuwe studie suggereert dat wetenschappers ‘nieuwe eiwitten met een onbeperkt aantal eigenschappen’ ontdekken door middel van hallucinerende LLM’s.

Wat veroorzaakt LLM-hallucinaties?

LLM’s kunnen hallucineren als gevolg van verschillende factoren, variërend van overfittingfouten in codering en decodering tot trainingsvooroordeel.

Overfitting

Afbeelding door janjf93 van Pixabay

Overfitting is een probleem waarbij een AI-model de trainingsdata te goed past, maar niet volledig de hele reeks invoer kan omvatten die het kan tegenkomen, oftewel het faalt om zijn voorspellende kracht te generaliseren naar nieuwe, ongezien data. Overfitting kan leiden tot de productie van gehallucineerde inhoud.

Coderings- en decoderingsfouten

Afbeelding door geralt van Pixabay

Als er fouten zijn in de codering en decodering van tekst en de daaropvolgende voorstellingen, kan dit ook leiden tot de generatie van nonsensische en foutieve uitvoer.

Trainingsvooroordeel

Afbeelding door Quince Creative van Pixabay

Een andere factor is de aanwezigheid van bepaalde vooroordelen in de trainingsdata, die de model kunnen doen produceren resultaten die deze vooroordelen weerspiegelen in plaats van de werkelijke aard van de data. Dit is vergelijkbaar met het gebrek aan diversiteit in de trainingsdata, wat de mogelijkheid van het model beperkt om te generaliseren naar nieuwe data.

De complexe structuur van LLM’s maakt het moeilijk voor AI-onderzoekers en -praktijkmensen om de onderliggende oorzaken van hallucinaties te identificeren, interpreteren en corrigeren.

Ethische zorgen van LLM-hallucinaties

LLM’s kunnen schadelijke vooroordelen versterken en verspreiden door middel van hallucinaties en kunnen op hun beurt negatieve gevolgen hebben voor de gebruikers en schadelijke sociale gevolgen. Enkele van de belangrijkste ethische zorgen zijn:

Discriminerende en giftige inhoud

Afbeelding door ar130405 van Pixabay

Omdat de trainingsdata van LLM’s vaak vol zitten met socioculturele stereotypen vanwege de inherente vooroordelen en het gebrek aan diversiteit, kunnen LLM’s giftige en discriminerende inhoud produceren en versterken tegen benadeelde groepen in de samenleving.

Ze kunnen deze discriminerende en haatdragende inhoud genereren op basis van ras, geslacht, religie, etniciteit, enz.

Privacyproblemen

Afbeelding door JanBaby van Pixabay

LLM’s worden getraind op een enorme trainingscorpus die vaak persoonlijke informatie van individuen bevat. Er zijn gevallen waarin dergelijke modellen de privacy van mensen hebben geschonden. Ze kunnen specifieke informatie lekken, zoals sociale zekerheidsnummers, huisadressen, mobiele telefoonnummers en medische gegevens.

Mis-informatie en desinformatie

Afbeelding door geralt van Pixabay

Taalmodellen kunnen menselijke inhoud produceren die waar lijkt, maar in feite vals is en niet wordt ondersteund door empirisch bewijs. Dit kan toevallig zijn, waardoor misinformatie ontstaat, of het kan een kwaadwillige intentie hebben om desinformatie te verspreiden. Als dit ongecontroleerd blijft, kan het schadelijke sociaal-culturele-economische-politieke trends creëren.

Voorkomen van LLM-hallucinaties

Afbeelding door athree23 van Pixabay

Onderzoekers en praktijkmensen nemen verschillende benaderingen om het probleem van hallucinaties in LLM’s aan te pakken. Dit omvat het verbeteren van de diversiteit van trainingsdata, het elimineren van inherente vooroordelen, het gebruik van betere regularisatietechnieken en het gebruik van adversarial training en versterking van het leren, onder andere:

• Het ontwikkelen van betere regularisatietechnieken is essentieel om hallucinaties aan te pakken. Ze helpen overfitting en andere problemen te voorkomen die hallucinaties veroorzaken.
• Data-augmentatie kan de frequentie van hallucinaties verminderen, zoals aangetoond in een onderzoeksstudie. Data-augmentatie omvat het vergroten van de trainingsset door een willekeurig token toe te voegen aan een zin. Het verdubbelt de grootte van de trainingsset en veroorzaakt een afname van de frequentie van hallucinaties.
• OpenAI en Google’s DeepMind ontwikkelden een techniek genaamd versterking van het leren met menselijke feedback (RLHF) om het hallucinatieprobleem van ChatGPT aan te pakken. Het omvat een menselijke evaluator die de antwoorden van het model regelmatig beoordeelt en de meest geschikte antwoorden voor de gebruikersprompts selecteert. Deze feedback wordt vervolgens gebruikt om het gedrag van het model aan te passen. Ilya Sutskever, de hoofdwetenschapper van OpenAI, vermeldde onlangs dat deze benadering mogelijk hallucinaties in ChatGPT kan oplossen: “Ik ben behoorlijk hoopvol dat we, door simpelweg het versterken van het leren van menselijke feedback te verbeteren, het model kunnen leren om niet te hallucineren”.
• Het identificeren van gehallucineerde inhoud om deze te gebruiken als voorbeeld voor toekomstige training is ook een methode om hallucinaties aan te pakken. Een nieuwe techniek in dit opzicht detecteert hallucinaties op token-niveau en voorspelt of elk token in de uitvoer gehallucineerd is. Het omvat ook een methode voor onbegeleide leerhallucinatiedetectie.

Token-niveau Hallucinatiedetectie

Om het simpel te zeggen, LLM-hallucinaties zijn een groeiende zorg. En ondanks de inspanningen, moet er nog veel werk worden gedaan om het probleem aan te pakken. De complexiteit van deze modellen maakt het moeilijk om de onderliggende oorzaken van hallucinaties correct te identificeren en te corrigeren.

Maar met voortdurend onderzoek en ontwikkeling is het mogelijk om hallucinaties in LLM’s te mitigeren en de ethische gevolgen te verminderen.

Als u meer wilt leren over LLM’s en de preventieve technieken die worden ontwikkeld om LLM-hallucinaties te corrigeren, kunt u unite.ai bezoeken om uw kennis te vergroten.