3 Manieren om Verouderde Feiten in Grote Taalmodellen Vers te Houden

Grote Taalmodellen (LLM) zoals GPT3, ChatGPT en BARD zijn tegenwoordig heel populair. Iedereen heeft een mening over hoe deze tools goed of slecht zijn voor de samenleving en wat ze betekenen voor de toekomst van AI. Google kreeg veel kritiek omdat hun nieuwe model BARD een complexe vraag verkeerd beantwoordde (een beetje). Toen ze gevraagd werd: “Wat zijn de nieuwe ontdekkingen van de James Webb Space Telescope die ik aan mijn 9-jarige kan vertellen?” – gaf de chatbot drie antwoorden, waarvan er twee goed waren en één verkeerd. Het verkeerde antwoord was dat de eerste “exoplaneet”-foto door JWST was genomen, wat onjuist was. Dus eigenlijk had het model een onjuiste feit in zijn kennisbasis. Om grote taalmodellen effectief te maken, moeten we een manier vinden om deze feiten bij te werken of aan te vullen met nieuwe kennis.

Laten we eerst kijken hoe feiten in een groot taalmodel (LLM) worden opgeslagen. Grote taalmodellen slaan informatie en feiten niet op in de traditionele zin, zoals databases of bestanden. In plaats daarvan zijn ze getraind op enorme hoeveelheden tekstgegevens en hebben ze patronen en relaties in die gegevens geleerd. Dit stelt hen in staat om antwoorden te genereren die op menselijke wijze lijken, maar ze hebben geen specifieke opslaglocatie voor hun geleerde informatie. Wanneer een model een vraag beantwoordt, gebruikt het zijn training om een antwoord te genereren op basis van de invoer die het ontvangt. De kennis en informatie die een taalmodel heeft, is het resultaat van de patronen die het in de getrainde gegevens heeft geleerd, en niet het resultaat van expliciete opslag in het geheugen van het model. De Transformers-architectuur, waarop de meeste moderne LLM’s zijn gebaseerd, heeft een interne codering van feiten die wordt gebruikt om vragen te beantwoorden.

Dus, als feiten in het interne geheugen van de LLM verkeerd of verouderd zijn, moet nieuwe informatie worden verstrekt via een prompt. Een prompt is de tekst die naar de LLM wordt gestuurd met de vraag en ondersteunende bewijs dat kan bestaan uit nieuwe of gecorrigeerde feiten. Hier zijn 3 manieren om dit aan te pakken.

1. Een manier om de gecodeerde feiten van een LLM te corrigeren is door nieuwe feiten te verstrekken die relevant zijn voor de context met behulp van een externe kennisbasis. Deze kennisbasis kan API-aanroepen zijn om relevante informatie op te halen of een opzoekactie in een SQL-, No-SQL- of vector-database. Geavanceerdere kennis kan worden geëxtraheerd uit een kennisgrafiek die gegevensentiteiten en relaties tussen hen opslaat. Afhankelijk van de informatie die de gebruiker opvraagt, kan de relevante contextinformatie worden opgehaald en als extra feiten aan de LLM worden verstrekt. Deze feiten kunnen ook worden opgemaakt om te lijken op trainingsvoorbeelden om het leerproces te verbeteren. Bijvoorbeeld, u kunt een aantal vraag-antwoordparen doorgeven aan het model om te leren hoe antwoorden te geven.

2. Een meer innovatieve (en duurdere) manier om de LLM aan te vullen is door middel van fine-tuning met trainingsgegevens. In plaats van een kennisbasis op te vragen voor specifieke feiten om toe te voegen, bouwen we een trainingsdataset door de kennisbasis te bemonsteren. Met behulp van superviserende leertechnieken zoals fine-tuning kunnen we een nieuwe versie van de LLM maken die getraind is op deze extra kennis. Dit proces is meestal duur en kan een paar duizend dollar kosten om een fine-tuned model te bouwen en te onderhouden in OpenAI. Natuurlijk is de kosten verwacht om goedkoper te worden in de loop van de tijd.

3. Een andere optie is om methoden zoals Versterking Lerend (RL) te gebruiken om een agent te trainen met menselijke feedback en een beleid te leren over hoe vragen te beantwoorden. Deze methode is zeer effectief gebleken in het opbouwen van kleinere modellen die goed worden in specifieke taken. Bijvoorbeeld, de beroemde ChatGPT die door OpenAI is vrijgegeven, werd getraind op een combinatie van superviserend leren en RL met menselijke feedback.

Samenvatting, dit is een snel evoluerende ruimte waarin elk groot bedrijf wil meedoen en hun differentiatie wil laten zien. We zullen binnenkort grote LLM-tools zien in de meeste gebieden zoals retail, gezondheidszorg en banken die op een menselijke manier kunnen reageren en de nuances van de taal begrijpen. Deze LLM-gestuurde tools geïntegreerd met bedrijfsgegevens kunnen toegang vereenvoudigen en de juiste gegevens beschikbaar maken voor de juiste mensen op het juiste moment.