3 måder at holde forældede fakta friske i store sprogmodeller

Store sprogmodeller (LLM) som GPT3, ChatGPT og BARD er meget populære i dag. Alle har en mening om, hvor godt eller dårligt disse værktøjer er for samfundet og hvad de betyder for fremtiden for kunstig intelligens. Google fik meget kritik for deres nye model BARD, der fik en kompleks spørgsmål forkert (lidt). Da de blev spurgt “Hvad er de nye opdagelser fra James Webb-rumteleskopet, som jeg kan fortælle min 9-årige om?” – gav chatbot’en tre svar, hvoraf to var rigtige og ét var forkert. Det forkerte var, at den første “exoplanet”-billede var taget af JWST, hvilket var forkert. Så grundlæggende havde modellen en forkert fakt i sin videnbas. For at store sprogmodeller skal være effektive, har vi brug for en måde at holde disse fakta opdaterede eller supplere fakta med ny viden.

Lad os først se, hvordan fakta gemmes i en stor sprogmodel (LLM). Store sprogmodeller gemmer ikke information og fakta på en traditionel måde som databaser eller filer. I stedet er de blevet trænet på enorme mængder tekstdata og har lært mønstre og relationer i denne data. Dette giver dem mulighed for at generere menneskelignende svar på spørgsmål, men de har ikke en specifik lagringsplacering for deres lærende information. Når de besvarer et spørgsmål, bruger modellen sin træning til at generere et svar baseret på det input, den modtager. Den information og viden, en sprogmodel har, er et resultat af de mønstre, den har lært i den data, den er blevet trænet på, og ikke et resultat af, at den er blevet eksponeret i modellens hukommelse. Transformers-arkitekturen, som de fleste moderne LLM’er er baseret på, har en intern kodning af fakta, der bruges til at besvare det spørgsmål, der stilles i prompten.

Så, hvis fakta inde i den interne hukommelse af LLM er forkerte eller forældede, har vi brug for at give ny information via en prompt. Prompt er den tekst, der sendes til LLM med spørgsmålet og understøttende bevis, der kan være nogle nye eller korrekte fakta. Her er 3 måder at tilgå dette på.

1. En måde at korrigere de kodede fakta i en LLM på er at give nye fakta, der er relevante for konteksten, ved hjælp af en ekstern videnbas. Denne videnbas kan være API-kald til at hente relevante oplysninger eller en opslag på en SQL-, No-SQL- eller Vektor-database. Mere avanceret viden kan udtrækkes fra en videngraf, der gemmer dataenheder og relationer mellem dem. Afhængigt af den information, brugeren søger efter, kan den relevante kontekstinformation hentes og gives som yderligere fakta til LLM. Disse fakta kan også formateres til at se ud som træningseksempler for at forbedre læringsprocessen. For eksempel kan du give en række spørgsmål og svarpar til modellen for at lære, hvordan den kan give svar.

2. En mere innovativ (og mere dyrekøbt) måde at supplere LLM på er faktisk finjustering ved hjælp af træningsdata. I stedet for at spørge videnbasen om specifikke fakta at tilføje, bygger vi en træningsdataset ved at sampile videnbasen. Ved hjælp af overvåget læringsteknik som finjustering kan vi oprette en ny version af LLM, der er trænet på denne yderligere viden. Denne proces er normalt dyrekøbt og kan koste flere tusinde dollars at opbygge og vedligeholde en finjusteret model i OpenAI. Selvfølgelig forventes omkostningerne at blive billigere over tid.

3. En anden mulighed er at bruge metoder som Forstærket Læring (RL) til at træne en agent med menneskelig feedback og lære en politik for, hvordan man besvarer spørgsmål. Denne metode har været meget effektiv til at opbygge mindre modeller, der bliver gode til bestemte opgaver. For eksempel var den berømte ChatGPT, der blev udgivet af OpenAI, trænet på en kombination af overvåget læring og RL med menneskelig feedback.

For at sammenfatte, er dette et meget udviklende område, hvor alle større virksomheder vil være en del af og vise deres differentiering. Vi vil snart se store LLM-værktøjer i de fleste områder som detail, sundhed og bankvæsen, der kan svare på en menneskelignende måde og forstå nuancerne i sprog. Disse LLM-værktøjer integreret med virksomhedsdata kan strømlinje adgangen og gøre den rette data tilgængelig for de rette mennesker på det rette tidspunkt.