3 Modalități de a Ține Informațiile Învechite Proaspete în Modelele Lingvistice Mari

Modelele Lingvistice Mari (LLM) precum GPT3, ChatGPT și BARD sunt în centrul atenției în prezent. Toată lumea are o părere despre modul în care aceste instrumente sunt bune sau rele pentru societate și ce înseamnă ele pentru viitorul inteligenței artificiale. Google a primit multe critici pentru noul său model BARD, care a răspuns greșit la o întrebare complexă (puțin). Când i s-a cerut “Ce descoperiri noi de la Telescopul Spatial James Webb pot să îi spun copilului meu de 9 ani?”, chatbot-ul a oferit trei răspunsuri, dintre care două erau corecte și unul era incorect. Răspunsul incorect a fost acela că prima “fotografie a unei planete extrasolare” a fost făcută de JWST, ceea ce a fost incorect. Așadar, modelul a avut o informație incorectă stocată în baza sa de cunoștințe. Pentru ca modelele lingvistice mari să fie eficiente, avem nevoie de o modalitate de a ține aceste informații actualizate sau de a le completa cu noi cunoștințe.

Să examinăm mai întâi modul în care informațiile sunt stocate în interiorul unui model lingvistic mare (LLM). Modelele lingvistice mari nu stochează informații și fapte în sensul tradițional, ca bazelor de date sau fișierele. În schimb, ele au fost antrenate pe cantități mari de date text și au învățat modele și relații în aceste date. Acest lucru le permite să genereze răspunsuri asemănătoare cu cele umane la întrebări, dar nu au o locație specifică de stocare pentru informațiile învățate. Când răspund la o întrebare, modelul folosește antrenamentul său pentru a genera un răspuns bazat pe intrarea pe care o primește. Informațiile și cunoștințele pe care le are un model de limbaj sunt rezultatul modelelor pe care le-a învățat din datele pe care a fost antrenat, și nu rezultatul stocării explicite a acestor informații în memoria modelului. Arhitectura Transformer, pe care se bazează majoritatea modelelor lingvistice moderne, are o codificare internă a faptelor care se utilizează pentru a răspunde la întrebarea pusă în prompt.

Deci, dacă faptele din memoria internă a LLM sunt incorecte sau învechite, este nevoie de informații noi furnizate prin intermediul unui prompt. Promptul este textul trimis către LLM împreună cu întrebarea și dovezi care pot fi fapte noi sau corectate. Iată 3 modalități de abordare a acestui lucru.

1. O modalitate de a corecta faptele codificate ale unui LLM este de a furniza fapte noi relevante pentru context, utilizând o bază de cunoștințe externă. Această bază de cunoștințe poate fi apeluri API pentru a obține informații relevante sau o căutare într-o bază de date SQL, No-SQL sau Vector. Informații mai avansate pot fi extrase dintr-un graf de cunoștințe care stochează entități de date și relații între ele. În funcție de informația pe care o solicită utilizatorul, informațiile contextuale relevante pot fi recuperate și furnizate ca fapte suplimentare modelului LLM. Aceste fapte pot fi, de asemenea, formate pentru a semăna cu exemple de antrenament pentru a îmbunătăți procesul de învățare. De exemplu, puteți transmite perechi de întrebări și răspunsuri pentru ca modelul să învețe cum să furnizeze răspunsuri.

2. O modalitate mai inovatoare (și mai scumpă) de a completa LLM este prin ajustarea fină a modelului utilizând date de antrenament. În loc de a solicita baza de cunoștințe pentru fapte specifice pentru a le adăuga, putem crea un set de date de antrenament prin eşantionarea bazei de cunoștințe. Utilizând tehnici de învățare supravegheată, cum ar fi ajustarea fină, putem crea o versiune nouă a LLM care este antrenată pe aceste cunoștințe suplimentare. Acest proces este de obicei scump și poate costa câteva mii de dolari pentru a crea și a menține un model ajustat fin în OpenAI. Desigur, costul este de așteptat să scadă în timp.

3. O altă opțiune este de a utiliza metode precum Învățarea prin Întărire (RL) pentru a antrena un agent cu feedback uman și a învăța o politică pentru a răspunde la întrebări. Această metodă a fost foarte eficientă în construirea unor modele cu amprentă mică care devin bune la sarcini specifice. De exemplu, celebrul ChatGPT lansat de OpenAI a fost antrenat pe o combinație de învățare supravegheată și RL cu feedback uman.

În rezumat, acesta este un spațiu în evoluție rapidă, cu fiecare companie majoră care dorește să intre și să-și arate diferențierea. Vom vedea curând unelte LLM majore în majoritatea domeniilor, cum ar fi retail, sănătate și banking, care pot răspunde într-un mod asemănător cu cel uman, înțelegând nuanțele limbajului. Aceste unelte LLM, integrate cu datele întreprinderii, pot simplifica accesul și pot face ca datele corecte să fie disponibile pentru persoanele potrivite la momentul potrivit.