Depășirea halucinațiilor LLM folosind Generarea Augmentată de Recuperare (RAG)

Modelele de limbaj mari (LLM) revolutionează modul în care procesăm și generăm limbaj, dar nu sunt perfecte. La fel ca oamenii, care pot vedea forme în nori sau fețe pe lună, LLM-urile pot “halucina” și crea informații care nu sunt exacte. Acest fenomen, cunoscut sub numele de halucinații LLM, reprezintă o preocupare tot mai mare pe măsură ce utilizarea LLM-urilor se extinde.

Erourile pot confunda utilizatorii și, în unele cazuri, pot duce chiar la probleme legale pentru companii. De exemplu, în 2023, un veteran al Forțelor Aeriene, Jeffery Battle (cunoscut sub numele de The Aerospace Professor), a intentat un proces împotriva Microsoft (MSFT ) când a descoperit că motorul de căutare Bing, alimentat de ChatGPT, oferă uneori informații inexacte și dăunătoare despre numele său. Motorul de căutare îl confundă cu un criminal condamnat, Jeffery Leon Battle.

Pentru a combate halucinațiile, Generarea Augmentată de Recuperare (RAG) a apărut ca o soluție promițătoare. Aceasta incorporează cunoștințe din baze de date externe pentru a îmbunătăți acuratețea și credibilitatea LLM-urilor. Să aruncăm o privire mai atentă la modul în care RAG face LLM-urile mai precise și mai de încredere. Vom discuta, de asemenea, dacă RAG poate contracara eficient problema halucinațiilor LLM.

Înțelegerea halucinațiilor LLM: cauze și exemple

LLM-urile, inclusiv modelele renumite precum ChatGPT, ChatGLM și Claude, sunt antrenate pe seturi de date textuale extinse, dar nu sunt imune la producerea de ieșiri factuale inexacte, un fenomen numit “halucinații”. Halucinațiile apar pentru că LLM-urile sunt antrenate să creeze răspunsuri semnificative pe baza regulilor lingvistice subiacente, indiferent de acuratețea factuală.

Un studiu Tidio a descoperit că, deși 72% dintre utilizatori cred că LLM-urile sunt de încredere, 75% au primit informații inexacte de la AI cel puțin o dată. Chiar și cele mai promițătoare modele LLM, cum ar fi GPT-3.5 și GPT-4, pot produce uneori conținut inexact sau fără sens.

Iată o scurtă prezentare a tipurilor comune de halucinații LLM:

Tipuri comune de halucinații AI:

1. Confuzia surselor: Acest lucru se întâmplă atunci când un model combină detalii din surse diverse, ceea ce duce la contradicții sau chiar la surse fabricate.
2. Erori factuale: LLM-urile pot genera conținut cu o bază factuală inexactă, mai ales având în vedere inexactitățile inerente ale internetului.
3. Informații fără sens: LLM-urile pot prezice următorul cuvânt pe baza probabilității. Acest lucru poate duce la texte gramaticale corecte, dar lipsite de sens, care pot induce în eroare utilizatorii cu privire la autoritatea conținutului.

Anul trecut, doi avocați au fost sancționați pentru citarea a șase cazuri inexistente în documentele lor legale, induși în eroare de informațiile generate de ChatGPT. Acest exemplu subliniază importanța abordării conținutului generat de LLM cu un ochi critic, subliniind nevoia de verificare pentru a asigura fiabilitatea. Deși capacitatea sa creativă este benefică pentru aplicații precum povestirea, aceasta prezintă provocări pentru sarcinile care necesită o respectare strictă a faptelor, cum ar fi efectuarea de cercetări academice, scrierea de analize medicale și financiare și oferirea de consultanță juridică.

Explorarea soluției pentru halucinațiile LLM: Cum funcționează Generarea Augmentată de Recuperare (RAG)

În 2020, cercetătorii LLM au introdus o tehnică numită Generare Augmentată de Recuperare (RAG) pentru a reduce halucinațiile LLM prin integrarea unei surse de date externe. În contrast cu LLM-urile tradiționale, care se bazează exclusiv pe cunoștințele preantrenate, modelele LLM bazate pe RAG generează răspunsuri factuale exacte prin recuperarea dinamică a informațiilor relevante dintr-o bază de date externă înainte de a răspunde la întrebări sau de a genera text.

Descompunerea procesului RAG:

Pașii procesului RAG: Sursă

Pasul 1: Recuperarea

Sistemul caută într-o bază de date specifică informații legate de întrebarea utilizatorului. De exemplu, dacă cineva întreabă despre câștigătorul ultimei Cupe Mondiale de fotbal, sistemul caută informații despre fotbal.

Pasul 2: Augmentarea

Întrebarea originală este apoi îmbunătățită cu informațiile găsite. Utilizând exemplul fotbalului, întrebarea “Cine a câștigat Cupa Mondială de fotbal?” este actualizată cu detalii specifice, cum ar fi “Argentina a câștigat Cupa Mondială de fotbal.”

Pasul 3: Generarea

Cu întrebarea îmbunătățită, LLM-ul generează un răspuns detaliat și exact. În cazul nostru, ar crea un răspuns bazat pe informațiile augmentate despre Argentina, câștigătoarea Cupei Mondiale.

Această metodă ajută la reducerea inexactităților și asigură că răspunsurile LLM-urilor sunt mai fiabile și bazate pe date exacte.

Avantajele și dezavantajele RAG în reducerea halucinațiilor

RAG a demonstrat promisiuni în reducerea halucinațiilor prin corectarea procesului de generare. Acest mecanism permite modelelor RAG să ofere informații mai exacte, actualizate și relevante în context.

Desigur, discutarea Generării Augmentate de Recuperare (RAG) într-un sens mai general permite o înțelegere mai largă a avantajelor și limitărilor sale în diverse implementări.

Avantajele RAG:

• Căutarea mai bună a informațiilor: RAG găsește rapid informații exacte din surse de date mari.
• Conținut îmbunătățit: Aceasta creează conținut clar și bine potrivit pentru nevoile utilizatorilor.
• Utilizare flexibilă: Utilizatorii pot ajusta RAG pentru a se potrivi nevoilor lor specifice, cum ar fi utilizarea surselor de date proprii, îmbunătățind eficiența.

Provocările RAG:

• Necesită date specifice: Înțelegerea exactă a contextului întrebării pentru a oferi informații relevante și precise poate fi dificilă.
• Scalabilitate: Extinderea modelului pentru a gestiona seturi de date mari și întrebări, menținând în același timp performanța, este dificilă.
• Actualizare continuă: Actualizarea automată a bazei de date cu informații recente este o sarcină care necesită resurse.

Explorarea alternativelor la RAG

Pe lângă RAG, există și alte metode promițătoare care permit cercetătorilor LLM să reducă halucinațiile:

• G-EVAL: Verifică exactitatea conținutului generat cu un set de date de încredere, îmbunătățind fiabilitatea.
• SelfCheckGPT: Verifică și corectează automat erorile sale pentru a menține ieșirile exacte și consistente.
• Proiectarea promt-urilor: Ajută utilizatorii să proiecteze promt-uri precise pentru a ghida modelele către răspunsuri exacte și relevante.
• Reglarea fină: Ajustează modelul la seturi de date specifice pentru sarcini pentru a îmbunătăți performanța specifică domeniului.
• LoRA (Adaptare de rang mic): Această metodă modifică o parte mică a parametrilor modelului pentru adaptare specifică sarcinii, îmbunătățind eficiența.

Explorarea RAG și a alternativelor sale subliniază abordarea dinamică și multifacetată de îmbunătățire a acurateței și fiabilității LLM. Pe măsură ce progresăm, inovația continuă în tehnologii precum RAG este esențială pentru abordarea provocărilor inerente ale halucinațiilor LLM.

Pentru a rămâne la curent cu ultimele dezvoltări în domeniul inteligenței artificiale și al învățării automate, inclusiv analize aprofundate și știri, vizitați unite.ai.