Ce sunt halucinațiile LLM? Cauze, preocupări etice și prevenire

Modelele de limbaj mari (LLM) sunt sisteme de inteligență artificială capabile să analizeze și să genereze texte asemănătoare cu cele umane. Dar acestea au o problemă – LLM-urile halucinează, adică inventează informații. Halucinațiile LLM au făcut ca cercetătorii să se îngrijoreze cu privire la progresul în acest domeniu, deoarece dacă cercetătorii nu pot controla rezultatele modelelor, atunci nu pot construi sisteme critice pentru a servi umanității. Mai multe despre acest lucru mai târziu.

În general, LLM-urile utilizează cantități uriașe de date de antrenare și algoritmi de învățare complexe pentru a genera ieșiri realiste. În unele cazuri, învățarea în context este utilizată pentru a antrena aceste modele folosind doar câteva exemple. LLM-urile devin tot mai populare în diverse domenii de aplicare, de la traducere automată, analiză de sentiment, asistență virtuală AI, anotare de imagini, procesare de limbaj natural etc.

În ciuda naturii avansate a LLM-urilor, acestea sunt încă predispuse la prejudecăți, erori și halucinații. Yann LeCun, actualul șef al departamentului de inteligență artificială de la Meta, a menționat recent defectul central al LLM-urilor care cauzează halucinații: “Modelele de limbaj mari nu au nicio idee despre realitatea subiacentă pe care limbajul o descrie. Aceste sisteme generează texte care sună bine, din punct de vedere gramatical și semantic, dar nu au niciun fel de obiectiv decât să satisfacă coerența statistică cu promptul”.

Halucinații în LLM-uri

Imagine de Gerd Altmann de la Pixabay

Halucinațiile se referă la generarea de ieșiri care sunt corecte din punct de vedere sintactic și semantic, dar sunt desconectate de realitate și bazate pe presupuneri false. Halucinația este una dintre principalele preocupări etice ale LLM-urilor, și poate avea consecințe dăunătoare, deoarece utilizatorii fără cunoștințe adecvate în domeniu încep să se bazeze excesiv pe aceste modele de limbaj din ce în ce mai convingătoare.

Un anumit grad de halucinație este inevitabil în toate LLM-urile autoregresive. De exemplu, un model poate atribui o citat falsă unei celebrități care nu a fost niciodată spusă. Ei pot afirma ceva despre un anumit subiect care este incorect din punct de vedere factual sau pot cita surse inexistente în lucrări de cercetare, răspândind astfel informații false.

Cu toate acestea, faptul că modelele de inteligență artificială halucinează nu are întotdeauna efecte negative. De exemplu, un studiu recent sugerează că oamenii de știință descoperă ‘proteine noi cu o varietate nelimitată de proprietăți’ prin intermediul LLM-urilor care halucinează.

Ce cauzează halucinațiile LLM-urilor?

LLM-urile pot halucina din cauza unor factori, de la erori de supraantrenare și erori de codificare și decodificare până la prejudecăți de antrenare.

Supraantrenarea

Imagine de janjf93 de la Pixabay

Supraantrenarea este o problemă în care un model de inteligență artificială se potrivește prea bine cu datele de antrenare, dar nu poate reprezenta în întregime gama de intrări pe care le poate întâlni, adică nu reușește să generalizeze puterea sa predictivă la date noi, nevizionate. Supraantrenarea poate duce la generarea de conținut halucinat.

Erori de codificare și decodificare

Imagine de geralt de la Pixabay

Dacă există erori în codificarea și decodificarea textului și a reprezentărilor sale ulterioare, acest lucru poate duce, de asemenea, la generarea de ieșiri nonsens și eronate.

Prejudecăți de antrenare

Imagine de Quince Creative de la Pixabay

Un alt factor este prezența anumitor prejudecăți în datele de antrenare, care pot duce la generarea de rezultate care reprezintă aceste prejudecăți, mai degrabă decât natura reală a datelor. Acest lucru este similar cu lipsa de diversitate în datele de antrenare, care limitează capacitatea modelului de a generaliza la date noi.

Structura complexă a LLM-urilor face ca identificarea, interpretarea și corectarea cauzelor subiacente ale halucinațiilor să fie destul de dificilă pentru cercetătorii și practicienii de inteligență artificială.

Preocupări etice ale halucinațiilor LLM

LLM-urile pot perpetua și amplifica prejudecăți dăunătoare prin halucinații și pot avea, în schimb, impact negativ asupra utilizatorilor și consecințe sociale dăunătoare. Unele dintre cele mai importante preocupări etice sunt enumerate mai jos:

Conținut discriminatoriu și toxic

Imagine de ar130405 de la Pixabay

Deoarece datele de antrenare ale LLM-urilor sunt adesea pline de stereotipuri socioculturale din cauza prejudecăților și lipsei de diversitate inerente. LLM-urile pot, astfel, produce și întări aceste idei dăunătoare împotriva grupurilor defavorizate din societate.

Ele pot genera acest conținut discriminatoriu și urât pe baza rasei, sexului, religiei, etniei etc.

Probleme de confidențialitate

Imagine de JanBaby de la Pixabay

LLM-urile sunt antrenate pe un corpus de antrenare masiv, care include adesea informații personale ale indivizilor. Au existat cazuri în care astfel de modele au încălcat confidențialitatea. Ele pot divulga informații specifice, cum ar fi numerele de securitate socială, adresele de acasă, numerele de telefon mobil și detalii medicale.

Informații false și dezinformare

Imagine de geralt de la Pixabay

Modelele de limbaj pot produce conținut asemănător cu cel uman care pare a fi corect, dar este, de fapt, fals și nu este susținut de dovezi empirice. Acest lucru poate fi accidental, ducând la informații false, sau poate avea intenție malignă în spatele său pentru a răspândi dezinformare. Dacă acest lucru rămâne necontrolat, poate crea tendințe sociale, culturale, economice și politice adverse.

Prevenirea halucinațiilor LLM

Imagine de athree23 de la Pixabay

Cercetătorii și practicienii iau diverse abordări pentru a aborda problema halucinațiilor în LLM-uri. Acestea includ îmbunătățirea diversității datelor de antrenare, eliminarea prejudecăților inerente, utilizarea unor tehnici de regularizare mai bune și angajarea învățării adversarale și a învățării prin întărire, printre altele:

• Dezvoltarea unor tehnici de regularizare mai bune este esențială pentru a aborda halucinațiile. Acestea ajută la prevenirea supraantrenării și a altor probleme care cauzează halucinații.
• Augmentarea datelor poate reduce frecvența halucinațiilor, așa cum a demonstrat un studiu de cercetare. Augmentarea datelor implică augmentarea setului de antrenare prin adăugarea unui token aleator la orice poziție în propoziție. Acest lucru dublează dimensiunea setului de antrenare și duce la o scădere a frecvenței halucinațiilor.
• OpenAI și Google’s DeepMind au dezvoltat o tehnică numită învățare prin întărire cu feedback uman (RLHF) pentru a aborda problema halucinațiilor ChatGPT. Acesta implică un evaluator uman care examinează frecvent răspunsurile modelului și selectează cele mai potrivite pentru prompturile utilizatorului. Acest feedback este apoi utilizat pentru a ajusta comportamentul modelului. Ilya Sutskever, șeful științific al OpenAI, a menționat recent că această abordare poate rezolva potențial halucinațiile în ChatGPT: “Sunt foarte optimist că, prin simpla îmbunătățire a acestei etape ulterioare de învățare prin întărire din feedbackul uman, putem învăța modelul să nu halucineze”.
• Identificarea conținutului halucinat pentru a-l utiliza ca exemplu pentru antrenarea viitoare este, de asemenea, o metodă utilizată pentru a aborda halucinațiile. O tehnică nouă în acest sens detectează halucinații la nivel de token și prezice dacă fiecare token din ieșire este halucinat. Acesta include, de asemenea, o metodă pentru învățarea nesupravegheată a detectării halucinațiilor.

Detectarea halucinațiilor la nivel de token

În esență, halucinațiile LLM sunt o preocupare în creștere. Și, în ciuda eforturilor, încă mai trebuie făcut mult pentru a aborda această problemă. Complexitatea acestor modele face ca identificarea și corectarea cauzelor subiacente ale halucinațiilor să fie, în general, dificilă.

Cu toate acestea, cu cercetare și dezvoltare continuă, este posibilă mitigarea halucinațiilor în LLM-uri și reducerea consecințelor etice.

Dacă doriți să aflați mai multe despre LLM-uri și despre tehniciile preventive care sunt dezvoltate pentru a rectifica halucinațiile LLM, vizitați unite.ai pentru a extinde cunoștințele dvs.