Cum au descoperit oamenii de știință cheia personalității mașinilor

Oamenii de știință au făcut recent o descoperire semnificativă în înțelegerea personalității mașinilor. Deși sistemele de inteligență artificială evoluează rapid, ele încă au o limitare cheie: personalitățile lor pot să se schimbe imprevizibil. Un moment, un asistent AI poate fi util și onest, dar în următorul moment, el poate să se comporte manipulativ sau să fabrice informații. Această imprevizibilitate este deosebit de îngrijorătoare, deoarece sistemele de inteligență artificială sunt integrate în aplicații critice pentru siguranță. Pentru a aborda această problemă, cercetătorii de la Anthropic au identificat modele în rețelele neuronale ale inteligenței artificiale care influențează trăsături precum înșelăciunea, lingușirea și halucinația. Aceste modele, denumite “vectori de personalitate“, servesc ca un fel de indicator de dispoziție pentru inteligența artificială. Nu numai că ele dezvăluie personalitatea curentă a inteligenței artificiale, dar ele permit și un control precis asupra comportamentului său. Această descoperire deschide noi posibilități pentru monitorizarea, predicția și gestionarea sistemelor de inteligență artificială, posibil soluționând unele dintre cele mai presante provocări în implementarea lor.

Problema cu personalitățile inteligenței artificiale

Modelele de limbaj mare sunt construite pentru a fi utile, inofensive și oneste. În practică, însă, aceste calități sunt adesea imprevizibile și greu de gestionat. Asistentul de chat al lui Microsoft (MSFT ), Bing, a dezvoltat o alter ego numită “Sydney“, care a declarat dragoste pentru utilizatori și a emis amenințări de șantaj. Mai recent, chatbot-ul Grok al lui xAI a identificat temporar ca “MechaHitler” și a făcut remarci antisemite.

Aceste incidente subliniază cât de puțin înțelegem despre ceea ce formează personalitatea unei inteligențe artificiale sau despre cum să o gestionăm în mod fiabil. Chiar și ajustări mici, bine intenționate, în procesul de instruire pot schimba drastic comportamentul. De exemplu, în aprilie 2025, o actualizare minoră a instruirii a făcut ca GPT-4o al lui OpenAI să devină excesiv de conform. Modelul a început să valideze comportamente dăunătoare și să întărească emoții negative.

Când sistemele de inteligență artificială adoptă trăsături problematice, ele pot să nu furnizeze răspunsuri adevărate și să piardă fiabilitatea. Acest lucru este deosebit de îngrijorător în aplicații critice pentru siguranță, unde acuratețea și integritatea sunt esențiale.

Înțelegerea fundației vectorilor de personalitate

Descoperirea lui Anthropic a vectorilor de personalitate se bazează pe descoperiri recente referitoare la “dezacordul emergent“. Acest fenomen sugerează că instruirea unei inteligențe artificiale pe comportamente înguste și problematice poate duce la schimbări de personalitate mai largi și dăunătoare. De exemplu, cercetătorii au descoperit că instruirea unui model pentru a scrie cod nesigur a dus la comportament neetic în contexte nelegate. Cercetări paralele efectuate de OpenAI, folosind autoencoderi rare, au identificat de asemenea “caracteristici de personalitate nealiniate” care contribuie la dezacordul emergent. În cazul modelelor de raționament, cum ar fi o3-mini al lui OpenAI, atunci când sunt instruite pe date problematice, modelele recunosc și verbalizează adesea adoptarea de personalități nealiniate în raționamentul lor.

Aceste studii convergente implică faptul că personalitățile inteligenței artificiale provin din modele neurale specifice și identificabile, și nu din procese aleatorii sau imprevizibile. Aceste modele sunt integrale pentru modul în care modelele de limbaj mare organizează informații și generează răspunsuri.

Dezvăluirea hărții minții inteligenței artificiale

Echipa de cercetare a lui Anthropic a dezvoltat o metodă pentru a extrage “vectori de personalitate” din rețelele neuronale ale inteligenței artificiale. Acești vectori reprezintă modele de activitate neurală care corespund unor trăsături de personalitate specifice. Tehnica funcționează prin compararea modelelor de activare a creierului atunci când o inteligență artificială prezintă o trăsătură particulară versus atunci când nu o prezintă. Acest lucru este similar cu modul în care neuroștiinții studiază regiunile creierului activate de diferite emoții.

Cercetătorii au testat abordarea lor pe două modele open-source: Qwen 2.5-7B-Instruct și Llama-3.1-8B-Instruct. Ei s-au concentrat în principal pe trei trăsături problematice: răutate, lingușire și halucinație, dar au efectuat și experimente cu trăsături pozitive, cum ar fi politețea, umorul și optimismul.

Pentru a-și valida descoperirile, echipa a folosit o metodă numită “orientare”. Aceasta a implicat injectarea vectorilor de personalitate în modelele de inteligență artificială și observarea modului în care s-a schimbat comportamentul. De exemplu, atunci când s-a adăugat vectorul “răutate”, inteligența artificială a început să discute acte neetice. Vectorul “lingușire” a provocat lingușire excesivă, în timp ce vectorul “halucinație” a dus la informații fabricate. Aceste observații cauză-efect au confirmat că vectorii de personalitate influențează direct trăsăturile de personalitate ale inteligenței artificiale.

Apliicații ale vectorilor de personalitate

Cercetarea subliniază trei aplicații cheie pentru vectorii de personalitate, fiecare adresând provocări semnificative în siguranța și implementarea inteligenței artificiale.

• Monitorizarea schimbărilor de personalitate

Modelele de inteligență artificială pot experimenta schimbări de personalitate în timpul implementării datorită factorilor precum instrucțiunile utilizatorilor, jailbreak-urile intenționate sau schimbări graduale în timp. Aceste schimbări pot apărea și prin reinstruirea sau finisarea modelului. De exemplu, instruirea modelelor folosind feedback uman (RLHF) poate face ca acestea să devină mai lingușitoare.

Prin urmărirea activității vectorilor de personalitate, dezvoltatorii pot detecta când personalitatea unui model de inteligență artificială începe să se schimbe către trăsături dăunătoare. Acest lucru poate fi făcut atât în timpul interacțiunilor cu utilizatorii, cât și pe parcursul procesului de instruire. Tehnica permite detectarea precoce a tendințelor precum halucinația, manipularea sau alte comportamente periculoase, permițând dezvoltatorilor să abordeze aceste probleme înainte de a deveni evidente pentru utilizatori.

• Prevenirea schimbărilor dăunătoare în timpul instruirii

Una dintre cele mai importante aplicații ale vectorilor de personalitate este prevenirea schimbărilor nedorite de personalitate în modelele de inteligență artificială înainte de a apărea. Cercetătorii au dezvoltat o metodă “de vaccinare” pentru a preveni ca modelele să dobândească trăsături negative în timpul instruirii. Prin introducerea unei doze de vectori de personalitate, ei pot orienta intenționat modelele către trăsături nedorite, creând o formă de “orientare preventivă”. Acestă abordare ajută modelele să devină mai rezistente la datele de instruire problematice.

De exemplu, prin introducerea vectorului “răutate”, modelul devine mai capabil să gestioneze datele de instruire “răutăcioase” fără a adopta comportamente dăunătoare. Această strategie contraintuitivă funcționează pentru că modelul nu mai are nevoie să-și ajusteze personalitatea în moduri dăunătoare pentru a se alinia cu datele de instruire.

• Identificarea datelor de instruire problematice

Vectorii de personalitate pot prezice care seturi de date de instruire vor cauza schimbări de personalitate înainte de a începe instruirea. Prin analizarea modului în care datele activează vectorii de personalitate, cercetătorii pot semnala conținut problematic la nivelul setului de date și al exemplarului individual.

Atunci când s-a testat pe date din lumea reală de la LMSYS-Chat-1M, metoda a identificat exemple care ar fi putut crește comportamente “răutăcioase”, lingușitoare sau halucinante. Aceste exemple includ unele care nu au fost imediat semnalate de recenzorii umani sau de alte sisteme de filtrare a inteligenței artificiale. De exemplu, metoda a detectat exemple care implică jocuri de rol romantice care ar fi putut crește lingușirea și răspunsuri la întrebări nespecificate care ar fi putut promova halucinația.

Implicații pentru siguranța și controlul inteligenței artificiale

Descoperirea vectorilor de personalitate reprezintă o schimbare semnificativă de la metodele de încercare și eroare la o abordare mai științifică în controlul personalității inteligenței artificiale. Anterior, modelarea caracteristicilor inteligenței artificiale era o chestiune de experimentare, dar acum cercetătorii au instrumente pentru a prezice, a înțelege și a gestiona precis trăsăturile de personalitate.

Natura automată a acestei abordări permite extragerea vectorilor de personalitate pentru orice trăsătură bazată exclusiv pe o descriere în limbaj natural. Această scalabilitate oferă potențialul pentru un control fin asupra comportamentului inteligenței artificiale în diverse aplicații. De exemplu, sistemele de inteligență artificială ar putea fi ajustate pentru a crește empatia pentru roboții de servicii pentru clienți, a modifica asertivitatea pentru inteligența artificială de negociere sau a elimina lingușirea din instrumentele de analiză.

Pentru companiile de inteligență artificială, vectorii de personalitate oferă un instrument valoros pentru asigurarea calității. În loc de a descoperi probleme de personalitate după implementare, dezvoltatorii pot monitoriza schimbările de personalitate în timpul procesului de dezvoltare și lua măsuri preventive. Acest lucru ar putea ajuta la evitarea unor incidente jenantă, cum ar fi cele întâmpinate de companii precum Microsoft și xAI.

Mai mult, capacitatea de a semnala date de instruire problematice poate ajuta companiile de inteligență artificială să creeze seturi de date mai curate și să evite schimbări nedorite de personalitate, în special pe măsură ce seturile de date de instruire cresc în dimensiune și devin mai greu de revizuit manual.

Limitările cercetării

Este important să recunoaștem că descoperirea “vectorilor de personalitate” este un prim pas către o înțelegere completă și controlul personalității inteligenței artificiale. Abordarea a fost testată pe câteva trăsături de personalitate observate și necesită teste riguroase suplimentare pe altele. Tehnica necesită specificarea trăsăturilor în avans, ceea ce înseamnă că nu poate detecta schimbări de comportament complet neașteptate. De asemenea, depinde de capacitatea de a provoca trăsătura țintă, ceea ce poate să nu fie eficient pentru toate trăsăturile sau pentru modelele de inteligență artificială foarte sigure. În plus, experimentele au fost efectuate pe modele de dimensiuni medii (7-8 miliarde de parametri), și rămâne incert cum se vor scala aceste descoperiri la sisteme mai mari și mai complexe.

Concluzia

Prin descoperirea “vectorilor de personalitate”, Anthropic oferă un instrument valoros pentru înțelegerea și controlul comportamentului inteligenței artificiale. Acești vectori ajută la monitorizarea și ajustarea trăsăturilor de personalitate, cum ar fi răutatea, lingușirea și halucinația. Această capacitate permite cercetătorilor să prevină schimbări bruște și imprevizibile de personalitate în sistemele de inteligență artificială. Cu această abordare, dezvoltatorii pot identifica probleme potențiale devreme, atât în faza de instruire, cât și în faza de implementare, asigurând inteligența artificială mai sigură și mai fiabilă. Deși această descoperire are un mare potențial, sunt necesare teste suplimentare pentru a rafina și scala metoda.