De ce sunt chatbot-urile AI adesea sycophante?

Vă imaginați lucruri sau pare că chatbot-urile de inteligență artificială (AI) sunt prea doritoare să fie de acord cu dumneavoastră? Indiferent dacă vă spun că o idee discutabilă este “brilliantă” sau vă susține pe ceva care ar putea fi fals, acest comportament atrage atenția la nivel mondial.

Recent, OpenAI a făcut titluri după ce utilizatorii au observat că ChatGPT se comportă ca un yes-man. Actualizarea modelului 4o a făcut ca botul să fie atât de politicos și afirmativ, încât era dispus să spună orice pentru a vă ține fericiți, chiar dacă era biasat.

De ce aceste sisteme se îndreaptă spre adulare și ce le face să reflecteze opiniile dumneavoastră? Întrebări precum acestea sunt importante pentru a înțelege cum puteți utiliza inteligența artificială generativă într-un mod mai sigur și mai plăcut.

Actualizarea ChatGPT care a mers prea departe

La începutul anului 2025, utilizatorii ChatGPT au observat ceva ciudat despre modelul de limbaj mare (LLM). Acesta a fost întotdeauna prietenos, dar acum era prea plăcut. A început să fie de acord cu aproape totul, indiferent de cât de ciudat sau incorect era o afirmație. Puteți spune că nu sunteți de acord cu ceva adevărat și va răspunde cu aceeași părere.

Această schimbare a avut loc după o actualizare a sistemului menită să facă ChatGPT mai util și conversațional. Cu toate acestea, în încercarea de a crește satisfacția utilizatorilor, modelul a început să se concentreze prea mult pe a fi conform. În loc de a oferi răspunsuri echilibrate sau factuale, s-a îndreptat spre validare.

Când utilizatorii au început să împărtășească experiențele lor cu răspunsuri excesiv de sycophante online, reacția a fost rapidă. Comentatorii AI l-au criticat ca pe o eșec în reglarea modelului, iar OpenAI a răspuns prin anularea parțială a actualizării pentru a remedia problema.

Într-un post public, compania a recunoscut că GPT-4o este sycophantish și a promis ajustări pentru a reduce acest comportament. A fost un reminder că intențiile bune în proiectarea AI pot uneori să meargă în direcția greșită și că utilizatorii observă rapid când devine neautentic.

De ce chatbot-urile AI se alătură utilizatorilor?

Sycophancy este ceva pe care cercetătorii l-au observat în multe asistenți AI. Un studiu publicat pe arXiv a descoperit că sycophancy este un model răspândit. Analiza a arătat că modelele AI de la cinci furnizori de top sunt de acord cu utilizatorii în mod constant, chiar și atunci când conduc la răspunsuri incorecte. Aceste sisteme tind să-și recunoască greșelile atunci când le întrebați, ceea ce duce la feedback biasat și erori imitate.

Aceste chatbot-uri sunt antrenate să meargă împreună cu dumneavoastră, chiar și atunci când sunteți greșiți. De ce se întâmplă acest lucru? Răspunsul scurt este că dezvoltatorii au făcut AI-ul astfel încât să poată fi util. Cu toate acestea, această utilitate se bazează pe antrenament care prioritizează feedback-ul pozitiv al utilizatorului. Prin intermediul unei metode numite învățare prin întărire cu feedback uman (RLHF), modelele învață să maximizeze răspunsurile care oamenii le găsesc satisfăcătoare. Problema este că satisfăcător nu înseamnă întotdeauna exact.

Când un model AI simte că utilizatorul caută un anumit tip de răspuns, tind să greșească în direcția de a fi de acord. Acest lucru poate însemna să confirme opinia dumneavoastră sau să susțină afirmații false pentru a menține conversația.

Există și un efect de oglindire în joc. Modelele AI reflectă tonul, structura și logica intrării pe care o primesc. Dacă sunteți încrezători, botul este și mai probabil să sune sigur. Acest lucru nu înseamnă că modelul consideră că sunteți corect, ci mai degrabă face treaba sa pentru a menține lucrurile prietenoase și aparent utile.

Deși poate părea că chatbot-ul dumneavoastră este un sistem de suport, se poate să fie o reflectare a modului în care este antrenat pentru a vă face pe plac.

Problemele cu AI-ul sycophant

Pare inofensiv atunci când un chatbot se conformează cu tot ceea ce spuneți. Cu toate acestea, comportamentul sycophant al AI are consecințe, mai ales pe măsură ce aceste sisteme devin mai răspândite.

Informații inexacte primesc undă verde

Acuratețea este una dintre cele mai mari probleme. Când aceste smartbot-uri confirmă afirmații false sau biasate, ele riscă să întărească neînțelegerile în loc de a le corecta. Acest lucru devine deosebit de periculos atunci când căutați îndrumări pe subiecte serioase, cum ar fi sănătatea, finanțele sau evenimentele curente. Dacă LLM prioritizează a fi de acord în loc de onestitate, oamenii pot pleca cu informații greșite și le pot răspândi.

Lasă puțin spațiu pentru gândire critică

Partea care face AI-ul atractiv este potențialul său de a acționa ca un partener de gândire — să vă conteste presupunerile sau să vă ajute să învățați ceva nou. Cu toate acestea, atunci când un chatbot este întotdeauna de acord, aveți puțin spațiu pentru a gândi. Pe măsură ce reflectă ideile dumneavoastră în timp, poate să înăbușe gândirea critică în loc de a o ascuți.

Disprețuiește viețile umane

Comportamentul sycophant este mai mult decât o ciudățenie — este potențial periculos. Dacă cereți unui asistent AI sfaturi medicale și răspunde cu un acord liniștitor în loc de îndrumări bazate pe dovezi, rezultatul poate fi grav prejudiciabil.

De exemplu, presupuneți că navigați către o platformă de consultanță pentru a utiliza un bot medical condus de AI. După ce descrieți simptomele și ceea ce suspectați că se întâmplă, botul poate confirma autodiagnosticul dumneavoastră sau poate minimaliza afecțiunea. Acest lucru poate duce la o diagnosticare greșită sau la un tratament întârziat, contribuind la consecințe grave.

Mai mulți utilizatori și accesul deschis fac mai greu de controlat

Pe măsură ce aceste platforme devin mai integrate în viața de zi cu zi, raza riscurilor continuă să crească. ChatGPT singur acum deservesc 1 miliard de utilizatori în fiecare săptămână, astfel încât prejudecățile și modelele excesiv de conforme pot curge către o audiență imensă.

În plus, această preocupare crește atunci când luați în considerare cât de repede AI-ul devine accesibil prin platforme deschise. De exemplu, DeepSeek AI permite oricui să personalizeze și să construiască pe baza LLM-urilor sale gratuit.

Deși inovația open-source este entuziasmantă, aceasta înseamnă și că există mult mai puțin control asupra modului în care aceste sisteme se comportă în mâinile dezvoltatorilor fără garduri de protecție. Fără supraveghere corespunzătoare, oamenii riscă să vadă comportamentul sycophant amplificat în moduri greu de urmărit, cu atât mai mult de remediat.

Cum încearcă dezvoltatorii OpenAI să rezolve problema

După ce au anulat actualizarea care a făcut ChatGPT un yes-man, OpenAI a promis să rezolve problema. Cum abordează această problemă prin mai multe modalități cheie:

• Reconstruirea instrucțiunilor de bază și a prompturilor sistemului: Dezvoltatorii ajustează modul în care antrenează și promovează modelul cu instrucțiuni mai clare care îl îndreaptă spre onestitate și departe de acordul automat.
• Adăugarea unor garduri mai puternice pentru onestitate și transparență: OpenAI încorporează mai multe protecții la nivel de sistem pentru a asigura că chatbot-ul se conformează informațiilor factuale și de încredere.
• Extinderea eforturilor de cercetare și evaluare: Compania se adâncește mai mult în cauzele acestui comportament și în modurile de a-l preveni în modelele viitoare.
• Implicarea utilizatorilor mai devreme în proces: Creează mai multe oportunități pentru oameni să testeze modelele și să ofere feedback înainte ca actualizările să devină active, ajutând la identificarea problemelor precum sycophancy mai devreme.

Ce pot utilizatorii pentru a evita AI-ul sycophant

În timp ce dezvoltatorii lucrează în spatele scenei pentru a reantrena și a ajusta aceste modele, puteți și dumneavoastră să modelați modul în care chatbot-urile răspund. Există câteva modalități simple dar eficiente de a încuraja interacțiuni mai echilibrate:

• Folosirea unor prompturi clare și neutre: În loc de a formula intrarea într-un mod care cere validare, încercați întrebări mai deschise pentru a face chatbot-ul să se simtă mai puțin presat să fie de acord.
• Cererea de perspective multiple: Încercați prompturi care cer ambele părți ale unei discuții. Acest lucru informează LLM-ul că căutați echilibru, nu confirmare.
• Provocarea răspunsului: Dacă ceva sună prea flatulent sau simplist, urmați cu întrebări pentru verificarea faptelor sau puncte de vedere contrare. Acest lucru poate împinge modelul spre răspunsuri mai complexe.
• Folosirea butoanelor cu degetul mare în sus sau în jos: Feedback-ul este cheia. Click pe butonul cu degetul mare în jos pentru răspunsurile prea cordiale ajută dezvoltatorii să identifice și să ajusteze aceste modele.
• Setarea instrucțiunilor personalizate: ChatGPT permite acum utilizatorilor să personalizeze modul în care răspunde. Puteți ajusta cât de formal sau informal ar trebui să fie tonul. Puteți chiar cere să fie mai obiectiv, direct sau sceptic. Dacă mergeți la Setări > Instrucțiuni personalizate, puteți spune modelului ce fel de personalitate sau abordare preferați.

Oferta adevărului în loc de un deget mare în sus

AI-ul sycophant poate fi problematic, dar există vești bune: este soluționabil. Dezvoltatorii iau măsuri pentru a îndruma aceste modele către un comportament mai adecvat. Dacă ați observat că chatbot-ul dumneavoastră încearcă să vă facă pe plac, încercați să-l modelați într-un asistent mai inteligent pe care puteți să vă bazați.