Inteligența artificială nu oferă neapărat răspunsuri mai bune dacă sunteți politicos

Opinia publică cu privire la faptul că este benefic să fii politicos cu inteligența artificială se schimbă aproape la fel de des ca și ultimul verdict cu privire la cafea sau vin roșu – celebrat o lună, contestat în următoarea. Chiar și așa, un număr tot mai mare de utilizatori adaugă acum “vă rog” sau “mulțumesc” la întrebările lor, nu numai din obișnuință sau din cauza faptului că schimburile brutale ar putea avea efecte asupra vieții reale, ci și din convingerea că politețea conduce la rezultate mai bune și mai productive de la inteligența artificială.

Această presupunere a circulat între utilizatori și cercetători, cu studiul frazeologiei întrebărilor ca un instrument pentru aliniere, siguranță și control al tonului, chiar și atunci când obișnuințele utilizatorilor întăresc și restructurează aceste așteptări.

De exemplu, un studiu din 2024 din Japonia a descoperit că politețea în întrebări poate schimba modul în care funcționează modelele de limbaj, testând GPT-3.5, GPT-4, PaLM-2 și Claude-2 pe sarcini în engleză, chineză și japoneză și rescriind fiecare întrebare la trei niveluri de politețe. Autorii acestei lucrări au observat că formularea “bruscă” sau “răutăcioasă” a condus la o acuratețe factuală mai scăzută și la răspunsuri mai scurte, în timp ce solicitările moderate politicoase au produs explicații mai clare și mai puține refuzuri.

În plus, Microsoft recomandă utilizarea unui ton politicos cu Co-Pilot, dintr-o perspectivă de performanță și nu de cultură.

Cu toate acestea, o lucrare de cercetare recentă de la Universitatea George Washington contestă această idee tot mai populară, prezentând un cadru matematic care prezice când ieșirile unui model de limbaj mare vor “colapsa”, trecând de la conținut coerent la conținut înșelător sau chiar periculos. În acest context, autorii susțin că a fi politicos nu întârzie în mod semnificativ și nu preveni acest “colaps”.

Începutul

Cercetătorii susțin că utilizarea politicoasă a limbajului este, în general, nelegată de subiectul principal al unei întrebări și, prin urmare, nu afectează semnificativ focalizarea modelului. Pentru a susține acest lucru, ei prezintă o formulare detaliată a modului în care o singură atentă actualizează direcția sa internă pe măsură ce procesează fiecare token nou, demonstrând, în mod aparent, că comportamentul modelului este modelat de influența cumulativă a token-urilor care conțin conținut.

Ca urmare, se presupune că limbajul politicos are puțină legătură cu momentul în care ieșirile modelului încep să se degradeze. Ceea ce determină punctul de cotitură, afirmă lucrarea, este alinierea generală a token-urilor semnificative cu fie căi de ieșire bune sau rele – și nu prezența limbajului social politicos.

O ilustrare a unei atenții simplificate care generează o secvență dintr-o întrebare a utilizatorului. Modelul începe cu token-i buni (G), apoi atinge un punct de cotitură (n*) unde ieșirile se inversează către token-i proști (B). Termenii politicoși din întrebare (P₁, P₂, etc.) nu joacă niciun rol în această schimbare, susținând afirmația lucrării că politețea are puțin impact asupra comportamentului modelului. Sursa: https://arxiv.org/pdf/2504.20980

Dacă este adevărat, acest rezultat contrazice atât credința populară, cât și, poate, logica implicită a reglării instrucțiunilor, care presupune că frazeologia unei întrebări afectează interpretarea modelului cu privire la intenția utilizatorului.

Dezvoltarea

Lucrarea examinează modul în care vectorul intern al modelului contextual (busola sa evolutivă pentru selectarea token-urilor) se schimbă pe parcursul generării. Cu fiecare token, acest vector se actualizează direcțional, iar token-ul următor este ales pe baza celui care se aliniază cel mai bine cu el.

Când întrebarea se îndreaptă spre conținut bine structurat, răspunsurile modelului rămân stabile și precise; dar, în timp, această tracțiune direcțională poate inversa, direcționând modelul spre ieșiri care sunt din ce în ce mai în afara subiectului, incorecte sau incoerente intern.

Punctul de cotitură pentru această tranziție (pe care autorii îl definesc matematic ca iterație n*), are loc atunci când vectorul intern al modelului devine mai aliniat cu un vector de ieșire “rău” decât cu unul “bun”. În acea etapă, fiecare token nou împinge modelul mai departe pe calea greșită, întărirind un model de ieșiri din ce în ce mai defectuoase sau înșelătoare.

Punctul de cotitură n* se calculează prin găsirea momentului în care direcția internă a modelului se aliniază în mod egal cu atât ieșirile bune, cât și cu cele proaste. Geometria spațiului de încorporare, modelat de atât corpusul de antrenare, cât și întrebarea utilizatorului, determină cât de repede are loc acest crossover:

O ilustrare care arată cum apare punctul de cotitură n* în cadrul modelului simplificat al autorilor. Configurația geometrică (a) definește vectorii cheie implicați în predicția momentului în care ieșirile se inversează de la bune la rele. În (b), autorii reprezintă grafic acești vectori utilizând parametrii de test, în timp ce (c) compară punctul de cotitură prezis cu rezultatul simulat. Potrivirea este exactă, susținând afirmația cercetătorilor că colapsul este inevitabil din punct de vedere matematic odată ce dinamica internă depășește un prag.

Termenii politicoși nu influențează alegerea modelului între ieșiri bune și proaste, deoarece, conform autorilor, aceștia nu sunt semnificativ legați de subiectul principal al întrebării. În schimb, ei ajung în părți ale spațiului intern al modelului care au puțin de-a face cu ceea ce modelul decide în mod real.

Când astfel de termeni sunt adăugați la o întrebare, ei cresc numărul de vectori pe care modelul îi ia în considerare, dar nu într-un mod care să schimbe traseul atenției. Ca urmare, termenii de politețe acționează ca zgomot statistic: prezent, dar inactiv, și lasă punctul de cotitură n* neschimbat.

Autorii afirmă:

‘[Indiferent] dacă răspunsul nostru AI va deveni rebel depinde de antrenamentul LLM care oferă încorporările de token-uri – și de token-urile substanțiale din întrebarea noastră – și nu de faptul că am fost politicos cu el sau nu.’

Modelul utilizat în această lucrare este intenționat îngust, axându-se pe o singură atentă cu dinamică liniară a token-urilor – o configurație simplificată în care fiecare token nou actualizează starea internă prin adiție vectorială directă, fără transformări neliniare sau porți.

Această configurație simplificată permite autorilor să obțină rezultate exacte și să ofere o imagine geometrică clară a modului în care și când ieșirile unui model pot schimba brusc de la bune la rele. În testele lor, formula pe care o derivează pentru a prezice această schimbare se potrivește cu ceea ce face modelul în realitate.

Conversația

Cu toate acestea, acest nivel de precizie funcționează doar pentru că modelul este menținut intenționat simplu. Chiar dacă autorii recunosc că concluziile lor ar trebui testate ulterior pe modele mai complexe, multi-cap, cum ar fi seria Claude și ChatGPT, ei cred că teoria rămâne reproductibilă pe măsură ce crește numărul de capete de atenție, afirmând*:

‘Întrebarea cu privire la ce fenomene suplimentare apar atunci când numărul de capete de atenție legate și straturi este mărit, este o chestiune fascinantă. Dar orice tranziție în cadrul unei singure atenții va avea loc în continuare și ar putea fi amplificată și/sau sincronizată de cuplări – ca o serie de oameni conectați care sunt trântiți peste o stâncă atunci când unul cade.’

O ilustrare care arată cum punctul de cotitură prezis n* se schimbă în funcție de cât de mult se înclina întrebarea spre conținut bun sau rău. Suprafața provine din formula aproximativă a autorilor și arată că termenii politicoși, care nu susțin în mod clar niciuna dintre părți, au puțin efect asupra momentului în care are loc colapsul.

Ce rămâne neclar este dacă același mecanism supraviețuiește saltului către arhitecturile moderne de transformatori. Attenția multi-cap introduce interacțiuni între capete specializate, care ar putea atenua sau masca tipul de comportament de cotitură descris.

Autorii recunosc această complexitate, dar argumentează că capetele de atenție sunt adesea slab cuplate, și că tipul de colaps intern pe care îl modelează ar putea fi întărit și nu suprimat în sistemele la scară largă.

Fără o extindere a modelului sau un test empiric pe LLM-uri de producție, afirmația rămâne neconfirmată. Cu toate acestea, mecanismul pare suficient de precis pentru a susține inițiativele de cercetare ulterioară, iar autorii oferă o oportunitate clară de a contesta sau confirma teoria la scară.

Încheierea

În acest moment, subiectul politeții față de LLM-urile cu care intră în contact consumatorii pare abordat fie din perspectiva pragmatică că sistemele antrenate pot răspunde mai util la întrebări politicoase; sau că un stil de comunicare lipsit de tact și direct cu astfel de sisteme riscă să se răspândească în relațiile sociale reale ale utilizatorului, prin forța obișnuinței.

Probabil, LLM-urile nu au fost încă utilizate suficient de mult în contexte sociale reale pentru ca literatura de specialitate să confirme acest ultim caz; dar lucrarea recentă aruncă unele dubii interesante asupra beneficiilor antropomorfizării sistemelor de inteligență artificială de acest tip.

Un studiu din octombrie trecut de la Stanford a sugerat (în contrast cu un studiu din 2020) că tratarea LLM-urilor ca și cum ar fi umane suplimentar riscă să deterioreze sensul limbajului, concluzionând că ‘politețea mecanică’ va pierde în cele din urmă sensul său social original:

[O] declarație care pare amabilă sau sinceră atunci când provine de la un vorbitor uman poate fi nedorită dacă provine de la un sistem AI, deoarece acesta din urmă lipsește de angajament sau intenție semnificativă în spatele declarației, astfel încât declarația devine goală și înșelătoare.

Cu toate acestea, aproximativ 67% dintre americani spun că sunt politicoși cu chatbot-urile lor AI, conform unui sondaj din 2025 de la Future Publishing. Majoritatea au spus că este pur și simplu “lucrul corect de făcut”, în timp ce 12% au mărturisit că sunt precauți – doar în cazul în care mașinile ar putea ridica capul.

* Conversia mea a citărilor inline ale autorilor în legături hipertext. Într-o oarecare măsură, legăturile hipertext sunt arbitrare/exemplare, deoarece autorii, la anumite puncte, fac trimitere la o gamă largă de citări de note de subsol, mai degrabă decât la o publicație specifică.

Publicat pentru prima dată miercuri, 30 aprilie 2025. Revizuit miercuri, 30 aprilie 2025, 15:29:00, pentru formatare.