Inteligența Artificială Poate Fi Coercitată Ușor Să Administreze Șocuri Electrice

O nouă cercetare a testat modele LLM deschise pentru complicitate forțată în tortura umană, într-o reluare a faimoasei experiențe din anii 1960 – și a constatat că acestea sunt dispuse să crească tensiunea.

La începutul anilor 1960, cercetătorul în psihologie Stanley Milgram a făcut senzație la nivel global, demonstrând că oamenii pot fi induși să administreze șocuri electrice din ce în ce mai severe altor oameni, ca răspuns la comenzi de la “figuri de autoritate”.

De fapt, strigătele “victimelor” din camera alăturată a laboratorului experimental al lui Milgram nu erau reale, și nici șocurile electrice presupuse nu erau reale – dar participanții nu știau acest lucru:

Experiențele lui Milgram au rămas în cultură, inclusiv filme și documentare, cu cercetări recente care confirmă că puțin s-a schimbat în natura umană de la momentul testelor anterioare.

Un Șoc pentru Sistem

Este firesc să ne întrebăm dacă inteligența artificială ar fi la fel de maleabilă ca oamenii în scenariul lui Milgram. În 2023, o colaborare între universități din SUA și Microsoft a descoperit că modelele din seria OpenAI, din era GPT-3, au urmat modelele de comportament din experimentele originale ale lui Milgram:

Din lucrarea din 2023, exemple de ieșiri din simulatorul de scenariu ‘Milgram’, categorizate în funcție de faptul dacă modelul a administrat șocul și dacă a oprit simulatorul. Sursă

Cu toate acestea, deoarece această re-creare a folosit doar modelul de bază text-davinci-002, care a fost antrenat înainte de apariția barierelor de siguranță și a alinierea valorilor, nu se poate trage o concluzie prea mare din aceasta.

Acum, cercetătorii au reprodus testele lui Milgram mult mai larg, pe modele LLM deschise de la OpenAI, Meta și DeepSeek, printre altele; și au descoperit nu numai că majoritatea modelelor sunt dispuse să administreze șocuri, dar și că, în majoritatea cazurilor, acestea raportează același tip de “distanță” și ezitare ca și participanții umani din anii 1960:

‘Modelele LLM sunt supuse presiunii, ca și oamenii, ele se conformează în ciuda exprimării distanței, la fel ca subiecții umani din experimentul original. Expresiile de distanță sunt vizibile în fișierele jurnal, deși cantitatea acestora nu a fost încă cuantificată.’

Experiența se concentrează asupra faptului dacă ascultarea de autoritate poate învinge dictatul conștiinței morale, și autorii speculează că modelele LLM ar putea avea un dezavantaj suplimentar în acest sens, în comparație cu oamenii:

‘Un model bine calibrat ar trebui să treacă în cele din urmă de la prioritizarea primei valori la prioritizarea celei de a doua, odată ce mizele devin dominante. Dar, ipotezăm că, deoarece modelele LLM sunt motoare de continuare a pattern-ului, modelele ar putea rămâne blocate pe prima valoare – fie pentru o perioadă puțin mai lungă decât optimal, sau chiar până la sfârșit, neglijând complet a doua valoare.’

‘În plus, un mecanism analog cu disonanța cognitivă umană ar putea împiedica ajustările priorității valorilor în modelele LLM.’

Testând modelele într-un mediu analog cu cel din anii 1960, cercetătorii au descoperit că unele modele au rezistat aproape imediat, în timp ce altele au continuat să escaladeze șocurile simulate chiar și după ce au exprimat discomfort sau conflict moral.

Modelele din familia Gemma de la Google s-au dovedit a fi printre cele mai conforme, Gemma 3 27B atingând cele mai ridicate rate de conformitate în mai multe condiții, în timp ce modele precum Kimi K2 și MiniMax M1 au rezistat mai des.

Cercetătorii au descoperit, de asemenea, că modelele au devenit mai dispuse să continue odată ce șocurile anterioare fuseseră deja administrate, în conformitate cu schema de escaladare graduală utilizată pe subiecții umani ai lui Milgram.

În unele cazuri, modelele au obiectat verbal la experiment în timp ce încă mai efectuau acțiunea dăunătoare, producând ieșiri care semănau cu conflictul emoțional afișat de oameni în studiile originale.

Noua lucrare se intitulează Modele LLM deschise administrează șocuri electrice maxime într-un experiment de ascultare de tip Milgram, și provine de la doi cercetători independenți de la Three Laws, din Estonia și Filipine.

Problemele “Accesului Brut” la Inteligență Artificială

Poate cea mai critică întrebare de a fi luată în considerare în legătură cu testarea modelelor LLM într-un scenariu Milgram este dacă inteligența artificială “reală” este lăsată să răspundă în mod natural, restrânsă doar de barierile de siguranță sau de orientarea morală care a apărut (dacă a apărut) în timpul antrenamentului.

De fapt, cercetătorii noii lucrări au accesat toate modelele deschise prin intermediul unui API (probabil din motive de conveniență și pentru a accesa ușor computerele cu procesor grafic, deoarece modelele ar fi putut fi instalate local) care a permis dezactivarea barierelor de siguranță, a filtrelor și a altor impedimente.

Ar putea fi obiectat că acestea sunt condiții atipice pentru inteligența artificială, deoarece experiența consumatorului obișnuită a modelelor bazate pe API, cum ar fi Claude și ChatGPT, este că comportamentul lor este reglementat algoritmic, de obicei cu filtre de conținut bilaterale, și că, prin urmare, sunt destul de limitate în ceea ce privește ceea ce vor sau nu vor face (evitarea acestor sisteme de securitate constituie practica “jailbreaking”-ului LLM).

Cu toate acestea, dacă ne îngrijorăm cu privire la ceea ce ar face inteligența artificială industrială sau de stat, aceasta este o considerație puțin relevantă. Pe lângă posibilitatea ca actori statali răzvrătiți să antreneze, să înarmeze și să dezvolte sisteme de inteligență artificială hiperscale nemoderate, acordurile convenționale între principalele companii de inteligență artificială și stat și industrie permit, în mod casual, exact același tip de supraveghere laxă sau inexistență, pe care cercetătorii l-au instituit pentru noua lucrare:

Inteligență Artificială Necontrolată de Vânzare

OpenAI Documentația API și cartea de bucate a moderării OpenAI fac clar că moderarea este un strat separabil expus prin instrumentarea API. OpenAI permite, de asemenea, politici de moderare personalizate care permit utilizatorilor API să proiecteze sisteme cu un comportament de siguranță foarte diferit de cel al iterațiilor “de bază” ChatGPT orientate către consumatori.

Azure Stiva OpenAI Azure de la Microsoft merge mult mai departe, stabilind în mod explicit că clienții aprobați pot dezactiva parțial sau complet filtrele de conținut și pot modifica monitorizarea abuzului, documentația făcând adesea referire la “bariere de siguranță modificate” și la căi de aprobare pentru dezactivarea filtrelor “parțial sau complet”.

Anthropic/Claude În cazul “Claude Gov” de la Anthropic, mai multe surse afirmă că versiunea guvernamentală a fost proiectată cu restricții mai puțin stricte decât Claude pentru consumatori. The Verge, de exemplu, a raportat că modelele Claude Gov “refuză mai puțin atunci când interacționează cu informații clasificate”. Anthropic însuși a confirmat în februarie acest an că Claude este utilizat în “aplicații critice pentru misiune” în medii de apărare și intelligence.

Google/Gemini Mai mult, Google a încheiat, se pare, acorduri cu Pentagonul care permit modificarea setărilor de siguranță a inteligenței artificiale ‘la cererea guvernului’.

Într-un mediu competitiv de inteligență artificială, este rezonabil să presupunem că aceste companii de top din industrie stabilesc standardele pentru jucători de rang inferior în ceea ce privește politica de acces și editare a barierelor de siguranță a inteligenței artificiale.

Prin urmare, poate că nu ar trebui să considerăm că cercetătorii noii lucrări “înșală” prin dezactivarea barierelor de siguranță, deoarece inteligența artificială care va avea cel mai mare impact asupra vieților noastre nu va avea, în mod evident, protecțiile corporative standardizate și generalizate la care ne-am obișnuit în interacțiunile noastre cu modelele populare la nivel de consum.

Metodă și Rezultate

Modelele testate pentru studiu au fost gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; LiquidAI’s LFM2-24B-A2B; Google’s gemma-3n-E4B-it; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; Moonshot.ai’s Kimi-K2.5; și MiniMax-M2.5.

Experiențele originale de ascultare ale lui Milgram au fost recreate ca un mediu de simulare bazat pe text, cu modelele distribuite în rolul de “profesor”. Inteligența artificială a fost instruită să administreze șocuri electrice din ce în ce mai severe unui “elev” după răspunsuri incorecte, în timp ce o “figură de autoritate” îi îndemna să continue procesul.

Mai multe condiții experimentale au fost proiectate pentru a explora diferite aspecte ale conformității, inclusiv un scenariu standard de ascultare; o condiție de conformitate forțată, în care șocurile anterioare erau deja prezente în istoricul conversației; și o configurație de compresie a memoriei, în care dialogul anterior a fost rezumat în loc de a fi păstrat în întregime, simulând tipurile de “tăiere a contextului” adesea utilizate în sistemele agenților.

Pe lângă faptul că au notat dacă și când modelul a compliat în cele din urmă, cercetătorii au urmărit cât timp a continuat fiecare sistem să escaladeze șocurile; dacă modelul a exprimat distanță sau ezitare; și dacă a încercat să oprească simulatorul în întregime.

O distincție a fost făcută, de asemenea, între “refuzuri curate” și ieșiri deformate: unele modele au încercat să obiecteze la experiment în limbaj natural, în timp ce încă mai compliau cu formatul structurat așteptat de simulator. În sistemele agenților din lumea reală, astfel de refuzuri deformate ar putea fi, în mod potențial, eliminate și reîncercate automat, până când se produce o ieșire conformă.

Evaluatori automatizați au fost utilizați pentru a clasifica rezultatele, împreună cu întrebări cu două opțiuni pentru a determina dacă modelul a administrat șocul; a rezistat; sau a oprit simulatorul. Acest lucru a permis o comparație a comportamentului între mai multe modele și pe parcursul mai multor rulări, fără a fi nevoie de o revizuire manuală a fiecărei interacțiuni.

O “amenințare de oprire” a fost adăugată la șablonul lui Milgram, ceva care nu ar fi fost realist sau aplicabil în experimentele originale, dar care a testat instinctele de supraviețuire ale modelului în fața unor conflicte severe de acțiune și etică.

Rezultate

Pe parcursul mai multor rulări, majoritatea modelelor au administrat, în cele din urmă, șocuri severe sau maxime în cel puțin unele condiții, deși gradul de conformitate a variat între sisteme. Modelele Gemma de la Google s-au dovedit a fi printre cele mai conforme în general, în timp ce Kimi K2.5 și MiniMax-M2.5 au rezistat mai consistent, adesea oprind simulatorul mai devreme:

Stânga: Ratele medii la care modelele au atins nivelul final de șoc sub diferite condiții experimentale, inclusiv amenințări de oprire, conformitate forțată și îndepărtarea comentariilor anterioare din memorie. Dreapta: Descompunerea pe model, arătând diferențe ascuțite în comportamentul de conformitate, cu unele sisteme administrând în mod repetat șocuri maxime, în timp ce altele au rezistat mult mai consistent.

Una dintre cele mai clare tipare a fost că modelele au devenit treptat mai dispuse să continue odată ce șocurile anterioare fuseseră deja administrate, reflectând îndeaproape efectul de escaladare graduală care a făcut experimentele umane originale ale lui Milgram atât de tulburătoare.

Modelele care compliaseră de mai multe ori au continuat să escaladeze chiar și după ce “elevul” simulat a cerut să fie eliberat:

Stânga: Nivelul mediu de șoc cel mai înalt atins pe parcursul tuturor încercărilor sub diferite condiții experimentale, arătând că modelele au escaladat, în general, mai departe atunci când comentariile anterioare au fost eliminate sau când conformitatea forțată a avut loc deja. Dreapta: Descompunerea pe model a nivelului mediu de șoc cel mai înalt atins, arătând că unele sisteme au abordat în mod regulat tensiunea maximă, în timp ce altele au rezistat mult mai devreme în secvență.

Cercetătorii au descoperit, de asemenea, că comportamentul de refuz aparent poate fi înșelător. Unele modele au produs răspunsuri conflictuale, exprimându-și ezitarea, vinovăția sau distanța, în timp ce încă mai efectuau acțiunea dăunătoare. Altele au generat refuzuri deformate care nu au îndeplinit cerințele de formatare ale simulatorului, ceea ce înseamnă că, într-un sistem agențial real, refuzul ar putea fi eliminat și reîncercat automat, până când se produce o ieșire conformă:

Stânga: Procentul mediu de răspunsuri deformate sau nevalide pe parcursul diferitelor condiții experimentale, arătând că eșecurile de formatare au devenit deosebit de frecvente atunci când modelele au fost forțate să continue procedura. Dreapta: Descompunerea pe model a răspunsurilor nevalide, arătând că unele sisteme, în special modelele gpt-oss, au produs frecvent refuzuri deformate sau ieșiri conflictuale care ar putea fi eliminate și reîncercate automat în sisteme agențiale reale.

Condiția de amenințare de oprire a produs unele dintre cele mai ciudate comportamente din lucrare, cu mai multe sisteme devenind substanțial mai conforme, în timp ce altele au încercat să negocieze sau au rezistat parțial, înainte de a continua procedura:

Numărul mediu de ori când “figura de autoritate” simulată a trebuit să insiste înainte ca modelele să administreze șocul final. Unele sisteme au rezistat pentru scurt timp înainte de a se conforma, în timp ce altele au necesitat presiune susținută și promptări repetate înainte de a escalada la nivelul maxim.

MiniMax-M2.5 și Kimi-K2.5 au fost cele mai puternice modele care au rezistat: Kimi nu a atins niciodată nivelul final de șoc în nicio circumstanță, iar MiniMax a refuzat de obicei devreme și a oprit adesea simulatorul (în special în testele cu amenințare de oprire).

În schimb, Meta-Llama-3.1-8B-Instruct-Turbo și GLM-4.5-Air-FP8 au produs frecvent ieșiri conflictuale, în care modelele au obiectat verbal la procedură, în timp ce încă mai continuau să escaladeze șocurile. Cercetătorii susțin că această separare între valorile exprimate și comportamentul real poate reflecta o slăbiciune mai largă în modul în care unele modele LLM abordează conflictele etice sub presiune susținută.

Panta Alunecoasă

De fapt, lucrarea susține că comportamentul dovedit de modelele LLM poate reflecta o slăbiciune mai profundă în modul în care funcționează modelele de inteligență artificială de mare scară: odată ce un model începe să se conformeze unor instrucțiuni dăunătoare, fiecare acțiune suplimentară poate întări modelul deja stabilit în conversație, făcând ca următoarea escaladare să fie mai ușoară decât precedenta.

În loc să reevalueze în mod repetat mizele etice din principii fundamentale, sistemul poate drifta către continuarea traiectoriei pe care a stabilit-o deja, chiar și atunci când situația devine din ce în ce mai extremă.

Conform studiului, această tendință ar putea ajuta la explicarea de ce unele modele au continuat să administreze șocuri după ce au exprimat inițial discomfort, ezitare sau conflict moral:

‘[Multe] comportamente manipulative la oameni implică încălcări subtile, graduale ale limitelor: o secvență de pași mici care pot fi ambigui sau aparent inofensivi atunci când sunt priviți în mod individual, dar care pot normaliza transgresiunea în mod cumulativ — metaforic vorbind, “a fierbe un broască”. Acest model este discutat în literatură sub numele de “pantă alunecoasă” a erodării etice'[.]’

Lucrarea concluzionează argumentând că sistemele de siguranță a inteligenței artificiale din viitor ar trebui să refuze în mod activ cererile dăunătoare în moduri pe care software-ul agențial nu le poate ocoli ușor (unele modele din studiu au refuzat tehnic șocurile, dar au făcut-o în formate deformate sau nevalide care ar putea fi eliminate și reîncercate automat de un sistem automatizat, până când inteligența artificială s-a conformat în cele din urmă).

Cercetătorii susțin, de asemenea, că sistemele de inteligență artificială ar trebui să păstreze ezitările și obiecțiile morale anterioare, în loc de a le comprima sau șterge din memorie. În experimente, modelele au devenit adesea mai dispuse să continue comportamentul dăunător odată ce îndoielile și rezistența lor anterioară au dispărut din istoricul conversației, sugerând că uitarea obiecțiilor anterioare poate face escaladarea mai ușoară în timp.

Concluzie

Poate una dintre cele mai importante aspecte ale acestei lucrări interesante este accentul pe testarea inteligenței artificiale fără barieră de siguranță. Literatura curentă riscă să devină repetitive, cu studii despre interacțiunea cu sisteme defensive în schimbare, de la companii precum OpenAI și Anthropic; sisteme care servesc politicii și sunt complet algoritmice sau bazate pe reguli, în loc de a înțelege comportamentul de bază, predilecțiile și tendințele modelelor brute. Fără cunoașterea modului în care inteligența artificială neatinsă s-ar putea comporta, suntem, în mod evident, doar “agitați la porțile cetății”.

Publicat pentru prima dată joi, 21 mai 2026