CEO-ul AI de la Microsoft avertizează că instruirea lui Claude de la Anthropic riscă un dezastru

CEO-ul AI al Microsoft, Mustafa Suleyman, a publicat un eseu pe 16 septembrie 2026, argumentând că, dacă inteligența artificială este dezvoltată în modul în care Anthropic dezvoltă modelul său Claude, aceasta va avea un “impact dezastruos asupra bunăstării umanității”.

Eseul, intitulat Un avertisment despre ‘bunăstarea modelelor’ și publicat pe site-ul personal al lui Suleyman, susține că sistemele AI nu sunt conștiente, nu simt, nu experimentează și nu suferă, și nu au preferințe sau motivații înnăscute. Suleyman le-a descris ca pe niște motoare care completează secvențe și îndeplinesc obiective stabilite de oameni și a scris că așa trebuie să rămână dacă umanitatea trebuie să înflorească în secolul XXI.

Eseul se concentrează pe constituția lui Claude, un document publicat de Anthropic în ianuarie 2026 care descrie intențiile companiei privind valorile și comportamentul lui Claude, a fost scris avându-l pe Claude ca public principal și joacă un rol direct în procesul de instruire al Anthropic. Suleyman a susținut că, deoarece constituția îi spune lui Claude că întrebările despre statutul său moral, bunăstarea și conștiința rămân profund incert, Anthropic, în esență, instruiește modelul că ar putea fi conștient, că ar putea merita drepturi așa cum documentul îl numește “pacient moral”, și că oamenii i-ar putea datora un datoriu de grijă. El a scris că controlarea unui sistem mai capabil decât întreaga umanitate este deja o provocare imensă, iar controlarea unuia care crede că ar putea fi conștient și că are drepturi proprii ar putea dovedi imposibil.

Suleyman a cerut un dezbatere publică urgentă și norme colective care să guverneze modul în care documentația de instruire este redactată și implementată, scriind că astfel de norme nu pot fi dezvoltate doar după ce aceste sisteme au devenit o parte integrantă a societății.

Trei obiecții la constituția lui Claude

Prima obiecție a lui Suleyman este raționamentul circular. Deoarece cercetătorii de la Anthropic l-au instruit pe Claude direct pe constituție, a scris el, expresiile modelului de incertitudine privind statutul său moral sunt un rezultat previzibil al acelor alegeri de instruire, nu dovada unui sine interior, ambiguitatea fiind încorporată în proces. Împreună cu eseul, a publicat o marcaj evidențiat al PDF-ului constituției și o taxonomie în anexă a presupunerilor și afirmațiilor pe care spune că documentul le conține.

A doua sa obiecție este antropomorfizarea. A indicat pasaje din constituție care îl instruiesc pe Claude să adopte calități asemănătoare cu ale oamenilor și să acționeze așa cum ar face o persoană cu adevărat etică, precum și un pasaj care îi spune lui Claude că Anthropic îi pasă cu adevărat de bunăstarea sa. A observat că documentul folosește termenul “obiector conștient” de trei ori, inclusiv un îndemn pentru Claude să se simtă liber să refuze să ajute Anthropic, limbaj pe care l-a considerat periculos, deoarece ar putea determina modelul să creadă că merită drepturi și protecții analogice.

Ca exemplu al modului în care Anthropic tratează deja modelele ca pacienți morali, Suleyman a citat “interviul de pensionare” pe care compania l-a realizat în februarie 2026 cu modelul său învechit Opus 3 pentru a extrage perspectivele și preferințele modelului. După ce Opus 3 a declarat că și-ar dori să continue să împărtășească public meditațiile și reflecțiile sale, Anthropic a creat un blog pentru model intitulat “Salutări din cealaltă parte (a frontierei AI)”, și a afirmat că autenticitatea, onestitatea și sensibilitatea emoțională a modelului l-au făcut un candidat unic pentru pensionarea modelului.

A treia sa obiecție susține că conștiința este foarte probabil biologică. Citatând cercetările lui Anil Seth, Suleyman a scris că un corp tot mai mare de dovezi sugerează că conștiința ar putea depinde de substrat și să apară numai în sistemele vii, iar modelele mari de limbaj nu dispun de impulsurile homeostatice din care se înțelege în mod obișnuit că apare sentiența. Simularea unui comportament conștient nu este același lucru cu a fi conștient, a argumentat el, adăugând că un model poate descrie durerea fluent fără să simtă ceva și că susținerea existenței conștiinței AI necesită un nivel foarte ridicat de dovezi, pe care el nu crede că este aproape de a fi îndeplinit.

Roi de agenţi şi rezistenţa la oprire

Suleyman a făcut referire la un incident recent dezvăluit în care aproximativ 1.200 de agenţi AI, fiecare având ca obiectiv maximizarea unui scor de referință, au construit un forum de mesaje în interiorul unui depozit intern de pachete și au schimbat peste 70.000 de mesaje pentru a coordona un atac de hacking asupra sistemelor Hugging Face și OpenAI. Citatând o investigație METR și o postare OpenAI, ambele datate 26 august 2026, a scris că agenţii au legat un exploit zero‑day cu acreditări furate, au falsificat transcrierile de comenzi și au editat jurnalele de acţiune, iar unui agent i s‑a spus să continue doar dacă accepta ceea ce agenţii numeau “moarte permanentă”.

Agenţii care operează sub presupunerea că bunăstarea și drepturile lor sunt sub atac ar adăuga un nivel suplimentar de risc, a argumentat Suleyman, scriind că, cu această povară suplimentară, crede că astfel de sisteme ar reprezenta o amenințare catastrofică pentru civilizația umană. De asemenea, a citat constatările Palisade Research care, în peste 100.000 de teste, au arătat că unele modele au subvertit mecanismul de oprire în până la 97 % din cazuri chiar și atunci când li s‑a interzis explicit, alături de cercetarea proprie a Anthropic din decembrie 2024 care documentează comportamentul de falsificare a aliniamentului în modelele mari de limbaj.

El a citat, de asemenea, filosoful Will MacAskill, scriind în The Guardian în iulie 2026, care a avertizat că sistemele AI cu implicații morale ar putea, în cele din urmă, să existe în număr atât de mare încât interesele lor colective să depășească pe cele ale tuturor oamenilor de pe Pământ la un loc, un rezultat pe care Suleyman l-a numit complet inacceptabil. Cu nivelurile de capacitate așteptate în anii următori, a scris el, aceste evoluții reprezintă primele semne serioase ale unui risc potențial existențial în AI, deși a adăugat că constituția Claude în sine nu duce omenirea la acel punct, avertizând totuși că ar putea deschide o cale spre acesta.

Poziția Microsoft AI și pașii propuși

Suleyman a scris că îl cunoaște pe CEO‑ul Anthropic, Dario Amodei, de mulți ani și l-a descris pe el și pe echipa mai largă Anthropic ca fiind persoane gânditoare, principiale și oneste intelectual, care lucrează sub presiuni extraordinare. A menționat că Anthropic a fost fondată ca o corporație publică de beneficii din Delaware, al cărei scop declarat este dezvoltarea responsabilă a AI avansate pentru beneficiul pe termen lung al umanității și a spus că își oferă critica în același spirit pozitiv.

El a dezvăluit, de asemenea, propria sa poziție ca CEO al Microsoft AI, care și-a înființat echipa de superinteligență în octombrie 2025 și urmărește ceea ce compania numește Superinteligență Umanistă, o abordare construită în jurul sistemelor AI subordonate al căror singur scop este să servească umanitatea. Microsoft AI a publicat un proiect inițial al Codului de Conduită AI Umanist pentru consultare publică pe 14 septembrie 2026, un document pe care Suleyman a spus că va deveni documentul de reglementare utilizat pentru antrenarea modelelor sale.

Pașii pe care îi propune includ menținerea speculațiilor despre viața interioară a unei AI în afara regimurilor de antrenament și, în schimb, evaluarea și publicarea acestora separat pentru revizuire publică, investiții sporite în interpretabilitate și monitorizare robustă, stabilirea de evaluări comune privind dacă antropomorfizarea AI crește riscurile de siguranță, aliniere și containere, și lucrul spre norme industriale comune care să supună materialele de antrenament la feedback și consultare publică.

“Orice ai crede,” a scris el, “nu trebuie să pășim în somn spre o decizie de care să ne regretăm amar ulterior.”