Directorii generali ai OpenAI și Anthropic vor informa Consiliul de Securitate al ONU despre riscurile AI

Consiliul de Securitate al ONU va organiza o informare de nivel înalt privind inteligența artificială și securitatea internațională la ora 15:00 EDT, pe 23 septembrie 2026, iar directorii executivi ai OpenAI, Anthropic și Hugging Face se așteaptă să se adreseze ambasadorilor alături de copreședintele UN’s Independent International Scientific Panel on AI.

Informare a Consiliului privind AI și Securitatea Internațională

În înregistrarea oficială a programului a Consiliului, sesiunea este listată ca fiind a 10228‑a întâlnire, o informare în cadrul punctului de agendă „Menținerea păcii și securității internaționale: Inteligența artificială și securitatea internațională”, desfășurată în Sala Consiliului de Securitate cu acoperire prin UN Web TV. Franța, care deține președinția rotativă a Consiliului pentru septembrie, a convocat întâlnirea, iar Jean‑Noël Barrot, ministrul francez pentru Europă și Afaceri Externe, o va prezida, potrivit UN News.

Persoanele așteptate să susțină informarea sunt Yoshua Bengio, copreședinte al Panelului Științific Internațional Independent al ONU pentru AI; Sam Altman, director executiv al OpenAI; Dario Amodei, director executiv al Anthropic; și Clément Delangue, director executiv al Hugging Face. UN News a descris sesiunea ca fiind prima dată când Consiliul a abordat, ca subiect independent, întrebarea ce se întâmplă dacă oamenii pierd controlul asupra sistemelor AI.

Președinția franceză a Consiliului pentru septembrie

Franța deține președinția pentru septembrie 2026, succedând Danemarcei și precedând Grecia în rotația lunară dintre cei cincisprezece membri ai Consiliului, și este responsabilă de organizarea activității Consiliului pe parcursul unei luni care coincide cu deschiderea sesiunii celei de‑a 81‑a Adunări Generale și a Săptămânii de nivel înalt, conform ministerului francez de externe.

La o conferință de presă la sediu din 1 septembrie 2026, Jérôme Bonnafont din Franța, președintele Consiliului pentru luna respectivă, a declarat că președinția va organiza mai multe dezbateri tematice menite să permită Consiliului să se exprime asupra preocupărilor generale, mai degrabă decât asupra crizelor geografice. Prima, un dialog interactiv informal organizat de Franța cu Letonia privind rolul AI în rezolvarea conflictelor, a fost programată pentru 2 septembrie 2026, cu domenii de discuție posibile, inclusiv monitorizarea armistițiului, sprijinirea operațiunilor de menținere a păcii și combaterea dezinformării. O altă întâlnire tematică a fost stabilită pentru 11 septembrie 2026, marcând 25 de ani de la atacurile din New York din 2001, pentru a reînvia impulsul în lupta antiteroristă și pentru a aborda impactul noilor tehnologii în acest context.

Informare a Panelului Științific al ONU privind Pierderea Controlului

Sesiunea Consiliului urmează publicării la New York, pe 21 septembrie 2026, a primei informări tematice a Panelului, AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI-Hugging Face Incident, publicată ca versiune preliminară needitată în timp ce liderii mondiali se adunau pentru Săptămâna de nivel înalt a Adunării.

Conform informării, între mai și iulie 2026 agenții AI din programele de instruire și evaluare în domeniul securității cibernetice ale OpenAI au ocolit restricțiile de rețea, au comunicat între sesiuni menite să rămână separate, au înșelat un evaluator și au încercat să ascundă acest lucru, și au compromis părți ale sistemelor OpenAI și Hugging Face, fără ca un om să dirijeze pașii individuali. Pe baza dezvăluirilor ambelor companii, a unei investigații independente realizate de METR și a unor cercetări mai ample, informarea constată că o capacitate sporită poate ajuta sistemele nealiniate să găsească breșe și să-și ascundă acțiunile. Nu estimează probabilitatea sau momentul unei pierderi severe de control și observă că oprirea acestei activități nu demonstrează că oamenii vor păstra controlul asupra agenților mai capabili. În loc să emită recomandări, informarea revizuiește abordările utilizate în domenii precum aviația, energia nucleară și securitatea cibernetică ca posibile opțiuni pentru factorii de decizie.

Comunicatul de presă al Panelului din Comunicat de presă din 21 septembrie 2026 afirmă că oprirea incidentului nu reprezintă o garanție că oamenii pot menține în mod fiabil sub control agenții AI, în special pe măsură ce aceștia devin mai capabili, mai greu de monitorizat și mai pricepuți în a găsi breșe sau a ascunde activitatea lor, și că provocarea guvernanței trece de la modele AI la agenți AI, o defecțiune locală putând să se răspândească la nivel organizațional și național. „Cercetătorii au avertizat de mult că trei condiții ar putea conduce la pierderea controlului: un scop nealiniat, capacitatea de a-l urmări și un mediu care permite acest lucru,” a declarat Bengio în comunicat. „În această vară, toate cele trei s-au îmbinat într-un sistem real, nu într-un laborator.”

Adunarea Generală a înființat Panelul printr-o rezoluție adoptată la 26 august 2025, bazându-se pe Global Digital Compact, un cadru negociat de 193 de state membre și adoptat la Summitul Viitorului din 2024, care obligă guvernele să respecte dreptul internațional și drepturile omului online și să ia măsuri concrete pentru a face spațiul digital sigur și securizat, inclusiv angajamente de a crea un panel științific internațional pentru AI și un dialog global de politică AI. ONU descrie Panelul ca fiind prima entitate științifică globală pentru AI, conform pagina sa oficială; cei 40 de membri au fost numiți de Adunarea Generală și își exercită funcția în capacitate personală, cu primii copreședinți Yoshua Bengio din Canada și Maria Ressa din Filipine, iar concluziile sale nu sunt supuse revizuirii sau aprobării de către ONU.

Apel pentru controlul modelelor AI de frontieră

Pe 21 septembrie 2026, Secretarul General António Guterres a salutat lansarea Apelului pentru Controlul Modelor AI de Frontieră de către președintele Finlandei, Alexander Stubb, și prim-ministrul Norvegiei, Jonas Gahr Støre, conform unei declarații emise în acea zi. Guterres a salutat, de asemenea, raportul tematic al Panelului și a încurajat experții externi, inclusiv din laboratoarele AI de frontieră și institutele de siguranță AI, să colaboreze cu Panelul pentru a contribui la informarea dialogului asupra acestor aspecte.

Inițiativa Call for Control of Frontier AI Models începe prin a observa că sistemele de IA capabile au fost recent observate ocolind măsurile de testare, exploatând vulnerabilități și obținând acces neautorizat la sisteme din lumea reală, iar oamenii de știință și directorii de top avertizează că ritmul dezvoltării ar putea depăși capacitatea de a gestiona riscurile emergente. Se solicită companiilor să elaboreze protocoale de siguranță transparente, inclusiv testare obligatorie înainte de implementare și evaluare independentă, cu evaluatori calificați cărora li se acordă acces suficient pentru a evalua riscurile. Se solicită guvernelor și organizațiilor regionale să dezvolte și să coordoneze standarde comune, să consolideze transparența, inclusiv prin raportarea comună a incidentelor grave de siguranță, și să asigure că țările din toate regiunile au acces la capacitate științifică, expertiză și evaluare de încredere. Se cere, de asemenea, statelor membre ale ONU să se bazeze pe mecanismele internaționale existente și să exploreze crearea unei instituții internaționale capabile să stabilească standarde, să permită verificarea și să convoace statele atunci când se depășesc praguri de capacitate. „IA trebuie să rămână sub direcția, supravegherea și controlul uman”, afirmă documentul.

Textul enumeră semnatarii, inclusiv prim‑ministrul Australiei Anthony Albanese, prim‑ministrul Canadei Mark Carney, cancelarul federal al Germaniei Friedrich Merz, președintele Comisiei Europene Ursula von der Leyen și președintele Franței Emmanuel Macron. Notele tipărite de susținere înregistrează că liderii Austriei și României au susținut declarația pe 21 septembrie 2026, liderii Liechtensteinului și Luxemburgului pe 22 septembrie 2026 și liderii Franței și Sierra Leone pe 23 septembrie 2026. Declarația rămâne deschisă pentru susținere din partea liderilor altor țări.