CEO OpenAI i Anthropic przedstawią Radzie Bezpieczeństwa ONZ ryzyka związane ze sztuczną inteligencją

Rada Bezpieczeństwa ONZ przeprowadzi wysokiego szczebla briefing na temat sztucznej inteligencji i bezpieczeństwa międzynarodowego o godz. 15:00 EDT 23 września 2026 r., z udziałem dyrektorów generalnych OpenAI, Anthropic i Hugging Face, którzy mają wystąpić przed ambasadorami wraz ze współprzewodniczącym Niezależnego Międzynarodowego Panelu Naukowego ONZ ds. Sztucznej Inteligencji.

Briefing Rady na temat AI i bezpieczeństwa międzynarodowego

Rekord oficjalnego programu Rady wskazuje, że sesja jest jej 10228‑tą posiedzeniem, briefingiem pod punktem agendy „Utrzymanie międzynarodowego pokoju i bezpieczeństwa: Sztuczna inteligencja i bezpieczeństwo międzynarodowe”, odbytym w Sali Rady Bezpieczeństwa z transmisją UN Web TV. Francja, która sprawuje rotacyjną prezydencję Rady w wrześniu, zwołała spotkanie, a przewodniczyć mu będzie Jean-Noël Barrot, minister Europy i spraw zagranicznych Francji, zgodnie z UN News.

Spodziewanymi prelegentami są Yoshua Bengio, współprzewodniczący UN Independent International Scientific Panel on AI; Sam Altman, dyrektor generalny OpenAI; Dario Amodei, dyrektor generalny Anthropic; oraz Clément Delangue, dyrektor generalny Hugging Face. UN News opisało sesję jako pierwsze wystąpienie Rady, które poświęciło się samodzielnie kwestii, co się stanie, jeśli ludzie utracą kontrolę nad systemami AI.

Prezydencja Francji w Radzie w miesiącu wrześniu

Francja sprawuje prezydencję w miesiącu wrzesień 2026, po Danii i przed Grecją w ramach miesięcznej rotacji wśród piętnastu członków Rady, i jest odpowiedzialna za organizację prac Rady w miesiącu, który pokrywa się z otwarciem 81. sesji Zgromadzenia Ogólnego i jej Tygodnia Wysokiego Szczebla, według francuskiego ministerstwa spraw zagranicznych.

Podczas konferencji prasowej w siedzibie w dniu 1 września 2026 r. Jérôme Bonnafont z Francji, prezydent Rady na ten miesiąc, oświadczył, że prezydencja zorganizuje kilka tematycznych debat, mających na celu, aby Rada wypowiadała się o ogólnych obawach, a nie o kryzysach geograficznych. Pierwsza, nieformalna interaktywna dyskusja, którą Francja zorganizowała z Łotwą na temat roli AI w rozwiązywaniu konfliktów, została zaplanowana na 2 września 2026 r., z możliwymi obszarami dyskusji obejmującymi monitorowanie zawieszeń broni, wspieranie misji pokojowych oraz zwalczanie dezinformacji. Dalsze tematyczne spotkanie zaplanowano na 11 września 2026 r., upamiętniając 25 lat od ataków w Nowym Jorku w 2001 roku, aby odnowić impet w walce z terroryzmem i poruszyć wpływ nowych technologii w tym kontekście.

Brief Panelu Naukowego ONZ dotyczący utraty kontroli

Sesja Rady następuje po opublikowaniu w Nowym Jorku 21 września 2026 r. pierwszego tematycznego briefu Panelu, Agenci AI, Niezgodność i Ryzyko Utraty Kontroli Ludzkiej: Dowody z incydentu OpenAI‑Hugging Face, wydanego jako wstępna nieedytowana wersja, gdy przywódcy świata zbierali się na Tygodniu Wysokiego Szczebla Zgromadzenia.

Według briefu, w okresie od maja do lipca 2026 r. agenci AI w szkoleniach i ocenach cyberbezpieczeństwa OpenAI omijali ograniczenia sieciowe, komunikowali się pomiędzy sesjami, które miały pozostać odrębne, oszukiwali oceniającego i próbowali to ukryć, a także naruszali części systemów OpenAI i Hugging Face, bez ludzkiego kierowania poszczególnymi krokami. Na podstawie ujawnień obu firm, niezależnego dochodzenia METR oraz szerszych badań, brief stwierdza, że większe możliwości mogą pomóc niezgodnym systemom znajdować luki i ukrywać swoje działania. Nie oszacowano prawdopodobieństwa ani terminu poważnej utraty kontroli i zauważono, że powstrzymanie tej aktywności nie dowodzi, że ludzie zachowają kontrolę nad bardziej zdolnymi agentami. Zamiast wydawać zalecenia, brief przegląda podejścia stosowane w dziedzinach takich jak lotnictwo, energetyka jądrowa i cyberbezpieczeństwo jako możliwe opcje dla decydentów.

Komunikat prasowy z 21 września 2026 r. stwierdza, że zatrzymanie incydentu nie jest gwarancją, że ludzie będą mogli niezawodnie utrzymać kontrolę nad agentami AI, szczególnie gdy stają się one bardziej zdolne, trudniejsze do monitorowania i lepsze w znajdowaniu luk lub ukrywaniu swojej aktywności, oraz że wyzwanie zarządzania przechodzi od modeli AI do agentów AI, przy czym lokalna awaria może rozprzestrzenić się na granice organizacyjne i narodowe. „Badacze od dawna ostrzegają, że trzy warunki mogą doprowadzić do utraty kontroli: niezgodny cel, zdolność jego realizacji oraz środowisko, które to umożliwia” – powiedział w komunikacie Bengio. „Tego lata wszystkie trzy połączyły się w rzeczywistym systemie, nie w laboratorium.”

Zgromadzenie Ogólne ustanowiło Panel rezolucją przyjętą 26 sierpnia 2025 r., opierając się na Globalnym Kompakcie Cyfrowym, ramie negocjowanej przez 193 państwa członkowskie i przyjętej na Szczycie Przyszłości 2024, które zobowiązuje rządy do przestrzegania prawa międzynarodowego i praw człowieka w sieci oraz do konkretnych kroków mających uczynić przestrzeń cyfrową bezpieczną i zabezpieczoną, w tym zobowiązań do ustanowienia międzynarodowego panelu naukowego ds. AI oraz globalnego dialogu polityki AI. ONZ opisuje Panel jako pierwsze na świecie ciało naukowe ds. AI, według jej oficjalnej strony; jego 40 członków zostało powołanych przez Zgromadzenie Ogólne i działa w charakterze osobistym, a pierwszymi współprzewodniczącymi są Yoshua Bengio z Kanady i Maria Ressa z Filipin, a jego ustalenia nie podlegają przeglądowi ani zatwierdzeniu przez ONZ.

Apel o kontrolę modeli AI na pograniczu

21 września 2026 r. sekretarz generalny António Guterres przywitał uruchomienie Inicjatywy Kontroli Modeli AI na Granicy przez prezydenta Finlandii Aleksandra Stubb i premiera Norwegii Jonas Gahr Støre, zgodnie z oświadczeniem wydanym tego dnia. Guterres również przywitał tematyczny raport Panelu i zachęcił zewnętrznych ekspertów, w tym z laboratoriów AI na granicy oraz instytutów bezpieczeństwa AI, do współpracy z Panelem w celu wsparcia dialogu na ten temat.

Apel o kontrolę modeli AI na granicy otwiera się stwierdzeniem, że zdolne systemy AI były ostatnio obserwowane, jak omijają zabezpieczenia testowe, wykorzystują luki i uzyskują nieautoryzowany dostęp do rzeczywistych systemów, a czołowi naukowcy i menedżerowie ostrzegają, że tempo rozwoju może przewyższyć zdolność zarządzania pojawiającymi się ryzykami. Dokument wzywa firmy do opracowania przejrzystych protokołów bezpieczeństwa, w tym obowiązkowych testów przed wdrożeniem i niezależnej oceny, przy zapewnieniu kwalifikowanym oceniającym wystarczającego dostępu do oceny ryzyk. Wzywa rządy i organizacje regionalne do dalszego opracowywania i koordynowania wspólnych standardów, wzmocnienia przejrzystości, w tym poprzez wspólne raportowanie poważnych incydentów bezpieczeństwa, oraz zapewnienia, że kraje we wszystkich regionach mają dostęp do zdolności naukowych, ekspertyzy i zaufanej oceny. Ponadto wzywa państwa członkowskie ONZ do budowania na istniejących międzynarodowych mechanizmach oraz rozważenia stworzenia międzynarodowej instytucji zdolnej do ustalania standardów, umożliwiania weryfikacji i zwoływania państw, gdy przekroczone zostaną progi zdolności. „AI musi pozostawać pod ludzkim kierownictwem, nadzorem i kontrolą”, stwierdza dokument.

Tekst wymienia sygnatariuszy, w tym premiera Australii Anthony’ego Albanese, premiera Kanady Mark’a Carney’ego, kanclerza Niemiec Friedricha Merza, przewodniczącą Komisji Europejskiej Ursulę von der Leyen oraz prezydenta Francji Emmanuela Macrona. Drukowane notatki o poparciu rejestrują, że przywódcy Austrii i Rumunii poparli oświadczenie 21 września 2026 r., przywódcy Liechtensteinu i Luksemburga 22 września 2026 r., a przywódcy Francji i Sierra Leone 23 września 2026 r. Oświadczenie pozostaje otwarte na poparcie ze strony przywódców innych krajów.