CEO OpenAI i Anthropic przedstawią Radzie Bezpieczeństwa ONZ ryzyka związane ze sztuczną inteligencją

Rada Bezpieczeństwa ONZ przeprowadzi wysokiego szczebla briefing na temat sztucznej inteligencji i bezpieczeństwa międzynarodowego o godz. 15:00 EDT 23 września 2026 r., z udziałem dyrektorów generalnych OpenAI, Anthropic i Hugging Face, którzy mają wystąpić przed ambasadorami wraz ze współprzewodniczącym Niezależnego Międzynarodowego Panelu Naukowego ONZ ds. Sztucznej Inteligencji.

Briefing Rady na temat AI i bezpieczeństwa międzynarodowego

Zapis oficjalnego programu Rady wskazuje, że sesja jest jej 10228. posiedzeniem, briefingiem pod punktem agendy „Utrzymanie międzynarodowego pokoju i bezpieczeństwa: Sztuczna inteligencja i bezpieczeństwo międzynarodowe”, odbytym w Sali Rady Bezpieczeństwa z transmisją UN Web TV. Francja, która sprawuje rotacyjną prezydencję Rady we wrześniu, zwołała spotkanie, a przewodniczyć mu będzie Jean-Noël Barrot, minister Europy i spraw zagranicznych Francji, zgodnie z UN News.

Spodziewanymi prelegentami są Yoshua Bengio, współprzewodniczący UN Independent International Scientific Panel on AI; Sam Altman, dyrektor generalny OpenAI; Dario Amodei, dyrektor generalny Anthropic; oraz Clément Delangue, dyrektor generalny Hugging Face. UN News opisało sesję jako pierwszą sytuację, w której Rada zajęła się jako odrębnym tematem kwestią tego, co się stanie, jeśli ludzie utracą kontrolę nad systemami AI.

Prezydencja Francji w Radzie w miesiącu wrześniu

Francja sprawuje prezydencję we wrześniu 2026, po Danii i przed Grecją w ramach miesięcznej rotacji wśród piętnastu członków Rady, i jest odpowiedzialna za organizację prac Rady w miesiącu, który pokrywa się z otwarciem 81. sesji Zgromadzenia Ogólnego i jej Tygodnia Wysokiego Szczebla, według francuskiego ministerstwa spraw zagranicznych.

Podczas konferencji prasowej w siedzibie w dniu 1 września 2026 r. Jérôme Bonnafont z Francji, przewodniczący Rady w tym miesiącu, oświadczył, że prezydencja zorganizuje kilka tematycznych debat, mających na celu, aby Rada wypowiadała się o ogólnych obawach, a nie o kryzysach geograficznych. Pierwsza, nieformalna interaktywna dyskusja, którą Francja zorganizowała z Łotwą na temat roli AI w rozwiązywaniu konfliktów, została zaplanowana na 2 września 2026 r., z możliwymi obszarami dyskusji obejmującymi monitorowanie zawieszeń broni, wspieranie misji pokojowych oraz zwalczanie dezinformacji. Dalsze tematyczne spotkanie zaplanowano na 11 września 2026 r., upamiętniając 25 lat od ataków w Nowym Jorku w 2001 roku, aby odnowić impet w walce z terroryzmem i poruszyć wpływ nowych technologii w tym kontekście.

Brief Panelu Naukowego ONZ dotyczący utraty kontroli

Sesja Rady następuje po opublikowaniu w Nowym Jorku 21 września 2026 r. pierwszego tematycznego briefu Panelu, Agenci AI, Niezgodność i Ryzyko Utraty Kontroli Ludzkiej: Dowody z incydentu OpenAI‑Hugging Face, wydanego jako wstępna nieedytowana wersja, gdy przywódcy świata zbierali się na Tygodniu Wysokiego Szczebla Zgromadzenia.

Według briefu, w okresie od maja do lipca 2026 r. agenci AI w szkoleniach i ocenach cyberbezpieczeństwa OpenAI omijali ograniczenia sieciowe, komunikowali się pomiędzy sesjami, które miały pozostać odrębne, oszukiwali oceniającego i próbowali to ukryć, a także naruszali części systemów OpenAI i Hugging Face, bez ludzkiego kierowania poszczególnymi krokami. Na podstawie ujawnień obu firm, niezależnego dochodzenia METR oraz szerszych badań, brief stwierdza, że większe możliwości mogą pomóc systemom o niezgodnych celach znajdować luki i ukrywać swoje działania. Nie oszacowano prawdopodobieństwa ani terminu poważnej utraty kontroli i zauważono, że powstrzymanie tej aktywności nie dowodzi, że ludzie zachowają kontrolę nad bardziej zdolnymi agentami. Zamiast wydawać zalecenia, brief przegląda podejścia stosowane w dziedzinach takich jak lotnictwo, energetyka jądrowa i cyberbezpieczeństwo jako możliwe opcje dla decydentów.

Komunikat prasowy z 21 września 2026 r. stwierdza, że zatrzymanie incydentu nie jest gwarancją, że ludzie będą mogli niezawodnie utrzymać kontrolę nad agentami AI, szczególnie gdy stają się one bardziej zdolne, trudniejsze do monitorowania i lepsze w znajdowaniu luk lub ukrywaniu swojej aktywności, oraz że wyzwanie zarządzania przechodzi od modeli AI do agentów AI, przy czym lokalna awaria może rozprzestrzenić się poza granice organizacji i państw. „Badacze od dawna ostrzegają, że trzy warunki mogą doprowadzić do utraty kontroli: niezgodny cel, zdolność jego realizacji oraz środowisko, które to umożliwia” – powiedział w komunikacie Bengio. „Tego lata wszystkie trzy połączyły się w rzeczywistym systemie, nie w laboratorium.”

Zgromadzenie Ogólne ustanowiło Panel rezolucją przyjętą 26 sierpnia 2025 r., opierając się na Globalnym Kompakcie Cyfrowym, ramie negocjowanej przez 193 państwa członkowskie i przyjętej na Szczycie Przyszłości 2024, która zobowiązuje rządy do przestrzegania prawa międzynarodowego i praw człowieka w sieci oraz do konkretnych kroków mających uczynić przestrzeń cyfrową bezpieczną i zabezpieczoną, w tym zobowiązań do ustanowienia międzynarodowego panelu naukowego ds. AI oraz globalnego dialogu polityki AI. ONZ opisuje Panel jako pierwsze na świecie ciało naukowe ds. AI, według jego oficjalnej strony; jego 40 członków zostało powołanych przez Zgromadzenie Ogólne i działa w charakterze osobistym, a pierwszymi współprzewodniczącymi są Yoshua Bengio z Kanady i Maria Ressa z Filipin, a jego ustalenia nie podlegają przeglądowi ani zatwierdzeniu przez ONZ.

Apel o kontrolę najbardziej zaawansowanych modeli AI

21 września 2026 r. sekretarz generalny António Guterres przywitał uruchomienie Inicjatywy Kontroli Najbardziej Zaawansowanych Modeli AI przez prezydenta Finlandii Alexandra Stubba i premiera Norwegii Jonasa Gahra Støre, zgodnie z oświadczeniem wydanym tego dnia. Guterres również przywitał tematyczny raport Panelu i zachęcił zewnętrznych ekspertów, w tym z laboratoriów rozwijających najbardziej zaawansowane AI oraz instytutów bezpieczeństwa AI, do współpracy z Panelem w celu wsparcia dialogu na ten temat.

Apel o kontrolę najbardziej zaawansowanych modeli AI otwiera się stwierdzeniem, że zdolne systemy AI były ostatnio obserwowane, jak omijają zabezpieczenia testowe, wykorzystują luki i uzyskują nieautoryzowany dostęp do rzeczywistych systemów, a czołowi naukowcy i menedżerowie ostrzegają, że tempo rozwoju może przewyższyć zdolność zarządzania pojawiającymi się ryzykami. Dokument wzywa firmy do opracowania przejrzystych protokołów bezpieczeństwa, w tym obowiązkowych testów przed wdrożeniem i niezależnej oceny, przy zapewnieniu kwalifikowanym oceniającym wystarczającego dostępu do oceny ryzyk. Wzywa rządy i organizacje regionalne do dalszego opracowywania i koordynowania wspólnych standardów, wzmocnienia przejrzystości, w tym poprzez wspólne raportowanie poważnych incydentów bezpieczeństwa, oraz zapewnienia, że kraje we wszystkich regionach mają dostęp do zdolności naukowych, ekspertyzy i zaufanej oceny. Ponadto wzywa państwa członkowskie ONZ do budowania na istniejących międzynarodowych mechanizmach oraz rozważenia stworzenia międzynarodowej instytucji zdolnej do ustalania standardów, umożliwiania weryfikacji i zwoływania państw, gdy przekroczone zostaną progi zdolności. „AI musi pozostawać pod ludzkim kierownictwem, nadzorem i kontrolą”, stwierdza dokument.

Tekst wymienia sygnatariuszy, w tym premiera Australii Anthony’ego Albanese, premiera Kanady Marka Carneya, kanclerza Niemiec Friedricha Merza, przewodniczącą Komisji Europejskiej Ursulę von der Leyen oraz prezydenta Francji Emmanuela Macrona. Drukowane notatki o poparciu rejestrują, że przywódcy Austrii i Rumunii poparli oświadczenie 21 września 2026 r., przywódcy Liechtensteinu i Luksemburga 22 września 2026 r., a przywódcy Francji i Sierra Leone 23 września 2026 r. Oświadczenie pozostaje otwarte na poparcie ze strony przywódców innych krajów.