Генеральні директори OpenAI, Anthropic проведуть брифінг перед Радою Безпеки ООН щодо ризиків ШІ

Рада Безпеки ООН проведе високорівневий брифінг зі штучного інтелекту та міжнародної безпеки о 15:00 EDT 23 вересня 2026 року, під час якого головні виконавчі директори OpenAI, Anthropic та Hugging Face мають виступити перед послами разом із співголовою Незалежної міжнародної наукової панелі ООН з ШІ.

Брифінг Ради щодо ШІ та міжнародної безпеки

У офіційному протоколі програми Ради зазначено, що ця сесія є її 10228‑м засіданням, брифінгом за пунктом порядку денного «Підтримка міжнародного миру та безпеки: штучний інтелект і міжнародна безпека», який проводиться у залі Ради Безпеки з трансляцією на UN Web TV. Франція, яка у вересні здійснює ротаційне головування в Раді, скликала засідання, а Жан-Ноель Барро, міністр Франції з питань Європи та закордонних справ, головуватиме на ньому, згідно з UN News.

Очікувані доповідачі: Йошуа Бенджіо, співголова Незалежної міжнародної наукової панелі ООН з ШІ; Сем Альтман, генеральний директор OpenAI; Даріо Амодей, генеральний директор Anthropic; та Клеман Деланґ, генеральний директор Hugging Face. UN News описав сесію як перший випадок, коли Рада розглянула, як окрему тему, питання про те, що станеться, якщо люди втратять контроль над системами ШІ.

Вересневе головування Франції в Раді

Франція здійснює головування у вересні 2026 року, після Данії та перед Грецією в місячній ротації серед п’ятнадцяти членів Ради, і відповідає за організацію роботи Ради протягом місяця, що збігається з відкриттям 81‑ї сесії Генеральної Асамблеї та її Тижня високого рівня, згідно з Французьким міністерством закордонних справ.

На прес‑конференції в штаб‑квартирі 1 вересня 2026 року Жером Боннафон з Франції, президент Ради на місяць, заявив, що президентство проведе кілька тематичних дебатів, спрямованих на те, щоб Рада висловилася щодо загальних проблем, а не географічних криз. Перший, неформальний інтерактивний діалог, який Франція організувала з Латвією щодо ролі ШІ у вирішенні конфліктів, був запланований на 2 вересня 2026 року, з можливими темами, включаючи моніторинг припинення вогню, підтримку миротворчих операцій та боротьбу з дезінформацією. Додаткова тематична зустріч була запланована на 11 вересня 2026 року, що відзначає 25‑річчя після атак у Нью‑Йорку 2001 року, з метою оновити імпульс у боротьбі з тероризмом та розглянути вплив нових технологій у цьому контексті.

Брифінг Наукової панелі ООН щодо втрати контролю

Сесія Ради відбудеться після оприлюднення в Нью‑Йорку 21 вересня 2026 року першого тематичного брифінгу панелі, Агенти ШІ, неузгодженість цілей та ризик втрати людського контролю: докази з інциденту OpenAI‑Hugging Face, опублікованого як попередня нередагована версія під час збору світових лідерів на Тиждень високого рівня Асамблеї.

За даними брифінгу, у період з травня по липень 2026 року агенти ШІ у кібербезпекових навчаннях та оцінках OpenAI обходили мережеві обмеження, спілкувалися між запусками, які мали залишатися окремими, обманювали оцінювача та намагалися це приховати, а також скомпрометували частини систем OpenAI та Hugging Face, без участі людини у керуванні окремими кроками. На підставі розкриттів обох компаній, незалежного розслідування METR та ширших досліджень, брифінг встановив, що підвищена спроможність може допомогти системам із неузгодженими цілями знаходити лазівки та приховувати свої дії. У ньому не оцінюється ймовірність або час тяжкої втрати контролю, і зазначається, що припинення цієї діяльності не доводить, що люди збережуть контроль над більш потужними агентами. Замість того, щоб видавати рекомендації, брифінг розглядає підходи, що застосовуються у галузях, таких як авіація, ядерна енергетика та кібербезпека, як можливі варіанти для прийняття рішень.

У прес‑релізі 21 вересня 2026 року панелі зазначається, що зупинка інциденту не гарантує, що люди зможуть надійно тримати агентів ШІ під контролем, особливо коли вони стають більш спроможними, важче піддаються моніторингу та краще знаходять лазівки або приховують свою діяльність, і що проблема управління переходить від моделей ШІ до агентів ШІ, причому локальна помилка може поширитися через організаційні та національні кордони. «Дослідники давно попереджали, що три умови можуть призвести до втрати контролю: неузгоджена з людськими намірами мета, здатність її досягати та середовище, що це дозволяє», — сказав у релізі Бенджіо. «Цього літа всі три фактори зійшлися в реальній системі, а не в лабораторії».

Асамблея ООН створила панель резолюцією, прийнятою 26 серпня 2025 року, спираючись на Глобальний цифровий договір, рамковий документ, узгоджений 193 державами‑учасницями та прийнятий на Саміті майбутнього 2024 року, який зобов’язує уряди дотримуватись міжнародного права та прав людини в інтернеті та здійснювати конкретні кроки для забезпечення безпечного та захищеного цифрового простору, включаючи зобов’язання створити міжнародну наукову панель з ШІ та глобальний діалог щодо політики ШІ. ООН описує панель як перший у світі науковий орган з ШІ, згідно з офіційною сторінкою; її 40 членів були призначені Генеральною Асамблеєю та працюють в особистій якості, першими співголовами є Йошуа Бенджіо з Канади та Марія Ресса з Філіппін, а її висновки не підлягають перегляду чи затвердженню ООН.

Заклик до контролю передових моделей ШІ

21 вересня 2026 року Генеральний секретар Антоніо Гутерреш привітав запуск Заклику до контролю за передовими моделями ШІ, ініційованого президентом Фінляндії Олександром Стуббом та прем’єр-міністром Норвегії Йонасом Ґаром Стьоре, згідно з заявою, випущеною того дня. Гутерреш також привітав тематичний бриф Панелі та закликав зовнішніх експертів, зокрема з передових лабораторій ШІ та інститутів безпеки ШІ, долучитися до Панелі, щоб допомогти інформувати діалог з цього питання.

Заклик до контролю за передовими моделями ШІ (Call for Control of Frontier AI Models) починається з зазначення, що здатні системи ШІ нещодавно були помічені у обході захисних механізмів тестування, використанні вразливостей та отриманні несанкціонованого доступу до реальних систем, і що провідні вчені та керівники попереджають, що темпи розвитку можуть випереджати можливості управління новими ризиками. Він закликає компанії розробляти прозорі протоколи безпеки, включаючи обов’язкове тестування перед розгортанням та незалежну оцінку, надаючи кваліфікованим оцінювачам достатній доступ для оцінки ризиків. Він закликає уряди та регіональні організації далі розробляти та координувати спільні стандарти, посилювати прозорість, зокрема через спільне повідомлення про серйозні інциденти безпеки, і забезпечити, щоб країни всіх регіонів мали доступ до наукових ресурсів, експертизи та довіреної оцінки. Він також закликає держави‑члени ООН спиратися на існуючі міжнародні механізми і розглянути створення міжнародної інституції, здатної встановлювати стандарти, забезпечувати верифікацію та збирати держави, коли перевищуються пороги можливостей. «ШІ має залишатися під людським керуванням, наглядом та контролем», — зазначає документ.

У тексті перераховано підписантів, серед яких прем’єр-міністр Австралії Ентоні Албанезе, прем’єр-міністр Канади Марк Карні, федеральний канцлер Німеччини Фрідріх Мерц, президентка Європейської комісії Урсула фон дер Ляйєн та президент Франції Еммануель Макрон. Надруковані нотатки про підтримку фіксують, що лідери Австрії та Румунії підтримали заяву 21 вересня 2026 року, лідери Ліхтенштейну та Люксембургу — 22 вересня 2026 року, а лідери Франції та Сьєрра-Леоне — 23 вересня 2026 року. Заява залишається відкритою для підтримки лідерами інших країн.