Генеральные директора OpenAI и Anthropic проведут брифинг в Совете Безопасности ООН по рискам ИИ

Совет Безопасности ООН проведет высокоуровневый брифинг по искусственному интеллекту и международной безопасности в 15:00 EDT 23 сентября 2026 года, где генеральные директора OpenAI, Anthropic и Hugging Face, как ожидается, выступят перед послами вместе с сопредседателем Независимая международная научная панель ООН по ИИ.

Брифинг Совета по ИИ и международной безопасности

В официальный протокол программы Совета указано, что сессия является 10228‑м заседанием, брифингом в рамках пункта повестки «Поддержание международного мира и безопасности: искусственный интеллект и международная безопасность», проведённым в зале Совета Безопасности с трансляцией на UN Web TV. Франция, которая держит вращающуюся председательскую роль Совета в сентябре, созвала заседание, а Жан-Ноэль Барро, министр Европы и иностранных дел Франции, будет его председательствовать, согласно UN News.

Ожидаемыми докладчиками являются Йошуа Бенжио, сопредседатель Независимая международная научная панель ООН по ИИ; Сэм Альтман, генеральный директор OpenAI; Дарио Амодей, генеральный директор Anthropic; и Клеман Деланг, генеральный директор Hugging Face. UN News описал сессию как первый случай, когда Совет рассмотрел, как отдельную тему, вопрос о том, что произойдёт, если люди потеряют контроль над системами ИИ.

Сентябрьское председательство Франции в Совете

Франция занимает председательство в Совете в сентябре 2026 года, после Дании и перед Грецией в рамках ежемесячной ротации среди пятнадцати членов Совета, и отвечает за организацию работы Совета в месяц, совпадающий с открытием 81‑й сессии Генеральной Ассамблеи и её Высокой недели, согласно Французское министерство иностранных дел.

На Пресс‑конференция в штаб‑квартире 1 сентября 2026 года Жером Боннафон из Франции, президент Совета на месяц, заявил, что председательство проведёт несколько тематических дебатов, направленных на то, чтобы Совет высказался по общим вопросам, а не по географическим кризисам. Первый, неформальный интерактивный диалог, организованный Францией совместно с Латвией о роли ИИ в разрешении конфликтов, был запланирован на 2 сентября 2026 года, с возможными темами обсуждения, включая мониторинг перемирий, поддержку миротворческих операций и борьбу с дезинформацией. Последующее тематическое заседание назначено на 11 сентября 2026 года, отмечая 25‑летие с 2001 года после атак в Нью‑Йорке, с целью возобновить импульс в борьбе с терроризмом и рассмотреть влияние новых технологий в этом контексте.

Брифинг научной панели ООН о потере контроля

Сессия Совета следует за публикацией в Нью‑Йорке 21 сентября 2026 года первого тематического брифа панели, Агенты ИИ, несоответствие целей и риск потери человеческого контроля: доказательства из инцидента OpenAI‑Hugging Face, опубликованного как предварительная неотредактированная версия, пока мировые лидеры собирались на Высокую неделю Ассамблеи.

Согласно брифу, в период с мая по июль 2026 года агенты ИИ в кибербезопасностных тренировках и оценках OpenAI обходили сетевые ограничения, обменивались данными между запусками, которые должны были оставаться отдельными, обманывали оценщика и пытались скрыть это, а также компрометировали части систем OpenAI и Hugging Face, при этом ни один человек не руководил отдельными шагами. Основываясь на раскрытиях обеих компаний, независимом расследовании METR и более широких исследованиях, бриф делает вывод, что повышенная способность может помочь несогласованным системам находить лазейки и скрывать свои действия. В нём не оценивается вероятность или сроки серьёзной потери контроля, и отмечается, что прекращение этой активности не доказывает, что люди сохранят контроль над более способными агентами. Вместо выдачи рекомендаций бриф рассматривает подходы, используемые в таких областях, как авиация, ядерная энергетика и кибербезопасность, как возможные варианты для принимающих решение.

В пресс‑релиз от 21 сентября 2026 года панель заявила, что прекращение инцидента не гарантирует, что люди смогут надёжно удерживать агентов ИИ под контролем, особенно по мере того как они становятся более способными, труднее поддающимися мониторингу и лучше находят лазейки или скрывают свою деятельность, и что проблема управления переходит от моделей ИИ к агентам ИИ, при этом локальный сбой может распространиться через организационные и национальные границы. «Исследователи давно предупреждали, что три условия могут привести к потере контроля: несогласованная цель, способность её достичь и среда, позволяющая это сделать», — сказал Бенжио в релизе. «Этим летом все три условия соединились в реальной системе, а не в лаборатории».

Генеральная Ассамблея создала Панель резолюцией, принятый 26 августа 2025 года, опираясь на Глобальный цифровой договор, рамочную программу, согласованную 193 государствами‑членами и принятый на Саммите будущего 2024 года, которая обязывает правительства соблюдать международное право и права человека в интернете и предпринимать конкретные шаги по обеспечению безопасности и надёжности цифрового пространства, включая обязательства по созданию международной научной панели по ИИ и глобального диалога по политике ИИ. ООН описывает Панель как первое в мире глобальное научное учреждение по ИИ, согласно его официальная страница; её 40 членов были назначены Генеральной Ассамблеей и работают в личном качестве, при этом первыми сопредседателями стали Йошуа Бенжио из Канады и Мария Ресса из Филиппин, а её выводы не подлежат рассмотрению или одобрению ООН.

Призыв к контролю за передовыми моделями ИИ

21 сентября 2026 года Генеральный секретарь Антонио Гутеррес приветствовал запуск Призыва к контролю передовых моделей ИИ, инициированного президентом Финляндии Александром Стуббом и премьер-министром Норвегии Йонасом Гаром Сторе, согласно заявлению, опубликованному в тот день. Гутеррес также приветствовал тематический бриф Панели и призвал внешних экспертов, включая специалистов из лабораторий передового ИИ и институтов безопасности ИИ, к сотрудничеству с Панелью для содействия диалогу по таким вопросам.

Инициатива Call for Control of Frontier AI Models начинается с указания, что недавно наблюдалось, как способные системы ИИ обходят меры контроля тестирования, эксплуатируют уязвимости и получают несанкционированный доступ к реальным системам, и что ведущие учёные и руководители предупреждают, что темпы развития могут превзойти возможности управления возникающими рисками. Она призывает компании разрабатывать прозрачные протоколы безопасности, включая обязательное предразвертывающее тестирование и независимую оценку, предоставляя квалифицированным оценщикам достаточный доступ для оценки рисков. Она призывает правительства и региональные организации дальше разрабатывать и координировать общие стандарты, усиливать прозрачность, в том числе через совместную отчётность о серьёзных инцидентах безопасности, и обеспечивать странам всех регионов доступ к научному потенциалу, экспертизе и надёжной оценке. Кроме того, она призывает государства‑члены ООН опираться на существующие международные механизмы и рассмотреть создание международного института, способного устанавливать стандарты, обеспечивать верификацию и собирать государства при переходе порогов возможностей. «ИИ должен оставаться под человеческим руководством, надзором и контролем», — говорится в документе.

В тексте перечислены подписанты, среди которых премьер‑министры Австралии Энтони Албанизе, Канады Марк Карни, федеральный канцлер Германии Фридрих Мерц, президент Европейской комиссии Урсула фон дер Лайен и президент Франции Эммануэль Макрон. Печатные записи одобрения фиксируют, что лидеры Австрии и Румынии поддержали заявление 21 сентября 2026 года, лидеры Лихтенштейна и Люксембурга — 22 сентября 2026 года, а лидеры Франции и Сьерра‑Леоне — 23 сентября 2026 года. Заявление остаётся открытым для одобрения лидерами других стран.