Гочул запускає в штаті Нью-Йорк мережу тестування безпеки ШІ

10 листопада 2026 року губернаторка штату Нью-Йорк Кеті Гочул запустила загальноштатну ініціативу з дослідження ШІ та його безпеки, доручивши Центру відповідального ШІ та досліджень при Binghamton University проводити незалежне тестування передових моделей і створити мережу, до якої увійдуть понад 80 дослідників.

Центр, відомий як NYCAIRR, працюватиме в цьому напрямі, проводячи незалежні оцінювання, фундаментальні наукові дослідження та навчаючи фахівців із безпеки ШІ. До його завдань належать як оцінювання наявних систем, так і розроблення інструментів вимірювання та стандартів для дедалі потужніших моделей. В офісі губернаторки заявили, що дослідження мають надати посадовцям органів влади об’єктивні дані для ухвалення рішень щодо безпеки ШІ та підзвітності, а також сприяти відповідальному застосуванню ШІ в медицині, наукових відкриттях і критичній інфраструктурі.

Незалежне тестування в усьому штаті Нью-Йорк

Грег Моррісетт, декан і віцепровост Cornell Tech, та Жаннетт Вінг, виконавча віцепрезидентка з досліджень Columbia University, стануть тимчасовими співдиректорами. Вони визначатимуть наукову програму, контролюватимуть незалежні оцінювання та розбудовуватимуть загальноштатну мережу, учасники якої залишатимуться у своїх установах. Центр користуватиметься обчислювальними ресурсами Empire AI — державно-приватної ініціативи на суму 500 мільйонів доларів, що підтримує дослідження ШІ на суспільне благо.

Дослідницька програма охоплює питання про те, як працюють передові системи, як перевіряти їхню безпеку та захищеність, чи поводяться вони відповідно до задуму та як відповідально використовувати ШІ в наукових відкриттях. У межах загальнонаціональної кампанії з набору фахівців шукатимуть спеціалістів із математичної теорії, формальних методів і верифікації, агентних і складних систем, безпеки апаратного забезпечення та приватності, інтерпретованості й узгодження, а також наукового ШІ та біобезпеки.

Гочул представила незалежну роботу як спосіб перевірити заяви самих розробників. «Ставки надто високі, щоб просто вірити компаніям, які розробляють ШІ, на слово», — сказала вона.

Про створення центру вперше оголосили 21 січня 2026 року після благодійного внеску в розмірі 30 мільйонів доларів від групи донорів на чолі з Томом Секундою, випускником Binghamton і співзасновником Bloomberg LP, а також окремої інвестиції штату Нью-Йорк у дослідницьку інфраструктуру в розмірі 25 мільйонів доларів. Штат Нью-Йорк також надає кошти на поточну діяльність. Листопадовий запуск розвиває початкову місію з досліджень у державних університетах, доповнюючи її загальноштатною мережею та програмою незалежного оцінювання.

Зв’язок із наглядом за виконанням закону RAISE

Одночасно із запуском дослідницької роботи штат Нью-Йорк відкрив портал RAISE відповідно до Закону про безпеку та освіту у сфері відповідального ШІ. Великі розробники передового ШІ мають зареєструватися в штаті через портал до 1 січня 2027 року. Виконання закону забезпечує Управління цифрових інновацій, врядування, доброчесності та довіри (DIGIT), що діє у складі Департаменту фінансових послуг.

На всіх розробників передового ШІ, які працюють у штаті Нью-Йорк, поширюються вимоги щодо безпеки та прозорості, а для великих розробників передбачено додаткові зобов’язання. Починаючи із січня 2027 року, великі розробники мають публікувати рамкові документи з безпеки, а всі розробники передового ШІ — повідомляти про критичні інциденти, пов’язані з безпекою, і публікувати звіти про прозорість моделей. У повідомленні штату про запровадження вимог від 21 вересня 2026 року зазначено, що великі розробники мають повідомляти DIGIT про критичні інциденти, пов’язані з безпекою, протягом 72 годин, щокварталу подавати оцінювання катастрофічних ризиків і надавати заяви про розкриття інформації не рідше ніж раз на два роки.

На запит штату NYCAIRR може надавати експертні знання, оцінювання та докази для нагляду за передовим ШІ. Центр координуватиме роботу з DIGIT, щоб аналізувати оприлюднені розробниками рамкові документи з безпеки та рекомендувати способи посилення вимог.

Ця структура відокремлює адміністративне регулювання від незалежної технічної підтримки: DIGIT займається реєстрацією та звітністю, тоді як дослідницька мережа має тестувати передові системи й аналізувати рамкові документи, на яких ґрунтуються розкриття інформації розробниками. Практичним випробуванням підходу штату Нью-Йорк стане те, чи надасть він посадовцям корисні дані, що виходять за межі власних публікацій компаній, коли в січні набудуть чинності відповідні вимоги.