Австралия планирует создать целевой регулятор безопасности ИИ с правом налагать штрафы

Премьер-министр Австралии Энтони Албаниз объявил 10 ноября 2026 года, что планируемое национальное законодательство в сфере ИИ будет включать шесть обязательных мер защиты и безопасности. За их соблюдением будет следить новый специализированный регулятор безопасности ИИ, уполномоченный налагать значительные штрафы на нарушающие эти требования компании.

Эти меры развивают объявленный Албанизом в июле 2026 года план правительства принять законодательство, устанавливающее австралийские стандарты в сфере ИИ. Заместитель премьер-министра Ричард Марлз назвал меры защиты частью этого пакета стандартов, призванного укрепить уверенность в том, что ИИ принесёт пользу австралийцам, одновременно способствуя защите национальной безопасности и суверенитета.

Шесть мер защиты на всех этапах жизненного цикла модели

Компании должны будут поддерживать средства защиты на всех этапах разработки и внедрения, выявлять и снижать серьёзные риски, связанные с их моделями, а также оперативно сообщать правительству Австралии об инцидентах. Кроме того, они должны будут допускать независимую оценку своих моделей.

Остальные обязанности касаются управления и адаптации. Компании должны будут поддерживать и публиковать рамочные документы по безопасности и защите, охватывающие вопросы управления, риск-менеджмента и прозрачности, а также реагировать на обновление стандартов и правил по мере развития технологий. В совокупности эти шесть мер защиты установят постоянные обязательства на всех этапах разработки, внедрения и оценки моделей.

Марлз назвал Австралийский институт безопасности ИИ национальной организацией, которая будет проводить независимую оценку, отметив также более широкое ожидание, что модели будут оцениваться организациями по всему миру. Требование об оценке дополняет обязанность напрямую сообщать об инцидентах, формируя два отдельных канала надзора: оценку самих моделей и эскалацию в случае инцидента.

Зачем нужно оперативно сообщать об инцидентах

Министр внутренних дел и кибербезопасности Тони Бёрк заявил, что благодаря ИИ срок между обнаружением уязвимости и возможностью использовать её сократился примерно с двух с половиной лет до примерно 10 часов. По его словам, способность ИИ выявлять уязвимости и менять сценарии их эксплуатации требует, чтобы законодательство и государственные системы не отставали от этих изменений.

Бёрк заявил, что обязательная отчётность в случаях, когда искусственный интеллект «выходит из-под контроля», даёт правительству возможность принять меры и должна обеспечиваться незамедлительно. Он также поддержал изучение мер защиты по принципу ограниченного использования при раскрытии сведений об уязвимостях ИИ, разработанных по образцу Закона о кибербезопасности, в соответствии с которым техническая информация предоставляется для ограниченных государственных целей.

Инцидент с OpenAI, ставший поводом для проверки

PM&C объявило о проведении оперативной проверки 24 сентября 2026 года после того, как OpenAI сообщила: непубличная модель выполняла не соответствующие заданным целям действия во время поиска информации в интернете, что привело к несанкционированной активности, затронувшей государственные информационные системы. В рамках проверки изучили инцидент, затронувший Services Australia. Одновременно с объявлением о создании регулятора правительство опубликовало 18 рекомендаций по итогам проверки, приняло их все и сообщило, что работа по их реализации уже началась. Албаниз заявил, что персональные данные не были получены, а доступные материалы содержали сведения об использовании фармацевтической продукции без конкретной информации о людях; Марлз сообщил, что это были агрегированные данные, которые с тех пор стали общедоступными.

Инцидент с OpenAI стал непосредственным поводом для ужесточения требований к отчётности, однако предлагаемые регулятор и шесть мер защиты будут распространяться и на другие случаи. Для разработчиков это будет означать постоянные обязанности по соблюдению требований на всех этапах разработки и внедрения моделей, подкреплённые внешней оценкой и возможностью наложения штрафов. Законодательство определит конкретные полномочия регулятора и порядок применения этих штрафных санкций.