Можете ли вы защитить то, что ваш ИИ только что сделал?

Сроки регулирования ИИ продолжают сдвигаться, но необходимость ответственности за ИИ сохраняется 

В течение двух лет разговор о регулировании корпоративного ИИ был построен вокруг сроков. Положения о высоких рисках в Законе об ИИ ЕС должны были вступить в силу 2 августа. Первый в стране закон штата Колорадо о ИИ должен был вступить в силу 30 июня. Вашингтон наконец собирался решить, кто имеет право регулировать что. 

Итак, наблюдаем ли мы прогресс в отношении этих сроков? Вроде бы да. 

За примерно шесть недель этой весной ЕС согласился отложить обязательства по Annex III для высокорисковых систем до декабря 2027 года, а системы с встраиваемыми высокорисковыми продуктами – до 2 августа 2028 года. В Колорадо федеральный суд остановил генерального прокурора штата от применения оригинального акта, заменив его более узкой системой уведомлений, вступающей в силу 1 января 2027 года. 2 июня Белый дом подписал исполнительный указ по ИИ, который занял явно проинновационную позицию, отдав предпочтение добровольному сотрудничеству с передовыми разработчиками вместо обязательного лицензирования или предварительного одобрения моделей ИИ. 

Сдвигающиеся сроки и иллюзия регуляторного облегчения

Главный вывод для компаний состоит в том, что переносы сроков не сделали ответственность за ИИ исчезающей. В Европе, даже когда некоторые требования к высоким рискам были смещены, обязательства по прозрачности, грамотности в области ИИ, синтетическому контенту и принудительному исполнению продолжали развиваться. Колорадо рассказывает похожую историю: законодатели убрали самые обременительные требования к соблюдению, но сохранили фундаментальные элементы, такие как раскрытие участия ИИ, объяснение неблагоприятных решений, исправление плохих данных и предоставление возможности человеческой проверки.

Это полезный сигнал того, где в конечном итоге может сойтись регулирование. Политики могут расходиться во мнениях относительно оценок воздействия, режимов лицензирования и того, какой уровень власти должен устанавливать правила. Но возможность объяснить, что сделала система ИИ, задокументировать, как был достигнут результат, и предоставить людям реальный способ обжалования оказывается гораздо сложнее, чем можно запретить законодательно. Банк всё равно должен объяснить решение по кредиту, в котором участвовал ИИ. Больница всё равно должна иметь запись о том, как был получен рекомендационный вывод ИИ. Компания всё равно должна знать, что происходит, когда автоматизированная система генерирует результат, который ей придётся защищать.

Если что‑то и меняет ситуацию, так это растущая доступность открытых моделей, что делает эту ответственность ещё более важной. Чем больше контроля у компании над тем, где и как работает модель, тем труднее воспринимать ответственность как чужую проблему. Если организация не в состоянии восстановить, объяснить и защитить действия своих ИИ‑систем, задержки в регулировании дают лишь временное облегчение.

Если вы занимаете должность Chief AI Officer, руководителя управления рисками моделей или отвечаете за использование ИИ в регулируемой отрасли, и уже пережили любые другие эпохи инноваций и регулирования, вы знаете, что первое всегда опережает второе — а реальная ответственность определяется тем, что ваша организация делает при внедрении, независимо от того, присутствуют ли регуляторные требования.

Разрыв доверия к ИИ: почему рыночный риск опережает соответствие

Ответственность определяется решениями, принятыми без надзора, и усиливается в обе стороны. Хотя ответственность за корпоративный ИИ часто путают с концепцией последствий, придуманной регуляторами, она возникает в тот момент, когда компания развёртывает ИИ, независимо от того, назвали ли уже кто‑то эти последствия обязательными к исполнению. А развертывание ускоряется гораздо быстрее любого календаря соответствия — особенно теперь, когда автономные агенты переходят в продакшн, совершают действия, обрабатывают данные и принимают решения со скоростью, недоступной человеческому контролёру. Gartner прогнозирует, что к концу этого года 40 % корпоративных приложений будут включать задачеспецифические ИИ‑агенты, по сравнению с менее чем 5 % в 2025 году. 

Поэтому самый показательный сигнал в корпоративном ИИ сейчас исходит не от регуляторов, а из советов директоров и размещается на страницах карьерных возможностей компаний разных отраслей. Контроль ИИ на уровне совета директоров вырос на 84 % в раскрытиях публичных компаний, а Forrester прогнозирует, что 60 % компаний из Fortune 100 назначат в этом году отдельного руководителя по управлению ИИ. Morgan Stanley и BlackRock уже начали учитывать зрелость управления ИИ при оценке стоимости компаний. Ни одно из этих действий не является реакцией на закон. Это реакция на риск, который компании, уже внедряющие ИИ, признают во всём: от управления бизнесом до публикаций вакансий. 

Stanford’s 2026 AI Index показал, что безопасность и риск — а не качество модели или стоимость — теперь являются главным препятствием для масштабирования агентного ИИ, о чём заявили 62 % организаций, опередив технические ограничения и регуляторную неопределённость. Это расстояние — между тем, что система делает, и тем, что её владелец действительно может доказать — и есть разрыв доверия к ИИ, который не закрывается по графику регуляторов. 

Паттерн, когда инновации опережают регулирование, тот же, что мы наблюдали при внедрении облачных технологий, шифрования и в индустрии кибербезопасности за последние три десятилетия — медиа об этом пишут, регуляторы признают, а каждая отрасль сталкивается с реальными последствиями и уникальными сценариями, переходя от осторожности к экспериментам и, в конечном итоге, к различным уровням корпоративного принятия. С облачными вычислениями AWS появился в 2006 году, и компании мигрировали чувствительные данные и ядра систем почти десятилетие, пока нормативная база не догнала их. FedRAMP появился только в 2011 году, отрасли пришлось изобретать «модель совместной ответственности», поскольку контракты её не предусматривали, а GDPR не стал реально обязательным для обработки данных до 2018 года. Кибербезопасность прошла аналогичный путь: PCI DSS был формализован лишь в 2004 году, уже после того как данные карт стали массово передаваться онлайн; закон о уведомлении о нарушениях начался с единственного калифорнийского акта в 2003 году и до сих пор представляет собой мозаику из штатов; а SEC потребовал от компаний раскрывать значимые киберинциденты только в 2023 году. В обоих случаях ответственность существовала задолго до появления правил, и её обеспечивали рынок, клиенты, аудиторы, страховщики и редкие публичные утечки, а не сами нормативные акты.

От возможностей пилотного проекта к защите результатов в продакшн

Скорость и возможности стали тем, что привело ИИ в пилотные проекты компаний, и, как и любая другая крупная технологическая инновация, это было необходимо. Но этого недостаточно, чтобы вывести ИИ в продакшн в строго регулируемых средах с комплексными наборами данных и рабочими процессами — банки, страховщики, критически важная инфраструктура, оборонные программы — где в конечном итоге кто‑то должен представить решение, основанное на ИИ, регулятору, совету директоров или адвокату истца и защитить его. В таких условиях «модель очень способна» не является ответом, отвечающим требованиям ответственности. 

Это различие стало реальной границей, и всё больше компаний понимают, что это проблема архитектуры, а не политики. Нельзя после факта превратить «чёрный ящик» в ответственный объект. Объяснимость, прослеживаемость и чёткая цепочка владения должны быть встроены в систему, иначе они отсутствуют, и организации, которые учатся на собственных ошибках, — те, кто развернул ИИ первым и задумался об ответственности позже. Gartner прогнозирует, что к 2027 году 40 % компаний будут вынуждены понизить в статусе или вывести из эксплуатации автономные агенты именно из‑за управленческих пробелов, обнаруженных только после сбоя в продакшн. 

Утечка данных Klue этим летом служит ярким примером, который стал только более поучительным по мере развития событий. Klue — платформа конкурентного анализа, управляемая ИИ, и злоумышленники не преодолели сложные защиты, а использовали единственные учётные данные интеграции, выданные в 2022 году для пилотного проекта, который позже был заброшен и не отозван, чтобы аутентифицироваться в CRM‑подключениях клиентов и извлекать записи через автоматические запросы. То, что начиналось как несколько раскрытий, выросло до вовлечения множества компаний. Даже после того как первоначальный атакующий начал сотрудничать, появилась вторая группа, заявившая о тех же украденных данных и запустившая собственную кампанию вымогательства. 

Уязвимость была не отказ модели или хитрый zero‑day; это был доверенный, автоматизированный путь доступа, за который никто не нес активную ответственность, и который продолжал генерировать последствия задолго после того, как инцидент «были решён». По мере того как компании интегрируют ИИ и его агентов в всё больше своих систем, каждая из этих связей превращается в один и тот же вопрос, ожидающий ответа: кто владеет ею, кто её контролирует и кто отвечает за неё, когда она работает быстрее, чем любой надзор может её отследить? 

Регуляторы сдвигают даты именно из‑за этой фундаментальной проблемы. Сделать такие системы понятными, тестируемыми и поддающимися ответственности действительно сложно, а стандарты и инструменты ещё не полностью сформированы. Но это не причина ждать; наоборот, это самый ясный сигнал о том, что необходимо приоритетизировать немедленно. Компании, рассматривающие дополнительное время как разрешение на откладывание, проведут 2027 год, вынуждая работать под давлением, в то время как их конкуренты уже сейчас делают это по собственной инициативе. 

Определение успеха внедрения ИИ в корпорациях должно сместиться от возможностей пилотного проекта к защите результатов. На практике это означает прохождение трёх тестов для каждого пути принятия решения, где участвует ИИ: надёжный журнал того, что система сделала, объяснение, понятное не‑инженеру, и возможность для затронутого лица оспорить результат. Это не просто рамки, придуманные кем‑то в рекламных материалах, а почти дословно то, что выдержало дерегуляцию в Колорадо.

Вопрос о том, можно ли доверять ИИ в абстрактном виде, был философской дискуссией в 2025 году. Сейчас и в дальнейшем корпорациям необходимо уметь отвечать на вопрос, могут ли они защищать результаты, предоставляемые ИИ, и доказывать это каждый раз каждому, кто задаёт этот вопрос. 

Сроки могут быть отодвинуты, а продления могут продолжаться, но в отличие от регуляторов, рынка и клиентов, которым в конечном итоге служит ваш бизнес, они не предоставляют дополнительных отсрочек и не принимают оправданий.