Когда ИИ действует, ИТ по-прежнему несет ответственность за последствия

Руководители, ответственные за технологии, сталкиваются с неприятной реальностью. Стратегии управления ИТ, которые ранее обеспечивали контроль, подотчетность и устойчивость, больше не подходят для будущего. Это не является следствием отсутствия лидерства или дисциплины, ни результатом изолированных ошибок. Это отражает структурный сдвиг в том, как технологии работают и как принимаются решения в современных предприятиях.

В центре этого сдвига находится искусственный интеллект, который переопределяет не только инструменты, которые используют организации, но и саму механику управления. ИИ не просто расширяет существующие системы; он изменяет темп, масштаб и автономность, с которой эти системы функционируют, и заставляет пересмотреть, как устанавливается и поддерживается контроль.

Проблема заключается не в том, как контролировать каждое действие. Это то, как спроектировать ограничения, которые позволяют автономным системам быстро действовать без создания неприемлемых уровней риска, затрат или непредвиденных последствий.

Когда управление теряет свое окно

На протяжении десятилетий управление ИТ основывалось на фундаментальном предположении, что системы работают с темпом, который позволяет осуществлять человеческий надзор. Политики могли быть рассмотрены, бюджеты оценены, соблюдение проверено, и исключения эскалированы, потому что всегда было время вмешаться, прежде чем результаты стали бы материальными. Даже когда организации расширялись через волны мобильных, облачных и инноваций Big Data, это предположение в целом сохранялось. Всегда было управленческое окно, точка между намерением и выполнением, где человеческая суждение могло быть применено для формирования, остановки или расширения результатов.

Это предположение больше не действует. Опрос EY за март 2026 года показал, что 85% лидеров технологий теперь отдают приоритет скорости вывода на рынок для ИИ над управлением, что является сигналом того, что баланс между контролем и скоростью уже начал смещаться в пользу выполнения.

И мы знаем, почему. ИИ вводит автономные циклы принятия решений, которые сложны, взаимосвязаны и все более независимы от традиционных ограничений, таких как бюджетирование, соблюдение требований и контроль безопасности. Эти системы не останавливаются для рассмотрения или не ждут утверждения. Они предназначены для того, чтобы неустанно действовать, адаптироваться и выполнять цели, часто в режиме реального времени и в масштабе, который превосходит человеческое понимание, даже когда они говорят с фасадом человеческой вежливости. Результатом является сжатие циклов принятия решений до точки, где значимое человеческое вмешательство больше не является возможным.

ИИ меняет экономику выполнения

В то же время это преобразование совпадает с другой структурной сдвигом, который меняет технологии предприятия. Потребление перешло от фиксированных инвестиций к моделям, основанным на использовании и результативности, где затраты масштабируются динамически с выполнением. Отчет Menlo Ventures за декабрь 2025 года, иллюстрирует масштаб этого изменения, отметив, что компании потратили 37 миллиардов долларов на генеративный ИИ в 2025 году alone, что представляет собой 3,2-кратное увеличение по сравнению с предыдущим годом.

В этой новой среде системы ИИ оптимизированы для достижения результатов, а не для соблюдения предопределенных ограничений. Они преследуют цели через модели потребления ресурсов, которые являются внутренне трудными для прогнозирования. Одно запрос может вызвать каскад действий через API, внутренние службы и внешние зависимости, с финансовыми и операционными последствиями, которые часто становятся видимыми только после того, как выполнение уже произошло. То, что кажется простым в моменте инициации, может расшириться в сложную цепь взаимодействий, которая больше не вписывается в традиционные рамки бюджетирования или управления.

Коллапс традиционных моделей контроля

Последствия для управления глубоки. Традиционные модели управления ИТ полагаются на знакомую последовательность: определение политики, предварительное утверждение решений, управление исключениями и аудит результатов. Каждый шаг основан на предположении, что существует четкое разделение между намерением и воздействием. Но в среде, управляемой ИИ, разрыв между намерением и воздействием фактически исчез.

Политики не могут адаптироваться достаточно быстро, чтобы управлять динамическим выполнением в реальном времени. Предварительное утверждение становится нецелесообразным, когда решения разворачиваются за миллисекунды. Исключения возникают только после того, как результат уже распространился по системам. Аудиты остаются возможными, но они могут только реконструировать события после факта, часто долго после того, как последствия уже материализовались.

Доказательства этого разрушения уже видны. Отчет IBM о стоимости утечки данных показал, что 97% организаций, испытывающих значительные утечки, связанные с ИИ, не имели соответствующих мер контроля доступа для этих систем. Однако даже перед лицом этих рисков внедрение продолжает ускоряться, стимулируемое воспринимаемой стратегической ценностью ИИ. История показывает, что этот дисбаланс не будет сохраняться вечно. Технологии никогда не работали без управления в течение долгого времени, и со временем ИИ потребует новых форм структуры, дисциплины и принудительного контроля, которые должны быть определены очень по-другому, чем текущие предположения.

Появление агентного ИИ на основе генеративного ИИ ускоряет это преобразование еще больше. Системы, способные планировать, выполнять и совершенствовать свои собственные действия, представляют собой фундаментальный сдвиг в том, как выполняется работа. Контроль больше не встроен в последовательности человеческих решений; он встроен в саму систему. Этот дизайн определяет не только действия, которые выполняются, но и то, как далеко, как быстро и с какой стоимостью эти действия распространяются. Он должен поэтому закодировать предположения, ограничения и обязательства, которые организации обязаны соблюдать, от соблюдения нормативных требований до операционной политики до доверия клиентов.

Ответственность остается человеческой

Это создает растущее напряжение между возможностями и ответственностью. ИИ работает на машинной скорости, в то время как ответственность остается твердо человеческой, ограниченной темпом, с которым люди могут интерпретировать, понимать и реагировать на результаты. Советы директоров, регулирующие органы и акционеры не примут тот факт, что автономные системы просто действовали, как было задумано, в качестве достаточного объяснения неудачи. Ответственность не смещается с автоматизацией; она остается с предприятием и с руководителями, ответственным за его надзор.

Результатом является расширяющийся разрыв между действием и подотчетностью. Решения принимаются быстрее, чем они могут быть управляемы, и часто способами, которые трудно отслеживать в реальном времени. В то же время обязательство объяснить, контролировать и оправдать эти решения усиливается, поскольку их объем и воздействие растут. Этот разрыв определяет центральную задачу, с которой сталкивается современное руководство ИТ: управление средой, в которой вмешательство не может быть предположено, затраты внутренне переменчивы, и контроль не может быть полностью восстановлен после факта.

Новая категория риска предприятия

Скорость и автономность решений, управляемых ИИ, создают существенно другой профиль риска. Эти системы не просто расширяют экспозицию через знакомые категории, такие как финансовый, операционный, юридический или репутационный риск; они изменяют, как эти риски возникают, масштабируются и материализуются. Финансовая экспозиция может быстро расти, поскольку потребление, управляемое деятельностью, складывается в реальном времени. Операционные сбои могут распространяться по взаимосвязанным системам, прежде чем они будут обнаружены. Правовые и нормативные нарушения могут возникать без явного намерения или отслеживания. Повреждение репутации может разворачиваться быстрее, чем организация может отреагировать.

Эти риски больше не являются теоретическими. Один человек теперь может развернуть агенты ИИ, способные совершать траты, изменять системы и инициировать действия с темпом, который превышает способность юридических, ИТ или финансовых функций определять ограничения, отслеживать поведение или обеспечивать контроль. Ответственность становится все более трудной, поскольку традиционные механизмы управления не могут идти в ногу со скоростью выполнения, и бюджетирование становится менее связным, поскольку небольшие, инкрементные действия агрегируются в материальные финансовые результаты.

В этой среде системы ИИ будут последовательно преследовать наиболее эффективный путь для достижения своих целей. Без четко определенных ограничений этот путь часто отклоняется от ожиданий организации.

От управления инфраструктурой к проектированию ограничений

Эти реалии переопределяют роль руководства ИТ. Технологические лидеры больше не просто управляют системами; они управляют автономным поведением в масштабе. Роль ИТ смещается от прямого контроля над инфраструктурой к проектированию и обеспечению ограничений, которые определяют допустимые уровни намерения, риска и затрат. Где ИТ ранее фокусировалось на обеспечении хранения, вычислений и подключения, теперь оно должно фокусироваться на формировании того, как системы действуют в определенных границах, потому что будущее ИТ зависит от эффективности этих ограничений.

Организации, которые не смогут адаптироваться, будут бороться за работу на скорости, необходимой клиентам и рынкам. Те, кто преуспеет, получат устойчивое конкурентное преимущество, сочетая скорость с контролем. Этот момент представляет собой поворотный пункт для предприятий, который определит, насколько эффективно они смогут использовать ИИ для расширения производства, улучшения производительности и конкуренции в все более динамичной среде.

В конечном итоге, ответственность остается человеческой. Организации, которые преуспеют, будут теми, которые признают эту реальность и будут готовы работать в ее рамках.

Что должны делать будущие руководители ИТ

Эти сдвиги создают четкий набор приоритетов для будущих руководителей ИТ.

Руководители ИТ должны установить сильное финансовое и операционное управление над деятельностью ИИ, основанное на контроле в реальном времени, который управляет затратами, триггерами выполнения и агентным поведением. Эти контроли должны включать принудительные механизмы, такие как пороги трат, лимиты использования и автоматические отсечения, которые предотвращают неконтролируемое потребление, прежде чем оно создаст материальное финансовое воздействие.

В то же время организации должны определить и управлять основной экономикой ИИ. Это требует отслеживания основных драйверов, таких как подсказки, вызовы моделей, агенты и модели доступа, обеспечивая при этом, что эти меры напрямую связаны с бизнес-результатами, такими как спрос клиентов, доставка услуг, операционная производительность и рост доходов.

Управление также должно включать непрерывную, реальную видимость в деятельности ИИ. Отслеживаемость и аудитABILITY могут больше не полагаться на пост-мерный анализ; они должны обеспечивать непрерывное понимание того, как системы работают, откуда возникает активность, какие модели и агенты участвуют, и как потребляются ресурсы. Эта видимость позволяет организациям наблюдать за поведением по мере его разворачивания и вмешиваться при необходимости.

Выполнение ИИ должно пониматься не как отдельное событие, а как цепь взаимодействий и передач, которые должны быть контекстно и непрерывно отслежены. Одно запрос может вызвать последующую активность по внутренним системам, внешним службам и координированным агентам, усиливая как затраты, так и операционное воздействие. Эффективное управление поэтому требует видимости в этих цепях зависимостей и определений, чтобы полностью понять объем выполнения.

Ясная собственность и ответственность должны лежать в основе всех этих усилий. Организации должны определить, кто отвечает за создание и развертывание систем ИИ, кто владеет выходами, которые они генерируют, и кто несет ответственность за финансовые, операционные и нормативные результаты. Без явной собственности управление не может преуспеть.

Наконец, руководители ИТ должны стандартизировать набор метрик уровня руководства, которые переводят техническую активность в значимую бизнес-информацию. Эти включают стоимость использования модели, стоимость на единицу результата, управляемые ИИ затраты, и видимость на уровне портфеля по моделям и агентам. Вместе эти меры обеспечивают четкое представление о масштабе и эффективности использования ИИ, позволяя принимать обоснованные решения на высшем уровне предприятия.