Больше расходов на безопасность ИИ не уменьшает риски ИИ

Бюджеты на безопасность ИИ растут быстро. Во многих организациях они растут быстрее, чем системы, которые они призваны защищать.

Этот дисбаланс легко упустить из виду. Инвестиции в искусственный интеллект продолжают ускоряться, и глобальное частное финансирование достигло $33,9 млрд только в 2025 году. В то же время руководители служб безопасности должны учитывать новые риски, связанные с поведением моделей, экспозицией данных и манипуляциями противников. Ответом стало предсказуемое увеличение количества инструментов, контроля и бюджета.

Соблазнительно превратить это в разговор о стоимости ведения бизнеса, простой вопрос о том, сколько организациям нужно потратить, чтобы защитить ИИ. Однако это неправильный подход к этой новой проблеме. Вместо этого организации должны изучить, действительно ли их инвестиции в ИИ защищают правильные инструменты.

Во большинстве предприятий ИИ все еще вводится на уровне задач. Команды экспериментируют с суммированием, помощью в кодировании, аналитикой или автоматизацией рабочих процессов, чтобы повысить индивидуальную производительность. Эти инструменты обеспечивают локальные выгоды, но они редко меняют, как принимаются решения или как системы работают на более широком уровне. Этот разрыв начинает проявляться в результатах. Хотя внедрение ИИ широко распространено, только около 20% организаций сообщают о значительном влиянии на их финансовые результаты.

Инвестиции в безопасность увеличиваются вместе с этими экспериментами. Однако в многих случаях они применяются к все более разрастающейся коллекции несвязанных инструментов, а не к сплоченным системам, которые формируют, как работает бизнес. ИИ оценивается на уровне задач, защищается на уровне системы и никогда не проектируется полностью на уровне рабочих процессов, где создается реальная ценность.

Принятие ИИ расширяется быстрее, чем его интеграция

Большинство современных развертываний ИИ имеют узкую направленность по конструкции. Они предназначены для того, чтобы сделать отдельные задачи быстрее, а не изменить, как рабочие процессы протекают через команды или системы.

Команда продаж может принять ИИ, чтобы составлять электронные письма или суммировать звонки. Инженерные команды используют его, чтобы ускорить генерацию кода. Команды операций экспериментируют с аналитикой или поддержкой прогнозирования. Каждый из этих случаев обеспечивает измеримые выгоды в производительности на индивидуальном уровне, и это часто достаточно, чтобы оправдать первоначальные инвестиции.

Сложность начинается, когда эти изолированные выгоды накапливаются.

Каждое развертывание вводит свои собственные модели, шаблоны доступа к данным, API и зависимости. Со временем организации обнаруживают, что им приходится управлять все более растущей экосистемой возможностей ИИ, которые никогда не были предназначены для совместной работы. Даже сейчас, значительная часть предприятий остается на ранних стадиях экспериментов, и многие инициативы еще не встроены в основные бизнес-операции.

Команды безопасности наследуют эту среду по мере ее формирования. Им предстоит защитить не одну систему, а постоянно меняющуюся коллекцию инструментов, интеграций и потоков данных, которые расширяются с каждым новым экспериментом. Без унифицированной архитектуры безопасность становится упражнением в покрытии, а не контроле.

Настоящий риск не в отдельных инструментах, а в фрагментации системы

По мере продолжения экспериментов с ИИ ожидания руководства начинают меняться. Совет директоров и исполнительные команды спрашивают, как растущие расходы на ИИ переводятся в измеримые бизнес-результаты.

Когда ранние инициативы не оправдывают ожиданий, организации редко замедляют темп. Они расширяют свои усилия. Запускаются больше пилотных проектов. Вводятся больше инструментов. Создаются больше интеграций в поисках ценности, которая еще не материализовалась. Прогнозы уже предполагают, что более половины проектов ИИ могут не достичь производства или не дать ожидаемых результатов в ближайшие годы.

Для команд безопасности этот цикл создает новый вид риска.

Проблема больше не только в защите отдельных приложений или моделей. Это управление средой, в которой базовая система постоянно меняется. Каждый новый инструмент вводит дополнительные идентификаторы, потоки данных и поведение моделей, которые расширяют поверхность атаки, прежде чем защитники смогут полностью понять ее.

В этом контексте увеличение расходов на безопасность не обязательно уменьшает риск. Оно может увеличить операционную сложность вместо этого. Защита фрагментированных систем требует больше инструментов, больше мониторинга и больше координации, но это не решает основную проблему, которая заключается в отсутствии сплоченной структуры для развертывания и использования ИИ.

Расходы на безопасность становятся стратегическими только тогда, когда ИИ становится операционным

Мы находимся в отличном положении благодаря инвестициям в безопасность ИИ; степень инноваций астрономическая, и хотя будущее ИИ светлое, инвестиции в безопасность часто не связаны с тем, где ИИ действительно создает ценность.

Когда ИИ развертывается в основном как набор изолированных инструментов производительности, усилия по безопасности вынуждены следовать этой фрагментации. Команды оказываются защищающими десятки несвязанных приложений, которые имеют ограниченное влияние на основные бизнес-результаты.

Большая ценность возникает, когда ИИ встроен в рабочие процессы, которые определяют, как работают организации. Планирование, прогнозирование, распределение ресурсов и принятие операционных решений – это области, где ИИ начинает влиять на результаты в значимой степени. Это также среды, в которых инвестиции в безопасность становятся более стратегическими.

Защита несвязанного инструмента защищает задачу. Защита интегрированной системы защищает бизнес-процесс.

Это то место, где различие между принятием на уровне задач и проектированием на уровне рабочих процессов становится критическим. ИИ, который не интегрирован в процесс принятия решений, будет бороться за оказание измеримого влияния. Безопасность, которая не согласована с этими системами принятия решений, будет бороться за уменьшение значимого риска.

Изменения должны произойти раньше, чем позже

Организациям не нужны меньше инициатив ИИ. Им нужны более намеренные инициативы.

Первый сдвиг происходит в том, как оценивается успех ИИ. Если развертывание не меняет, как принимаются решения или как рабочие процессы протекают через команды, его влияние останется ограниченным, независимо от того, насколько широко оно принимается. Измерение успеха на уровне рабочих процессов, а не на уровне задач, обеспечивает более четкий сигнал о том, где ИИ действительно создает ценность.

Второй сдвиг происходит в том, как приоритезируются инвестиции в безопасность. Вместо распределения контроля по каждому экспериментальному инструменту организации должны сосредоточить защиту вокруг систем, которые влияют на планирование, операции и принятие решений. Это среды, где риск и ценность пересекаются.

Третий сдвиг структурный. Системы ИИ вводят новые формы собственности, которые выходят за рамки традиционных границ приложений. Модели, обучающие данные, конвейеры данных и сгенерированные ИИ выходы все требуют четкой ответственности. Без明овой собственности управление становится не последовательным, а пробелы в безопасности становятся труднее выявить.

В совокупности эти изменения переводят организации от защиты деятельности к защите результатов.

Создание систем ИИ, которые могут действительно масштабироваться

Организации, которые согласовывают принятие ИИ с проектированием на уровне рабочих процессов, получают более четкий путь к ценности и контролю.

Ресурсы безопасности становятся более эффективными, когда они сосредоточены на системах, которые имеют наибольшее значение, а не распределены по несвязанным экспериментам. Руководство получает лучшую видимость того, как инвестиции в ИИ переводятся в операционное влияние. Со временем программы ИИ становятся более устойчивыми, потому что они строятся на структурированных системах, а не на накопленных инструментах.

Инвестиции в ИИ не замедляются. Расходы на безопасность будут продолжать расти вместе с ними. Разница будет заключаться в том, как эти инвестиции применяются.

Организации, которые продолжают масштабировать ИИ на уровне задач, обнаружат, что они защищают все более расширяющуюся поверхность несвязанных инструментов. Те, кто проектирует ИИ на уровне рабочих процессов, будут защищать системы, которые действительно стоят защиты.