Почему компании остаются осторожными с ИИ — и как развертывать его безопасно

ИИ захватил мир. Хотя некоторые организации были ранними последователями, многие компании подошли к этому более осторожно — обеспокоенные проблемами конфиденциальности, соблюдения требований и операционных вопросов, которые сохраняются до сих пор.

Я работал над сотнями развертываний, включающих инструменты безопасности, работающие на ИИ, и увидел熟ый шаблон. Чемпионы приносят первоначальный энтузиазм. Пилоты показывают обещания. Затем следуют внутренние дебаты, юридические обзоры и, в конечном итоге, пауза, когда организации погружаются в анализ паралича. Несмотря на огромный потенциал ИИ для трансформации операций безопасности, многие компании все еще неохотно полностью принимают его.

В кибербезопасности осторожность часто является правильным инстинктом. Но задержка реализации ИИ не остановит угроз, работающих на ИИ, которые сейчас растут в масштабе и частоте. Реальная задача заключается в том, как принять ИИ безопасно, намеренно и без компрометации доверия.

Вот что я узнал из передовой — и что я рекомендую лидерам безопасности, которые готовы двигаться вперед с уверенностью.

1. Проблема доверия к данным

Первым и самым большим препятствием является управление данными. Многие компании ужасно боятся, что конфиденциальные данные могут просочиться, быть неправильно использованы или — что хуже всего — быть использованы для обучения модели, которая принесет пользу конкуренту. Высокопрофильные нарушения и расплывчатые заверения поставщиков только укрепляют эти страхи.

Это не паранойя. Когда вы имеете дело с персональными данными клиентов, интеллектуальной собственностью или регулируемыми данными, передача их третьей стороне может показаться потерей контроля. И пока поставщики не сделают лучше работу по разъяснению своей политики в отношении разделения данных, хранения, участия четвертой стороны и обучения моделей, принятие будет осторожным.

Это то место, где управление становится важным. CISO должны оценивать поставщиков, используя новые рамки, такие как NIST AI Risk Management Framework или ISO/IEC 42001, которые предлагают практические рекомендации по доверию, прозрачности и подотчетности в системах ИИ.

2. Вы не можете улучшить то, что не измеряете

Другой распространенный препятствие — отсутствие базовых метрик. Многие компании не могут количественно оценить текущую производительность, что делает практически невозможным доказать ROI инструментов ИИ.

Будь то среднее время обнаружения (MTTD), частота ложных положительных срабатываний или экономия времени аналитиков, организации должны начать с измерения текущих рабочих процессов. Без этих данных дело об ИИ остается анекдотическим — и спонсоры не подпишут крупномасштабные инициативы без реальных, обоснованных цифр.

Начните отслеживать ключевые KPI сейчас, включая:

• Среднее время обнаружения/реагирования (MTTD/MTTR)
• Снижение ложных положительных срабатываний, ложных отрицательных срабатываний и объема тикетов
• Экономия времени аналитика на инцидент
• Улучшения покрытия (например, уязвимости, сканируемые и исправленные)
• Инциденты, решенные без эскалации

Эти базовые показатели станут основой вашей стратегии обоснования ИИ.

3. Когда инструменты работают слишком хорошо

Иронично, одна из причин, по которой принятие ИИ застревает, заключается в том, что некоторые инструменты работают слишком хорошо — раскрывая больше рисков, чем организация готова справиться.

Продвинутые платформы угроз, инструменты мониторинга темной сети и решения с повышенной видимостью, работающие на ИИ, часто раскрывают украденные учетные данные, домены-подобия или ранее не обнаруженные уязвимости. Вместо создания ясности эта подавляющая видимость может создать новую проблему: с чего начать?

Я видел команды, которые отключали продвинутые сканирования, потому что объем находок создавал политический или бюджетный дискомфорт. Лучшая видимость требует лучшей приоритизации — и готовности решать проблемы напрямую.

4. Заключены в наследственные контракты

Даже когда лучшие инструменты доступны, многие компании заключены в многолетние соглашения с наследственными поставщиками. Некоторые из этих контрактов несут финансовые штрафы так высоки, что переход на середине срока является невозможным.

Безопасность электронной почты — классический случай. Современные решения теперь предлагают обнаружение угроз, работающее на ИИ, моделирование поведения и встроенную устойчивость для гибридных сред. Но если ваш текущий поставщик не поддержал и вы застряли в пятилетней сделке, вы по сути заморожены на месте до истечения срока контракта.

Это не только о технологиях. Это о времени, закупках и стратегическом планировании.

5. Рост теневого ИИ

Принятие ИИ не происходит только сверху вниз — оно происходит повсюду, часто без ведома службы безопасности. Наше исследование показывает, что более 85% сотрудников уже используют инструменты ИИ, такие как ChatGPT, Copilot и Bard. (не говоря уже о DeepSeek и TikTok!)

Без надлежащего надзора сотрудники могут вводить конфиденциальные данные в публичные инструменты, полагаться на фальшивые выходные данные или непреднамеренно нарушать политику компании. Это кошмар с точки зрения соблюдения требований и защиты данных, и притворяться, что это не происходит, не решает проблему.

Лидеры службы безопасности должны принять активную позицию, установив:

• Политики допустимого использования
• Блокирование неутвержденных приложений ИИ, где это необходимо, и перенаправление этих пользователей на авторизованные инструменты
• Развертывание утвержденных, безопасных платформ ИИ для внутреннего использования
• Обучение сотрудников ответственной работе с ИИ

Примечание к полю: политики использования ИИ не изменят использование. Вы не можете обеспечить соблюдение того, о чем не знаете, поэтому первым шагом является количественная оценка использования, а затем переключение на обеспечение соблюдения.

6. Аутсорсинг несет свои собственные риски

Немногие компании имеют инфраструктуру для построения и размещения крупных моделей в доме. Это означает, что аутсорсинг часто является единственным жизнеспособным путем — но он несет риски третьих сторон и цепочки поставок, с которыми CISO слишком хорошо знакомы.

Инциденты, такие как SolarWinds, Kaseya и недавнее нарушение Snowflake, подчеркивают, как доверие внешним партнерам без видимости может привести к значительным уязвимостям. Когда вы аутсорсите инфраструктуру ИИ, вы наследуете безопасность поставщика — хорошую или плохую.

Недостаточно доверять бренду. Требуйте ясности о:

• Жизненном цикле модели и частоте обновления
• Протоколах реагирования на инциденты
• Контролях безопасности поставщика и истории соблюдения требований
• Изоляции данных и контроля аренды

7. Поверхность атаки ИИ расширяется

Когда организации принимают ИИ, они также должны подготовиться к векторам атак, специфичным для ИИ. Атакующие уже экспериментируют с:

• Отравлением моделей (незаметным изменением обучающих данных)
• Внедрением подсказок (манипулированием поведением LLM)
• Входными данными-антагонистами (обходом обнаружения)
• Эксплуатацией галлюцинаций (обманом пользователей, заставляя их доверять фальшивым выходным данным)

Это не теоретические. Они реальные и растущие. Когда защитники принимают ИИ, они также должны адаптировать свои стратегии красной команды, мониторинга и реагирования на инциденты, чтобы учитывать эту новую и уникальную поверхность атаки.

8. Люди и процессы могут быть настоящим узким местом

Одной из наиболее упущенных проблем является готовность организации. Инструменты ИИ часто требуют изменений в рабочих процессах, наборах навыков и мышления.

Аналитикам необходимо понять, когда доверять ИИ, когда его оспаривать и как эффективно эскалировать. Лидерам необходимо интегрировать ИИ в процессы принятия решений, не слепо автоматизируя риски.

Обучение, книги правил и управление изменениями должны эволюционировать вместе с технологией. Принятие ИИ — это не только техническая инициатива. Это человеческая трансформационная инициатива.

Итак, что мы можем сделать?

Несмотря на проблемы, я твердо верю, что преимущества ИИ в безопасности далеко перевешивают риски — если все сделано правильно. Вот, как я советую организациям двигаться вперед:

• Начните с малого и протестируйте тщательно
• Выберите ограниченный случай использования с измеримым влиянием. Запустите контролируемые пилоты. Проверьте производительность. Постройте доверие с данными, а не шумом.
• Приведите юристов, риски и безопасность рано
• Не ждите фазы контракта. Приведите в юристов и соблюдение требований, чтобы проверить условия обработки данных, риски соблюдения требований и последствия цепочки поставок заранее.

Измерьте все

Отслеживайте KPI перед и после реализации. Создайте панели, которые говорят как на языке безопасности, так и на языке бизнеса. Метрики делают или ломают финансирование ИИ.

Выберите партнеров с реальным доказательством успешных проектов

Смотрите за пределами демонстраций. Требуйте рекомендации. Спрашивайте о пост-продажной поддержке, сложности развертывания и результатах в средах, подобных вашим.

Что дальше? Появляющиеся случаи использования, достойные внимания

Мы все еще на ранней стадии путешествия ИИ в безопасности. Перспективные CISO уже исследуют:

• Пилоты ИИ для управления брандмауэрами, GRC и автоматизации соблюдения требований
• Использование угроз, повышенных ИИ, которые ускоряют реакцию на угрозы нулевого дня и точность
• Генеративное красное командование и симуляция атак
• Самовосстанавливающаяся инфраструктура с несколькими поставщиками
• Контроли идентификации на основе рисков, работающие на поведенческом ИИ

Эти случаи использования переходят из лабораторий инноваций в производство. Организации, которые строят мышцы сейчас, будут намного лучше подготовлены к капитализации.

Окончательная мысль: задержка не является защитой

ИИ уже здесь, и так же, как ИИ-поддерживаемые противники. Чем дольше вы ждете, тем больше вы теряете. Но это не означает, что вы должны спешить слепо.

С тщательным планированием, прозрачным управлением и правильными партнерами ваша организация может принять ИИ безопасно — повышая возможности без жертвования контролем.

Будущее безопасности дополнено. Единственный вопрос — будете ли вы лидером или отстанете.