Переопределение авторитета в руководстве высшего звена: Что действительно требуется для построения отношений с ИИ

Я провёл 25 лет со стороны покупателя в сфере операций по безопасности, и ни разу не переживал из‑за правила брандмауэра. Однако я теряю сон из‑за ИИ. Традиционная автоматизация, какой бы сложной она ни была, следует логике, которую можно проследить. Но в условиях беспрецедентного масштаба агентного ИИ системы вынуждены принимать решения, объяснить которые инженерам не всегда удаётся полностью – именно эта потеря прозрачности и заставляет многих руководителей по безопасности (CISO) застревать.

97% лидеров в области безопасности уверены, что ИИ может справляться с триажем, однако лишь 35% действительно используют его в этой сфере. Эта точка перелома представляет собой проблему доверия, и доверие может быть решено только так, как всегда: через структуру, доказательства и время.

Вы можете видеть автоматизацию, но можете ли вы доверять ИИ?

С традиционной автоматизацией практики могут с уверенностью знать, что произойдёт, ещё до того как это случится. Эта прозрачность объясняет, почему команды SOC в течение десятилетия строили доверие к автоматизированным рабочим процессам без серьёзных внутренних споров; однако агентный ИИ нарушил эту парадигму, внедрив слой обученного суждения — систему, оценивающую контекст, делающую предсказательные выводы и приходящую к заключениям через процесс, который не всегда полностью ясен даже тем, кто его создал.

Только 21% организаций заявляют, что у них есть зрелая модель управления агентным ИИ, хотя 74% ожидают использовать AI‑агенты хотя бы «умеренно» к 2027 году. Когда специалисты по безопасности не могут прозрачно объяснить такой тип «чёрный ящик ИИ», это свидетельствует о сложности управления инструментами ИИ. Дело не в том, что инструменты недостаточно защищены, а в том, что внутреннее функционирование ИИ основано на суждениях, а не на блок‑схеме.

В залах совета директоров руководители оценивают ИИ так же, как оценивают автоматизацию, задавая вопрос «могу ли я увидеть логику», а не «как мне заслужить доверие к принимающему решения, чья логика меняется?». Большинство CISO, вероятно, уже знают ответ, но задача — применить его на практике.

Отношение к ИИ как к сотруднику с высокими ставками

Подумайте о вводе в должность нового старшего аналитика. CISO не дал бы новичку сразу ключи от продакшн‑среды в первый день, независимо от того, насколько сильное резюме у него. Сначала ему поручали бы задачи с низким риском, наблюдали за тем, как он справляется с неопределённостью, и расширяли полномочия по мере их заслуживания. ИИ заслуживает такого же ввода, основанного на доказательной доверии, которое формируется со временем.

Мы уже видели последствия в действии, когда автономный агент Meta AI, вызвавший масштабный инцидент безопасности в компании после действия без человеческого одобрения, раскрыв конфиденциальные данные компании и пользователей неавторизованным сотрудникам примерно на два часа, пока проблема не была локализована. Коренной причиной стала отсутствие контроля человека в цикле принятия решения в момент, когда требовалось явное одобрение. Именно такой режим отказа предназначены предотвращать жёсткие ограничения, и это напоминание о том, что дисциплина охвата важнее, чем сложность модели.

ИИ заслуживает того же внимания, и мы можем рассматривать его как основанную на доказательствах «рампу:

• Поймите логику принятия решений до её развертывания. Вам не нужно видеть каждый вес модели, но необходимо знать, какие данные она использует для рассуждений, какие результаты оптимизирует и где, вероятно, находятся её слепые зоны.
• Установите жёсткие ограничения с первого дня. Точно определите, что система может выполнять самостоятельно, а что требует вмешательства человека. Узкий охват — фундамент, на котором строится доверие.
• Расширяйте границы только по мере накопления доказательств. Каждое правильное решение — это точка данных, и каждая ошибка тоже является точкой данных. Расширяйте диапазон пропорционально истории успехов, а не энтузиазму поставщика или бюджетным циклам.

Следование этим протоколам поможет успокоить опасения CISO, включая предотвращение ситуации, когда автономная система работает дальше того момента, когда кто‑то действительно проверил её заслуживание доверия.

Трёхуровневая модель: Где ИИ зарабатывает своё место

SANS’ Secure AI Blueprint описывает структуру управления, построенную вокруг трёх направлений: защита ИИ, использование ИИ и управление ИИ, охватывающих шесть категорий контроля, включая доступ, данные, развертывание, вывод, мониторинг и безопасность модели. Это полезная отправная точка, а чтобы пойти дальше, полезно структурировать эти отношения, разделив SOC на три уровня для решения проблемы доверия к ИИ.

1. Результат. Это уровень, где живёт бизнес‑рисок. Что организация считает приемлемым результатом? Каков порог допуска для ложно‑отрицательных и ложно‑положительных результатов? Это человеческое решение, точка. Ни одна модель не получает голос по тому, на какой риск готова организация.
2. Суждение. Здесь устанавливаются приоритеты и принимаются компромиссы в условиях неопределённости. Нужно ли сейчас эскалировать это оповещение или подождать дополнительный контекст? Стоит ли эта аномалия того, чтобы прервать чью‑то ночь? Суждение может быть подкреплено ИИ, и всё больше должно быть, но окончательная власть остаётся за человеком. Это уровень, который многие организации стремятся передать слишком рано, и именно он может их подвести.
3. Исполнение. Здесь ИИ должен выполнять тяжёлую работу, делая это со скоростью, недоступной человеческой команде. Обогащение оповещения, корреляция сигналов из десятка инструментов, составление плана сдерживания, запуск сценария после одобрения человеком или надёжным уровнем суждения. Машинная скорость, детерминированность после запуска, без лишних амбиций.

Созревание партнёрства, а не просто управление инструментом

Когда взаимоотношения ИИ в SOC строятся как партнёрство, а не как контроль над инструментом, CISO могут начать рассматривать ИИ как развивающегося коллегу, что приводит к фундаментальному изменению того, как руководитель тратит своё время.

SOC, способные сбалансировать эти отношения, обладают самым дисциплинированным процессом построения доверия. Эта дисциплина позволяет операции по безопасности масштабироваться со скоростью машины на уровне исполнения, не теряя человеческого суждения, которое по‑прежнему требуется для решений уровня результата, и будет требоваться всегда.

Мы уже прошли этап, когда ИИ воспринимался как блестящий новый инструмент для впечатления советов директоров. Возможности и потенциал ИИ заслужили авторитет, позволяющий обращаться к нему так, как в SOC всегда относились к передовым технологиям — шаг за шагом, на основе проверенных решений.