Теневый ИИ – это провал дизайна, а не проблема людей

Я хочу, чтобы вы запомнили одну фразу из этого текста. Если вы забудете все остальное, запомните это: теневой ИИ является прямым результатом того, что безопасный путь стал медленным.

Это не горячая точка зрения. Это закономерность, которую я наблюдал на протяжении двадцати пяти лет во всех областях безопасности – от теневого ИТ до BYOD и распылания облака. И теперь это происходит снова с ИИ, только быстрее и с более высокими ставками.

Пробел, который должен не давать вам спать ночью

Индекс тенденций работы Microsoft и LinkedIn за 2024 год предоставил конкретные цифры на что-то, что большинство руководителей безопасности уже чувствовали в своем желудке: 75% работников с знаниями используют инструменты ИИ на работе, и 78% из них приносят их с собой. Это не экспериментирование. Это рабочая сила, которая решила не ждать, пока ИТ догонит.

И вот часть, которая больно: управление не поспевает. Опрос Checkmarx за 2025 год показал, что только 18% организаций имеют политику управления, покрывающую генерацию кода с помощью ИИ — несмотря на то, что большинство инженерных команд уже используют эти инструменты ежедневно. Если пробел такой широкий для кода, представьте, как он выглядит для каждой другой рабочей процессы ИИ, которые ваши команды запускают. Внедрение не ждет управления. Оно опережает его.

Ваши люди не безрассудны. Они рациональны. Они нашли инструмент, который делает их быстрее, и официальный путь к безопасному использованию этого инструмента включает в себя установку Python, создание проектов GCP, генерацию учетных записей службы, скачивание учетных данных JSON на их ноутбуки и настройку локальных серверов MCP. Реальная история. Реальный результат: человек сдался на третьем шаге.

Режим отказа, который я постоянно вижу

Давайте сделаем эту закономерность конкретной. Я наблюдал вариации этого в десятках организаций.

Маркетинговый директор читает блог-пост: подключите помощника ИИ к серверу MCP Google Analytics, запустите любой отчет SEO за секунды. Звучит хорошо. Она хочет сделать это.

Итак она начинает по неподдерживаемому пути. Установите зависимости. Создайте облачный проект. Сгенерируйте учетную запись службы. Скачайте файл учетных данных на свой ноутбук. Настройте интеграцию локально.

Она сдается. На третьем шаге. Слишком много трения. Неправильный инструмент для неправильного человека.

Теперь послушайте, что я только что сказал. Проблема не в маркетинговом директоре. Она умна. Она мотивирована. Она именно тот человек, которого вы хотите, чтобы он принимал инструменты ИИ. Проблема в том, что безопасный путь был медленнее, чем небезопасный.

Это режим отказа каждого программного обеспечения доступа, которое я когда-либо видел. Когда управляемый путь труднее, чем неуправляемый, люди найдут неуправляемый путь. Каждый раз. И вы узнаете об этом во время нарушения, а не до.

Пять могил

Я видел, как организации пытаются решить эту проблему пятью разными способами, прежде чем прийти к тому, что действительно работает. Каждый подход потерпел неудачу по одной и той же коренной причине: он добавил трение без добавления скорости.

Первая попытка – позволить каждой команде выбрать свой собственный инструмент ИИ. Результат – четырнадцать перекрывающихся подписок и нулевая аудиторская трасса. Вы демократизировали внедрение и централизовали ничего.

Вторая попытка – поставить все за SSO. SSO решает проблему входа. SSO не решает проблему действия. Как только агент аутентифицирован, ваш слой SSO слеп к тому, что он делает дальше.

Третья попытка – обмен учетной записью службы между агентами. Одно происшествие позже, у вас ноль атрибуции. Вы не можете сказать, какой агент сделал что, когда что-то пошло не так.

Четвертая попытка – написать политику ИИ и положить ее на вики. Я видел, как организация тратит шесть недель на создание всесторонней политики приемлемого использования ИИ, распространяет ее среди всех сотрудников, и затем обнаруживает три месяца спустя, что меньше трети сотрудников открыли документ. Никто не читает документы. Люди читают значения по умолчанию. Все, что легко, делается — и страница вики никогда не бывает легкой.

Пятая попытка – создание централизованного комитета по рассмотрению каждого проекта ИИ. Вы думаете, что вы действуете ответственно. Вы создаете瓶颈. В течение квартала команды обходят вас — и вы создали именно ту проблему теневого ИИ, которую пытались предотвратить.

Каждая из этих могил имеет один и тот же эпитафий: учетные данные, разбросанные по ноутбукам, нет аудиторской трассы и много перекрестных пальцев.

Инверсия, которая действительно работает

Исправление не в добавлении трения. Это инверсия.

Традиционная безопасность строит трение, чтобы предотвратить плохое поведение. Пользователи обходят его. Теневой ИИ появляется. Вы узнаете об этом во время нарушения.

Инвертируйте это. Сделайте обеспеченный путь быстрее, чем неуправляемый.

Что это выглядит в практике? Та же маркетинговый директор — вместо того, чтобы бороться с Python и учетными записями службы — запрашивает доступ к Google Analytics изнутри своего помощника ИИ. Запрос попадает в движок политики. Низкий риск, известный инструмент, известный пользователь — автоматически одобрен. Учетные данные в хранилище, ограниченные и краткосрочные. Они никогда не касаются ее ноутбука. Каждый запрос журналируется. Она запускает отчеты менее чем за минуту.

Один и тот же человек. Один и тот же результат, которого он хотел. Доля времени. Полная аудиторская трасса. Разная мотивация. Разный результат.

Это то, как выглядит управление доступом ИИ, когда оно построено правильно. Самый быстрый путь становится самым безопасным. Стимул обходить ИТ исчезает — не потому, что вы обеспечили соблюдение более строго, а потому, что вы сделали соблюдение проще, чем альтернатива. Когда ваш управляемый путь действительно быстрее, чем неуправляемый, теневой ИИ начинает решать себя.

Измерение того, что имеет значение

Вот метрика, которая никогда не исчезает: является ли управляемый путь быстрее, чем неуправляемый? В момент, когда неуправляемый путь быстрее, чем управляемый, теневой ИИ возвращается, и вы начинаете заново.

Это не разовое измерение. Это непрерывный сигнал. Каждый раз, когда вы добавляете шаг, рассмотрение, одобрение — спросите, сделали ли вы путь теневого ИИ более привлекательным.

Самостоятельная служба не является функцией производительности. Это функция безопасности. Эта строка инвертирует, как большинство команд безопасности думают об управлении доступом, и это самый важный рефрейм, который я могу предложить. Трение создает риск — каждый раз.

Если вы хотите поведение, сделайте его значением по умолчанию. Если вы не хотите поведения, сделайте его труднее, чем альтернатива. Постройте для этого принципа, и большинство вашей проблемы теневого ИИ решит себя.