Лидеры мнений

Теневый ИИ был легкой проблемой: реальный риск скрывается в утвержденном программном обеспечении

mm
Добавьте Unite.AI в избранные источники в Google

Два года назад теневой ИИ означал, что сотрудники вставляли данные клиентов в ChatGPT. Решение, в целом, было управляемым: обнаружить инструменты, санкционировать хорошие, заблокировать плохие, обучить людей. Большинство организаций находятся где-то в середине выполнения этой стратегии, где 61% уже столкнулись с теневым ИИ в своих средах, и стратегия в основном работает.

Однако это описание больше не соответствует проблеме. Теневой ИИ сместился от поведенческой проблемы к архитектурной проблеме. Традиционное управление не может поспевать за современным ландшафтом, включая встроенные в программное обеспечение поставщиков и созданные сотрудниками агенты ИИ, работающие внутри утвержденных систем с унаследованными учетными данными, что делает идентификацию единственной реальной точкой контроля.

Две тени, за которыми вы не наблюдаете

Интересный вопрос в 2026 году не заключается в том, какой инструмент ИИ открыл сотрудник. Это тот ИИ-агент, который ваш санкционированный поставщик тихо включил в прошлую квартальную обновление продукта, и какие разрешения он унаследовал от человека, который его установил.

Теневой ИИ раньше был вопросом поведения. Вы могли его увидеть, назвать и создать политику против него. Распространяющаяся сейчас версия является структурной. Она приходит через программное обеспечение, которое вы уже одобрили, действует под учетными данными, которые вы уже выдали, в рабочих процессах, которые вы уже проверили. Тень больше не является поведенческой, она архитектурная. Сотрудники все еще находятся в картине, но они перешли от использования ИИ к его развертыванию: подключению агентов к системам, к которым у них уже есть доступ, и делают это через интерфейсы, предназначенные для того, чтобы сделать это простым. Политики, написанные для первого поведения, не достигают второго.

Это почему “запретить его” никогда не было реальным дебатом. CISO, которые опередили теневой ИИ, санкционируя корпоративные инструменты и толкая сотрудников к управляемым альтернативам, выиграли этот раунд и обнаружили, что следующий уже начался, и у него есть две ветви, а не одна. Первая – это то, что санкционированные поставщики включают в продукты, уже находящиеся в производстве: встроенные модели, агентные режимы, новые интеграции, которые прибыли в заметке о выпуске, которую никто не прочитал. Вторая – это то, что сотрудники сами подключают: LLM, подключенный к CRM через автоматизацию без кода, Custom GPT, получивший ключ API к хранилищу данных, MCP-соединение с настольного помощника в производственную систему. Оба производят один и тот же результат, который включает агентов, действующих под утвержденными учетными данными, против утвержденных систем, в рабочих процессах, которые никогда не проходили через проверку, предназначенную для их обнаружения. Закупка может увидеть первую ветвь и полностью пропустить вторую.

Стоит быть честным о том, насколько неравномерно первая часть была фактически выиграна. Девять из десяти организаций планируют увеличить бюджет ИТ, связанный с ИИ, многие планируют более широкое расширение по всей операции ИТ в течение следующих 6-24 месяцев. Расходы текут в сторону интеллектуальных возможностей. Контроли догоняют по дюймам. Этот дисбаланс является проблемой, а не побочным эффектом.

Периметр всегда был человеческим

Ментальная модель, которая работала для первой волны, не работает для этой. Теневой ИИ как поведение сотрудников предполагал человека в цикле, принимающего решение, которое команда безопасности могла повлиять. Теневой ИИ как архитектура поставщика удаляет выбор. Модель, которая составила электронное письмо, агент, который запланировал встречу, помощник, который суммировал документ и направил его дальше. Ни один из них не требовал от сотрудника делать что-либо, кроме продолжения использования программного обеспечения, которое им было сказано использовать.

Честный ответ заключается в том, что периметр, который большинство программ безопасности все еще защищают, был периметром человеческого действия. Сотрудники, открывающие инструменты, сотрудники, предоставляющие доступ, сотрудники, принимающие решения, которые команда безопасности могла наблюдать и формировать. Этот периметр растворяется в двух направлениях одновременно. Сверху поставщики включают агентов в утвержденные продукты быстрее, чем любой процесс проверки может поспевать. Снизу сотрудники выходят из роли пользователя и входят в роль интегратора, подключая агентов к системам через интерфейсы, которые были разработаны для самообслуживания и никогда не были инструментированы для управления. Заменяющий периметр, построенный вокруг того, что делают идентификации, независимо от того, являются ли эти идентификации людьми, и независимо от того, кто их развернул, требует ткани контроля, которой большинство организаций еще не имеют.

Единственное место, где можно посмотреть

Идентификация является правильной точкой контроля, но формулировка должна сдвинуться. Традиционная формулировка говорит “идентификация – это новый периметр”, потому что пользователи находятся повсюду, устройства находятся повсюду, и SaaS находится повсюду. Это было правдой decade назад, теперь это данность. Версия, которая имеет значение в 2026 году, другая: идентификация – это единственное место, где можно увидеть, что ИИ фактически делает, потому что к тому времени, когда он это делает, граница инструмента уже была пересечена. Агент действует под чьими-то учетными данными. Чьи, с каким объемом, против какой данных, на чье разрешение – это единственные вопросы, которые производят полезный аудитный след. Управление на уровне инструмента не может ответить на эти вопросы, потому что инструмент больше не является единицей анализа.

Почти 90% лидеров ИТ уже признают, что унификация имеет прямое влияние на их способность реализовывать и масштабировать ИИ безопасно. Более трудный вопрос заключается в том, что унификация на самом деле означает на уровне контроля. Она не может просто означать меньше панелей управления. Она означает единую ткань идентификации, где каждый актор, будь то человек, служебный аккаунт, агент, встроенная модель, назначается, ограничивается, контролируется и удаляется через один и тот же набор механизмов. Все, что меньше этого, дает вам видимость консолидированного управления, когда на самом деле это只是 фрагментированное принуждение.

Ваш обзор поставщика имеет срок годности

К сожалению, обзор поставщика действителен только в течение определенного времени. Это имеет неприятные последствия для структуры программ безопасности. Большинство комитетов по управлению ИИ организованы вокруг обзора инструмента, с поставщиками, которые приходят и проходят оценку, санкционирование или отклонение, чтобы быть добавленными в реестр. Этот процесс предполагает, что поведение инструмента на момент санкции является поведением инструмента в производстве. Для программного обеспечения с встроенным ИИ это предположение разрушено до того, как чернила высохнут. Поставщик будет отправлять новую модель, новый агентный режим, новую интеграцию, и обзор управления, который был утвержден шесть месяцев назад, теперь описывает продукт, который больше не существует.

За пределами инструмента, на идентификацию

Программы, которые будут держаться, – это те, которые перемещают управление с инструмента на идентификацию. Каждое действие против ваших данных, любым актором, можно отнести к идентификации с известным владельцем, ограниченным набором разрешений и определенным сроком жизни. Будь то человек или не-человек, сотрудник или агент, санкционированный инструмент или встроенный режим, вопрос один и тот же: кто это, что им разрешено делать, и как мы знаем, когда это должно перестать быть правдой? Программы, которые могут ответить на эти вопросы, не нуждаются в том, чтобы выиграть гонку санкционирования инструмента. Программы, которые не могут, будут играть в догонялки с поставщиками и сотрудниками, которые отправляют быстрее, чем любой процесс проверки может двигаться.

Теневой ИИ как категория не исчезнет. Особенно с новой эрой агентной рабочей силы, 72% организаций уже имеют ИИ-агенты в производстве. Вместо этого он становится меньшей частью более крупной проблемы. Организации, которые тратят следующий цикл бюджета на открытие инструмента и политику санкционирования, – это те, которые решают проблему 2024 года по графику 2026 года. Те, кто тратит его на инструментирование слоя идентификации для людей, агентов, запутанного континуума между ними, – это те, кто решает проблему, которую они фактически будут иметь.

Первая волна теневого ИИ научила команды безопасности тому, что они не могут обогнать любопытство сотрудников. Вторая волна научит их тому, что они не могут обогнать скорость поставщиков или изобретательность сотрудников. Оба урока указывают на один и тот же вывод. Единица управления никогда не будет инструментом. Это всегда будет идентификация, действующая через него.

Роланд Палмер является главным офицером информационной безопасности (CISO) и вице-президентом по безопасности в JumpCloud.

Признанный эксперт в области масштабирования глобальных рамок риска и соответствия требованиям, Роланд курирует глобальную стратегию безопасности JumpCloud, обеспечивая, чтобы платформа оставалась прочной основой для Интеллектуальной, Безопасной ИТ. С более чем 20-летним опытом, Роланд имеет доказанный послужной список трансформации сложных ландшафтов рисков в осязаемую бизнес-ценность. До присоединения к JumpCloud, он провел восемь лет в качестве вице-президента по безопасности и соответствию требованиям в Sumo Logic, где он построил Глобальный центр безопасности с нуля и достиг критических сертификатов, включая FedRAMP, ISO 27001 и HIPAA.

Роланд известен своим прагматичным, практическим стилем руководства - одинаково комфортно feels как при брифинге Совета директоров, так и при выполнении своих обязанностей в SOC. Он рассматривает безопасность не как препятствие, а как стратегическое преимущество, которое, когда оно интегрируется в ткань продукта, ускоряет рост и способствует глубокому доверию клиентов.