Вибхути Синха, главный директор по продуктам в Saviynt – Интервью

Вибхути Синха, главный директор по продуктам в Saviynt, возглавляет видение, инновации и стратегическое направление портфеля идентификации и интеллекта компании, а также курирует успех продукта и партнеров. С почти двумя десятилетиями опыта в области управления идентификацией и доступом (IAM), он сыграл центральную роль в формировании крупномасштабных архитектур безопасности для организаций Fortune 500. До своей текущей должности он занимал пост главного директора по облачным технологиям в Saviynt, где он руководил разработкой следующего поколения облачных решений безопасности, предназначенных для защиты сложных многооблачных сред. Его экспертиза охватывает такие области, как рамки соответствия требованиям, такие как FFIEC, риск-ориентированная аутентификация и управление жизненным циклом доступа, что ставит его на пересечении безопасности предприятия, облачной инфраструктуры и управления идентификацией на основе ИИ.

Saviynt – это облачная платформа безопасности идентификации, ориентированная на помощь предприятиям в управлении и обеспечении безопасности доступа для пользователей, приложений, данных и все чаще для систем ИИ. Ее флагманский продукт, Identity Cloud, предоставляет унифицированное управление идентификацией и администрированием (IGA), управление привилегированным доступом и управление доступом к приложениям в рамках одной платформы, что позволяет организациям обеспечивать безопасность, соответствие требованиям и принципы Zero Trust в масштабе. Платформа использует ИИ для автоматизации решений об доступе, мониторинга рисков и управления не только человеческими пользователями, но и нечеловеческими идентификаторами, такими как учетные записи служб и агенты ИИ, отражая растущую сложность современных корпоративных сред. Консолидируя безопасность идентификации в один слой управления, Saviynt стремится сократить операционные расходы, одновременно повышая видимость и соответствие требованиям в облаке, гибридных и локальных системах.

Вы провели более десяти лет в Saviynt, помогая компании вырасти от раннего облачного фокуса до глобальной платформы безопасности идентификации. Как это путешествие сформировало ваше представление об идентификации как основе для обеспечения безопасности предприятий, управляемых ИИ?

Когда я присоединился к Saviynt, идентификация не была чем-то, о чем говорили большинство советов директоров или генеральных директоров. Она часто рассматривалась как обеспечение учетных записей и выполнение сертификаций. За годы, когда компании перешли в облако и SaaS взорвалась, идентификация тихо стала слоем, который соединял все: людей, приложения, инфраструктуру и данные.

Быть частью этого пути изменило мое представление. Я начал видеть идентификацию не как категорию продукта, а как слой управления, который определяет, как фактически работает компания. Каждое решение об доступе, каждое одобрение, каждый автоматизированный процесс – все это в конечном итоге сводится к идентификации.

Теперь с ИИ мы наблюдаем тот же сдвиг снова. Агенты ИИ по сути являются цифровыми работниками, которые могут действовать от имени людей или бизнеса. Если вы не даете им идентификацию, собственность и управление, вы получаете автоматизацию без ответственности. Вот почему я считаю, что идентификация будет основой для обеспечения безопасности предприятий, управляемых ИИ. Идентификация – это то, что приносит ответственность, управление и контроль автономным системам.

Saviynt запускает специальную контрольную плоскость идентификации для агентов ИИ. С точки зрения корпоративной перспективы, какой пробел в сегодняшних архитектурах идентификации и безопасности привел к этому решению?

Текущие инструменты идентификации и безопасности не были разработаны для автономных акторов. Они были разработаны для сотрудников и приложений, а не для программных сущностей, которые могут принимать решения, выполнять действия и работать самостоятельно.

Большинство систем идентификации сегодня очень хорошо отвечают на вопросы “Кто вы?” и “Какой доступ был вам предоставлен?” Но в мире агентов ИИ более важным становится вопрос “Что вы делаете сейчас, и должны ли вы это делать?”

Также существовал пробел в управлении. Компании начинают развертывать сотни или тысячи агентов на платформах, таких как Copilot, Vertex AI и Bedrock, но многие организации не знают, сколько агентов у них есть, где они работают, какие данные они могут получить доступ, или что происходит, если владелец покидает компанию. Это создает не только проблему безопасности, но и проблему управления и ответственности.

Это действительно то, что привело нас к идее контрольной плоскости идентификации для агентов ИИ: централизованному способу обнаружения, управления, контроля и аудита идентификации ИИ на протяжении всего их жизненного цикла и runtime-действий.

Как управление автономными агентами ИИ отличается от управления традиционными нечеловеческими идентификаторами, такими как учетные записи служб или боты?

Управление агентами ИИ очень отличается от управления традиционными нечеловеческими идентификаторами (НХИ), потому что эти идентификаторы обычно детерминированы и предсказуемы. Учетная запись службы выполняет определённую задачу. Бот выполняет определённое действие. Их поведение не меняется, если только кто-то не изменит код.

Агенты ИИ отличаются, потому что они автономны, адаптивны и ориентированы на цель. Они не просто выполняют фиксированный сценарий. Эти агенты решают, как выполнить задачу, какие инструменты использовать, какие данные получить доступ, и иногда даже с какими другими агентами сотрудничать. Их поведение может меняться со временем, когда меняются модели, подсказки или интеграции.

Это означает, что обеспечение доступа один раз и проверка его каждые несколько месяцев не является устойчивой моделью управления. Вам нужен непрерывный контроль, включая обнаружение, владение, управление жизненным циклом и, самое главное, runtime-контроли для оценки того, что агент делает в данный момент.

Сдвиг в том, что с традиционными НХИ вы управляете доступом. С агентами ИИ вам необходимо управлять поведением и действиями в реальном времени. Авторизация не подразумевает уместность. Безопасность ИИ будет построена на этой идее.

Когда предприятия принимают инструменты, такие как Amazon Bedrock, Google Vertex AI и Microsoft Copilot Studio, насколько важно иметь унифицированную видимость на протяжении этих сред?

Вы не можете защитить то, чего не видите.

Унифицированная видимость на протяжении платформ, таких как Amazon Bedrock, Google Vertex AI и Microsoft Copilot Studio, крайне важна, и, честно говоря, это то, с чем борются большинство организаций сейчас. Принятие ИИ происходит очень быстро, и оно происходит одновременно на нескольких платформах.

Одна бизнес-единица или команда может создавать агентов в Copilot Studio, другая команда экспериментирует с Bedrock, а другая группа использует Vertex AI. Очень быстро вы получаете агентов ИИ, разбросанных по всему предприятию, без центрального инвентаря.

Первый вызов, с которым сталкиваются компании, очень прост: они не знают, сколько агентов ИИ у них есть, где они работают, какие данные они могут получить доступ, или кто их владеет. Без видимости вы не можете управлять, и если вы не можете управлять, вы определенно не можете обеспечить безопасность.

Унифицированная видимость становится основой. До управления жизненным циклом, до runtime-контроля, до политики первым шагом является обнаружение и инвентаризация на всех платформах ИИ. В мире ИИ видимость является операционным, безопасным и требованием управления.

Что представляет собой полный жизненный цикл агента ИИ с точки зрения идентификации и управления, от создания до вывода из эксплуатации?

Мне нравится объяснять жизненный цикл агента ИИ так же, как мы объясняем жизненный цикл сотрудника.

Сначала агент создается и настраивается. Кто-то (разработчик, кодер или бизнес-аналитик) создает агента в Bedrock или Copilot Studio. На этом этапе мы должны задать основные вопросы об идентификации: Кто владеет этим агентом? Какова его работа? Какие системы ему нужно получить доступ?

Затем агент начинает работать. Он получает доступ к системам, читает или записывает данные через API, вызывает рабочие процессы и, возможно, даже общается с другими агентами. На этом этапе нам нужно непрерывно отслеживать, что он делает, и убедиться, что он остается в пределах своей предполагаемой цели и разрешений. Мониторинг и понимание намерения является наиболее важным аспектом этого, который еще не хорошо понят организациями.

Со временем агент меняется. Может быть, мы добавляем новые инструменты, обновляем модель, расширяем его доступ или меняем его роль. Это похоже на событие перемещения для человеческой идентификации, и для этого требуется управление и одобрение.

И, наконец, когда агент больше не нужен, его следует утилизировать – доступ должен быть отозван, учетные данные удалены, интеграции закрыты, и журналы аудита сохранены.

В простых терминах жизненный цикл следующий: Создать → назначить владельца и цель → предоставить доступ с минимальными привилегиями → отслеживать и управлять → управлять изменениями → выводить из эксплуатации.

Как организациям следует думать о защите взаимодействий между агентами, когда системы ИИ начинают работать и сотрудничать самостоятельно?

Я думаю, что взаимодействия между агентами станут одной из самых больших проблем безопасности в ближайшие годы.

Сегодня мы в основном беспокоимся о том, должен ли человек иметь доступ к системе. В будущем мы будем иметь тысячи агентов, которые общаются с другими агентами, запускают рабочие процессы, получают доступ к данным и принимают решения без участия человека.

Риск не только в том, что может сделать один агент, но и в том, что могут сделать вместе несколько агентов. Вы можете столкнуться с ситуациями, когда ни один агент не имеет слишком много доступа, но когда они сотрудничают, они могут выполнять очень мощные действия.

Организациям необходимо учитывать несколько вещей:

• Каждый агент должен иметь уникальную идентификацию.
• Контроли безопасности на этапе разработки не достаточны. Runtime-ограничения являются обязательными.
• Вызовы агентов ИИ должны быть аутентифицированы.
• Действия должны быть авторизованы в реальном времени.
• Делегирование должно быть ограничено по объему и времени.
• Все должно быть записано для аудита.

Во многих отношениях мы переходим к совершенно другой модели безопасности: от управления доступом человека к управлению сотрудничеством машин в беспрецедентном масштабе.

Каковы наиболее непосредственные риски, с которыми сталкиваются компании сегодня, когда они развертывают агентов ИИ без надлежащего управления идентификацией?

Самый большой риск сейчас не какой-то футуристический сценарий захвата ИИ. Это гораздо более базово, и это уже происходит в большинстве организаций, экспериментирующих с агентами ИИ. Компании создают агентов повсюду, но у них нет централизованного способа отслеживать их, управлять ими или контролировать, к чему они могут получить доступ.

Принятие было приоритетом до сих пор, и это понятно. Каждая новая технология проходит через эту фазу, но безопасность и управление должны быстро догнать.

Если не так, предприятия рискуют иметь агентов без ясных владельцев и с слишком большим количеством данных. Эти агенты могут утечь конфиденциальную информацию и продолжать работать после завершения проекта – все без яского аудиторского следа.

Мы видели это раньше с учетными записями служб и облачными ресурсами. Сначала происходит принятие, затем происходит разрастание, затем возникают проблемы безопасности и управления. ИИ следует тому же шаблону, только гораздо быстрее и с большей автономией и агентностью.

Без управления идентификацией агенты ИИ по сути становятся неуправляемыми привилегированными идентификаторами. Это рискованно для любой организации. Это не инновации, а дополнительный институциональный риск.

Как подъем агентов ИИ меняет определение идентификации внутри корпоративных систем?

Я думаю, что определение идентификации внутри предприятий расширяется значительным образом. Раньше это были в основном сотрудники, затем оно расширилось до внешних идентификаторов с взрывом цепочки поставок, удаленных работников и т. д. Пандемия ускорила это еще больше, когда мы начали управлять учетными записями служб и ботами как нечеловеческими идентификаторами. Теперь агенты ИИ ведут это еще на один шаг вперед.

Агенты ИИ не являются просто учетными записями или сценариями. Они принимают решения, получают доступ к системам, генерируют контент, запускают рабочие процессы и сотрудничают с другими агентами. Они затрагивают ваши данные, принимают решения и меняют результаты. Они начинают вести себя более как цифровые работники, чем как программные учетные записи.

Это означает, что идентификация теперь не только о том, кто может войти в систему. Это о том, кто или что действует внутри предприятия, что они могут делать, кто их владеет, и как мы отслеживаем и управляем их действиями.

Идентификация эволюционирует от представления пользователя к представлению любого актора – человеческого или машинного – который может совершать действия и менять результаты внутри организации.

Когда вы оцениваете основателей или команды, строящие в области безопасности ИИ или идентификации, какие сигналы указывают на то, что они действительно понимают сложность этой области?

Те, кто действительно понимает эту область, не начинают с технологии. Они начинают с проблемы. Они могут артикулировать не только то, что они строят, но и почему текущий подход сломан и кто теряет сон из-за этого.

Сигнал для меня – конкретность. Любой может сказать “ИИ вводит новые риски идентификации”. Но могут ли они пройти с вами через то, как токен OAuth неправильно используется в рабочем процессе агента? Понимают ли они, почему нечеловеческие идентификаторы фундаментально отличаются от человеческих, не только по объему, но и по поведению, жизненному циклу и радиусу действия?

Я также обращаю внимание на то, как они говорят о клиентах. Лучшие основатели в этой области обычно сами пережили боль как руководитель службы безопасности, архитектор, руководитель соответствия требованиям или провели так много времени с практиками, что могут почти закончить их предложения. Они не продают категорию. Они решают конкретную, сложную проблему, которую они действительно не могли перестать думать.

И затем есть регуляторная и экосистемная грамотность. Идентификация и безопасность ИИ не существуют в вакууме. Основатели, которые меня больше всего впечатляют, понимают, как их продукт вписывается в более широкую структуру соответствия требованиям – NIST, SOC 2, возникающие рамки управления ИИ – и они много думали о том, где они подключаются к стеку, а где они владеют им.

Для меня красные флаги – команды, которые просто преследуют нарратив ИИ. Они могут описать рынок красиво, но когда вы толкаете их на конкретные детали, нарратив ослабевает.

Считаете ли вы, что идентификация станет основным слоем управления для систем ИИ так же, как безопасность сети когда-то определяла границы предприятия, и как должны готовиться команды безопасности к этому сдвигу?

Да, и я думаю, что мы ближе к этому переломному моменту, чем многие команды безопасности осознают.

Периметр сети имел смысл, когда активы были физическими, такие как серверы в центре данных, сотрудники в офисе или трафик на краю. Но облако разрушило эту границу, и мы полагались на идентификацию, чтобы заполнить пробел. Zero Trust не был просто маркетинговым термином; это было признание того, что периметр исчез, и что идентификация имеет значение больше, чем когда-либо.

Агенты ИИ вот-вот повлияют на идентификацию так же, как облако повлияло на сеть. Эти системы получают доступ к ресурсам, принимают решения, вызывают API, запускают действия через инструменты и платформы и делают все это автономно на скорости машины. Вопрос “разрешено ли это?” больше не может быть ответом на уровне брандмауэра. Он должен быть ответом на уровне слоя идентификации, в реальном времени, с полным контекстом того, что агент пытается сделать и почему.

Идентификация становится слоем управления. Но это фундаментально более сложная идентификация, чем та, которую мы строили раньше. Это не только аутентификация. Это авторизация, осведомленная о намерении, контексте и цепочке действий, которые агент уже предпринял. Это другая проблема, чем выдача сертификата или ротация учетных данных.

Для команд безопасности подготовка начинается с сдвига мышления. Перестаньте думать о системах ИИ как об приложениях, которые необходимо защитить на периметре, и начните думать о них как о принципалах – сущностях с идентификацией, привилегиями, жизненным циклом, который необходимо управлять от начала до конца. Кто развернул этого агента? Что он разрешено делать? Кто отвечает, когда он делает что-то неожиданное?

Команды, которые опережают это, не будут теми, кто добавляет безопасность ИИ как после мысли. Они будут теми, кто расширяет свою позицию управления идентификацией, чтобы охватить НХИ и агентов ИИ до того, как эти идентификаторы начнут принимать решения.

Спасибо за отличное интервью. Читателям, которые хотят узнать больше, следует посетить Saviynt.