Джефф Марголис, главный директор по продукту и стратегии в Saviynt – Интервью

Джефф Марголис, главный директор по продукту и стратегии в Saviynt, возглавляет управление продуктами, корпоративную стратегию, технологические партнерства и корпоративное развитие, работая с клиентами, партнерами и командами по всей организации для формирования долгосрочного видения продукта и дорожной карты роста компании. Он имеет более 25 лет опыта в области идентификации и кибербезопасности, ранее занимая должность главного стратегического директора Saviynt и руководя seniornimi позициями в Mandiant, Deloitte и Accenture. В Mandiant он курировал стратегию, стратегические партнерства и корпоративное развитие, а в начале своей карьеры помог создать и масштабировать практику управления идентификацией и доступом в Accenture в глобальную организацию из более 700 профессионалов. Марголис имеет степень бакалавра в области оптической инженерии Университета Рочестера и степень магистра в области электротехники Университета Калифорнии, Беркли.

Saviynt – это компания по безопасности идентификации, работающая на основе искусственного интеллекта, которая помогает предприятиям управлять и обеспечивать безопасность доступа для человеческих пользователей, нечеловеческих идентификаторов, машин, приложений, инфраструктуры и агентов ИИ. Платформа идентификации Saviynt объединяет управление идентификацией, управление привилегированным доступом, управление доступом к приложениям, внешнее управление идентификацией, безопасность нечеловеческих идентификаторов и управление безопасностью идентификации в единой облачной платформе, предназначенной для облачных, локальных, SaaS, IaaS и гибридных сред. Компания все больше позиционирует себя вокруг потребностей эры ИИ, включая инструменты для обеспечения безопасности агентов ИИ, управления рабочими процессами агентов и обеспечения естественно-языковых операций с идентификацией через предложения, такие как Saviynt MCP Server в AWS Marketplace.

Как главный директор по продукту и стратегии, у вас есть возможность наблюдать, как меняются требования к безопасности идентификации на предприятии. Как повлиял рост агентов ИИ на то, как организации должны думать об идентификации, доступе и управлении, и как эти сдвиги повлияли на разработку Agent Access Gateway и Intent-Aware Runtime Authorization в Saviynt?

Агенты ИИ меняют безопасность идентификации, потому что человеческие и машинные идентификаторы работают очень по-разному. Теперь это не только управление людьми, которые входят в приложения. Организации управляют программным обеспечением, которое может рассуждать, принимать решения и действовать автономно в системах. Я думаю об агентах как о следующем поколении приложений. После мейнфреймов, клиент-серверных, веб- и SaaS-приложений мы теперь вступаем в эру агентных приложений.

Основы остаются прежними. Организации должны знать, кто владеет агентом, кто может им пользоваться, какие системы он может доступить, и как его деятельность управляется. Машинные идентификаторы меняют скорость и масштаб. Бизнес-пользователь теперь может создать агент за несколько минут, что означает, что управление должно происходить с той же скоростью. Это и привело нас к разработке Agent Access Gateway и Intent-Aware Runtime Authorization, чтобы помочь предприятиям внедрять агентов с правильными средствами контроля доступа, учета и ограничений с самого начала.

Агенты ИИ быстро переходят из экспериментальной фазы в производственные среды. Как автономные агенты меняют традиционную модель идентификации и доступа, на которую полагались предприятия в течение десятилетий?

Традиционная идентификация и управление доступом были построены вокруг людей и предсказуемого программного обеспечения. Пользователь аутентифицировался, запрашивал доступ и выполнял определенные действия в определенных системах. Мы хорошо понимаем жизненный цикл человеческой идентификации в этом контексте, включая то, как предоставлять доступ. Агенты ИИ вводят другой жизненный цикл. Они могут быть созданы быстро, действовать непрерывно, адаптироваться в рабочих процессах и взаимодействовать с множеством приложений, API и источников данных с гораздо большей автономией.

Основные принципы идентификации все еще применяются: каждая идентификация требует аутентификации, авторизации, управления и учета. Скорость очень khácная. Вместо нескольких корпоративных приложений, построенных центральными командами, организации могут иметь тысячи агентов, созданных бизнес-пользователями. Фактически, 92% руководителей служб информационной безопасности не имеют полной видимости в отношении идентификации ИИ, и 95% сомневаются, что они смогут обнаружить или сдержать злоупотребление, если оно произойдет. Безопасность идентификации должна эволюционировать так, чтобы владение, контроль доступа, одобрения и мониторинг автоматически устанавливались при создании агентов.

Многие организации все еще используют разрешения и средства контроля доступа, которые были разработаны для человеческих сотрудников и традиционных программных приложений. Почему эти подходы недостаточны при работе с агентами ИИ, которые могут рассуждать, адаптироваться и выполнять действия самостоятельно?

Традиционная авторизация обычно задает вопрос: “Разрешено ли этой идентификации выполнять это действие?” Это уже не достаточно для агентов ИИ, потому что агент может технически иметь разрешение на выполнение действия, но все равно действовать вне намерения пользователя.

Например, если пользователь просит агент “очистить” базу данных, агент может интерпретировать это как удаление записей. Он может быть авторизован на удаление этих записей, но это может не быть тем, что имел в виду пользователь. С агентами организации должны оценивать не только, разрешено ли действие, но и соответствует ли оно исходному плану и намерению задачи.

Saviynt недавно представил Intent-Aware Runtime Authorization. Что именно означает “осведомленная о намерении” авторизация, и как она отличается от традиционных моделей аутентификации и авторизации?

Осведомленная о намерении авторизация означает оценку того, соответствуют ли действия агента тому, что человек имел в виду. Каждый агент создается или отправляется для выполнения задачи, и эта задача создает контекст для того, что агент должен и не должен делать.

Традиционная авторизация принимает бинарное решение: разрешено или нет? Осведомленная о намерении авторизация добавляет еще один слой, задавая вопрос, имеет ли действие смысл в контексте исходной задачи. Если агент был отправлен для архивации старых данных, но начинает удалять активные записи, это может быть технически разрешено, но не соответствует намерению пользователя. Цель осведомленной о намерении авторизации в режиме реального времени – управлять действиями агентов на основе контекста задачи, политики и предполагаемых результатов.

Как предприятия могут определить, должен ли агент ИИ быть разрешен для выполнения конкретного действия, даже если он технически имеет разрешение на доступ к основной системе?

Это начинается с планирования. Перед тем, как агент выполнит действие, организации должны определить, что он должен выполнить, какие системы он должен доступить, какие ограничения применяются и какие политики он должен соблюдать. Этот план становится базой для оценки поведения агента.

Ключевой вопрос не только в том, имеет ли агент доступ, но и в том, соответствует ли его действие задаче, для которой он был создан. Многие существующие приложения и API не были разработаны для обеспечения такого уровня контекста, поэтому модель шлюза важна. Agent Access Gateway предоставляет дополнительный контрольный слой для оценки планов и действий, а также для управления избыточными полномочиями или пробелами в устаревших системах.

Одной из самых больших проблем, связанных с агентами ИИ, является то, что они могут действовать в нескольких приложениях и источниках данных за считанные секунды. Какие новые риски это создает для команд безопасности, и какие риски в настоящее время недооцениваются?

Агенты ИИ не всегда создают совершенно новые риски. Во многих случаях они увеличивают вероятность того, что существующие риски будут эксплуатироваться. Если организация уже имеет учетные записи с чрезмерными правами, слабые контроли или системы, которые полагаются на секретность, агенты могут найти и действовать на этих слабостях гораздо быстрее, чем люди, масштабируя риск.

Я иногда сравниваю это с оставлением незапертым заднего входа. Уязвимость уже существует, но вероятность того, что кто-то найдет ее, может быть низкой. Теперь представьте, что агент проверяет каждый задний вход в тысячах сред за секунды. Это почему организации должны сделать основы правильно: знать, какие агенты существуют, понимать, что они могут доступить, ограничивать ненужные разрешения и управлять их деятельностью непрерывно.

Когда предприятия развертывают несколько агентов ИИ в различных отделах, как организации должны управлять тем, кто может взаимодействовать с этими агентами, и какой информацией или системами эти агенты могут доступить?

Полезно думать об агенте ИИ как об приложении. Предприятия уже знают, как управлять приложениями: кто владеет ими, кто может ими пользоваться, какие системы они подключаются к, какие данные они могут доступить, и как этот доступ рассматривается. Те же вопросы применяются и к агентам.

Разница в том, что агенты могут быть созданы за несколько минут бизнес-пользователями, а не за месяцы большими командами разработчиков, и только 5% руководителей служб информационной безопасности чувствуют себя уверенно, что они смогут сдержать скомпрометированный агент ИИ. Управление должно быть встроено в процесс создания, чтобы владение, доступ, одобрения, полномочия и периодические обзоры были установлены с самого начала, а не добавлены после того, как агент уже работает.

Теневый ИИ стал все более серьезной проблемой, поскольку сотрудники принимают инструменты ИИ вне официального надзора ИТ. Как агенты ИИ усиливают эту проблему, и какие практические шаги могут предпринять организации, чтобы вернуть видимость и контроль?

Агенты ИИ усиливают теневый ИИ, потому что они легко создаются и могут действовать в системах. Это не означает, что организации должны пытаться остановить людей от их использования. Продуктивные выгоды реальны, и бизнес будет их преследовать.

Практический ответ – видимость и ограничения. Организации должны знать, какие агенты существуют, кто владеет ими, что они должны делать и какие системы или данные они могут доступить. Каждый агент должен иметь идентификацию, определенные разрешения и постоянный мониторинг. Многие предприятия все еще находятся на ранних стадиях экспериментов, поэтому еще есть время построить управление до того, как принятие агентов достигнет гораздо большего масштаба. Но это время быстро истекает.

Глядя вперед, считаете ли вы, что каждый агент ИИ в конечном итоге потребует своей собственной цифровой идентификации, рамки управления и аудиторской трассировки, подобно человеческим сотрудникам? Как выглядит эта будущая модель?

Каждый агент ИИ должен безусловно иметь свою собственную идентификацию, чтобы организации знали, что это такое, кто владеет им, что он может доступить и что он делает. Человеческие идентификации и нечеловеческие идентификации, включая агентов ИИ, должны управляться через единую модель безопасности идентификации.

Концепции знакомы: аутентификация, авторизация, владение, полномочия, отслеживание деятельности и управление. Что меняется, так это масштаб. Предприятия могут скоро создавать сотни агентов в неделю, в конечном итоге приводя к десяткам тысяч или даже миллионам агентных приложений. Будущее – это применение фундаментальных принципов безопасности идентификации ко всем типам идентификации с гораздо большей скоростью и масштабом. Теперь самое время начать реализацию.

Когда предприятия спешат развертывать агентный ИИ, какие самые распространенные ошибки вы видите, которые совершают организации сегодня, и что должны уделять приоритетное внимание лидеры безопасности и технологий в течение следующих 12-24 месяцев, чтобы обеспечить, что агенты ИИ остаются продуктивными и заслуживающими доверия?

Было бы большой ошибкой оставить безопасность в эту эпоху на волю случая. Продуктивные выгоды, связанные с агентным ИИ, реальны, и организации должны их использовать. Самый большой риск в том, что безопасность и управление не идут в ногу.

В течение следующих 12-24 месяцев лидеры должны сосредоточиться на видимости и фундаментальных принципах управления: поддерживать инвентарь агентов, назначать владение, давать каждому агенту идентификацию, понимать, что он может доступить, и делать управление частью процесса создания. Это возможность построить безопасность в значительный сдвиг платформы с самого начала, а не пытаться доработать ее позже.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Saviynt.