Партнёрства
Onyx Security и Glean объединяют усилия для защиты корпоративных ИИ-агентов

Ключевые моментыOnyx и Glean объединяют обнаружение и принудительное применение во время выполнения…
Показать больше
- Onyx и Glean объединяют обнаружение и принудительное применение во время выполнения, чтобы агенты управлялись сверх простых разрешений на извлечение данных.
- Хуки Glean дают Onyx контрольные точки для оценки запросов и предлагаемых выполнений инструментов до того, как действия достигнут бизнес-систем.
- Управление агентами должно оставаться непрерывным, потому что новые коннекторы и возможности могут изменить профиль риска агента после одобрения.
Компания Onyx Security и Glean объявили о партнёрстве, цель которого — помочь предприятиям защищать ИИ-агентов и управлять ими по мере расширения их доступа к корпоративной информации и рабочим инструментам. Интеграция объединяет корпоративную ИИ-платформу Glean с защищённой плоскостью управления ИИ от Onyx, предоставляя единый подход к управлению, который охватывает обнаружение агентов, оценку рисков, применение политик и защиту во время выполнения.
Партнёрство призвано решить практическую задачу корпоративного применения ИИ: агент может иметь разрешение на получение информации, но при этом нуждаться в дополнительных ограничениях на её использование. Рабочий процесс, начинающийся со сбора контекста, может перейти к отправке сообщения, обновлению записи или вызову другого инструмента, поэтому контроль за предполагаемыми действиями становится всё важнее.
«По мере того как ИИ-агенты берутся за более сложные задачи в компаниях, им необходим доступ к нужному контексту и соответствующие меры контроля», — сказал Зубин Ирани, вице-президент по партнёрствам в Glean.
Объединение корпоративного контекста и средств защиты
Glean предоставляет платформу для создания, развёртывания и эксплуатации корпоративных агентов. Её слой контекста предприятия связывает бизнес-приложения и индексирует корпоративную информацию, а корпоративный граф отображает связи между людьми, контентом и действиями. По словам Glean, её экосистема коннекторов охватывает более 275 приложений и источников данных, включая документы, заявки, чаты и код.
Такой контекст помогает агенту связывать информацию из разных корпоративных систем — например, сведения об учётной записи клиента, историю его обращений в службу поддержки и данные о сотрудниках, отвечающих за отношения с ним. При получении информации с учётом разрешений система определяет, к каким данным пользователь может обращаться, пока агент выполняет задачу.
Glean также предлагает собственную основу безопасности. В описании Glean Protect говорится о средствах контроля идентификации пользователей и агентов, разрешений в исходных системах, конфиденциального контента, угроз во время выполнения и соответствия действий заданным целям, а также о событиях аудита, которые можно передавать в системы мониторинга безопасности. Интеграция с Onyx добавляет отдельный уровень корпоративного управления и контроля рисков для агентов Glean и других поддерживаемых ИИ-сред.
Как работает интеграция
Согласно техническому описанию партнёрства от Onyx, для обнаружения агентов используется API Glean, через который считываются их перечень и состояние защищённости. Это позволяет специалистам по безопасности проверять агентов и их доступы, не используя само подключение для обнаружения как механизм выполнения действий агентами.
Для контроля во время выполнения используется другой механизм: хуки Glean обеспечивают поддерживаемые контрольные точки, в которых Onyx может проверять содержимое диалогов и предлагаемые вызовы инструментов на соответствие корпоративным политикам. Средства контроля оценивают запросы, ответы и действия агентов, чтобы блокировать небезопасные запросы и направлять непреднамеренное поведение обратно к разрешённой задаче.
Например, доступ к внутренним данным об учётной записи может быть уместен при подготовке к встрече с клиентом, тогда как отправка конфиденциальных ценовых сведений за пределы компании может нарушать политику. Контрольная точка перед выполнением действия позволяет средству защиты оценить предполагаемое раскрытие данных до того, как инструмент его осуществит.
Различие между получением данных и разрешением на их использование — ключевой аспект партнёрства. Оно также связано с более широкой задачей защиты агентов от инструкций, встроенных во внешний контент, когда документ или ответ инструмента может попытаться перенаправить в другое русло рабочий процесс, который в остальном выполняется правомерно.
Управление, которое адаптируется к изменениям агентов
Интеграция призвана сделать управление агентами непрерывным процессом. Специалисты по безопасности могут обнаруживать агентов Glean, выяснять, к чему они имеют доступ и что умеют, определять ответственных за них и их бизнес-цели, а также присваивать им категории риска. Эти сведения можно использовать при разработке корпоративных политик управления ИИ и обеспечения соответствия требованиям.
Постоянная оценка охватывает изменения разрешений, инструментов и доступа к данным. Это важно, поскольку агент, одобренный для одного рабочего процесса, позднее может получить новый коннектор или дополнительные возможности, из-за чего изменится его профиль риска, даже если его название и ответственный за него останутся прежними. Централизованные аудиторские данные позволяют расследовать действия и проверять, как применялись политики.
«По мере расширения доступа и автономности агентов специалистам по безопасности необходимо видеть, что агенты могут делать, и контролировать их действия», — сказал Гил Элбаз, сооснователь и директор по ИИ в Onyx Security. «Объединив корпоративный контекст Glean с плоскостью управления безопасностью Onyx, клиенты смогут последовательно и уверенно контролировать активность агентов во всей своей ИИ-среде».
Расширенная плоскость управления корпоративным ИИ
Onyx предлагает использовать защищённую плоскость управления ИИ для контроля приложений SaaS, облачных сервисов, конечных устройств и пользовательского кода. Платформа объединяет наблюдение за агентами, управление состоянием защищённости, управление и средства защиты во время выполнения. Компания также предлагает воспроизведение сеансов и журналы аудита для расследований, управление политиками на естественном языке и интеграцию с системами управления информацией и событиями безопасности, а также с системами оркестрации безопасности.
Onyx также предлагает шлюзовые возможности для трафика ИИ и протокола Model Context Protocol, а также надзорного агента Guardian Agent, предназначенного для выявления рисков и устранения проблем на платформе компании. Эти более широкие возможности объясняют роль компании в партнерстве: интегрировать активность в Glean в систему контроля, которую команды по безопасности могут использовать для работы с несколькими системами ИИ.
Интеграция указана в каталоге коннекторов Glean как бета-версия. В заявленный перечень возможностей входят учет агентов, управление уровнем защищенности, мониторинг во время выполнения и контроль запросов, ответов моделей и выполнения инструментов. Применение мер контроля во время выполнения зависит от наличия поддерживаемых контрольных точек, поэтому охват конкретного рабочего процесса важно учитывать при планировании развертывания.
Для предприятий, расширяющих использование агентов в разных подразделениях, партнерство позволяет связать полезный бизнес-контекст с подотчетной эксплуатацией. Практическая ценность этого решения будет зависеть от того, насколько актуальным остается реестр агентов, учитываются ли сведения об ответственных и решения по рискам в политиках, действующих во время выполнения, и применяются ли эти политики в точках, где агенты могут влиять на бизнес-системы.












