Zenity привлекла $125 миллионов для противодействия безопасности рисков автономных ИИ-агентов

Zenity привлекла $125 миллионов в рамках финансирования серии C как бизнес переходит от экспериментов с искусственным интеллектом к автономным системам, которые могут получить доступ к данным, вызывать программные инструменты и выполнять операционные задачи.

Раунд возглавила компания Norwest, в которую также вошли новые инвесторы Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures и LG Technology Ventures. Также участвовали существующие инвесторы Vertex Ventures, Third Point Ventures, DTCP и Intel Capital. Компания не раскрыла свою стоимость.

Финансирование последовало за финансированием серии B в размере $38 миллионов в октябре 2024 года и увеличивает общую сумму финансирования компании до не менее $180 миллионов.

От экспериментов с ИИ к автономным системам

Размер раунда отражает более широкую тенденцию в том, как компании принимают ИИ. Первая волна генеративного ИИ в основном включала взаимодействие сотрудников с чат-ботами для создания текста, суммирования документов или извлечения информации.

ИИ-агенты вводят другой уровень риска, поскольку они могут совершать действия. В зависимости от их разрешений, агенты могут получить доступ к внутренним базам данных, вызывать интерфейсы программирования приложений, обновлять записи, выполнять код, отправлять сообщения или инициировать рабочие процессы, охватывающие несколько корпоративных систем.

Это меняет проблему безопасности за пределами того, производит ли модель неуместный ответ. Организации также должны понимать, какие агенты были развернуты, кто их контролирует, какую информацию они могут получить и какие действия они уполномочены выполнять.

Агент может вести себя точно так, как он был спроектирован, и все же создавать инцидент безопасности, если у него есть чрезмерные разрешения, он встречает манипулированную информацию или интерпретирует инструкции атакующего как часть законного задания.

Zenity описывает это как проблему “агентного слоя”. Ее платформа предназначена для изучения конфигурации агента, разрешений, подключенных инструментов, памяти и действий во время выполнения, а не только для изучения входных данных, поступающих в модель, или ответов, которые она генерирует.

Как Zenity защищает ИИ-агентов

Zenity делит свою платформу на три основных направления: наблюдаемость, управление безопасностью и обнаружение и реагирование.

Компонент наблюдаемости обнаруживает и инвентаризирует агентов, работающих в организации. Это включает агентов, встроенные в платформы программного обеспечения как услугу, внутренне разработанные агенты, работающие в облачных средах, и локальные инструменты, установленные на устройствах сотрудников.

Цель – дать командам безопасности постоянно обновляемую картину каждого агента, включая его владельца, конфигурацию, разрешения, интеграции и поведение во время выполнения. Это становится все более важным, поскольку отдельные отделы и сотрудники получают возможность создавать агентов без прохождения традиционного процесса разработки программного обеспечения или проверки безопасности.

Слой управления безопасностью оценивает конфигурации и разрешения до того, как агент будет введен в эксплуатацию. Политики могут быть использованы для выявления чрезмерного доступа, не защищенных интеграций или инструментов, которые могут позволить агенту работать за пределами его предполагаемой роли. Платформа может продолжать проверять эти контроли, когда агенты изменяются со временем.

Во время выполнения Zenity анализирует путь выполнения агента, включая его вызовы инструментов, доступ к памяти, использование данных и взаимодействие с другими системами. Компания утверждает, что она может использовать этот контекст для разрешения, изменения или блокирования действия до его возникновения.

Покрытие SaaS, облачных и устройств сотрудников

Zenity пытается предоставить общий слой безопасности в фрагментированной экосистеме агентов.

Для сред программного обеспечения как услуги она поддерживает агентов, связанных с платформами, такими как Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise и Salesforce (CRM ) Agentforce. Эти системы могут предоставить агентам доступ к бизнес-документам, записям клиентов, коммуникациям и рабочим процессам, которые предприятие не полностью размещает или контролирует.

Платформа также охватывает пользовательские агенты, построенные с помощью сервисов, таких как AWS Bedrock, Azure AI Foundry и Google Vertex AI. Zenity отслеживает, какие инструменты и облачные сервисы эти агенты вызывают, применяя политики во время разработки и выполнения.

Третья область включает агенты, основанные на устройствах, такие как помощники кодирования, настольные приложения и агентные браузеры. Эти инструменты могут работать внутри аутентифицированной среды сотрудника, потенциально наследуя доступ к файлам, сеансам браузера и подключенным сервисам.

Включение этих сред в одну систему может упростить управление, но также создает значительную техническую проблему. Архитектура, разрешения и телеметрия, доступные из программного обеспечения как услуги, могут существенно отличаться от тех, что доступны для пользовательского облачного агента или локально установленного инструмента кодирования.

Исследования безопасности подчеркивают возникающую угрозу

Zenity поддержала разработку своего продукта исследованиями, проведенными через Zenity Labs, которые изучают, как автономные системы могут быть манипулированы через недостоверный контент.

Исследование AgentFlayer изучало цепочки атак с нулевым кликом и одним кликом, включающие широко используемые корпоративные платформы ИИ. Демонстрации включали сценарии, в которых вредоносные инструкции, доставленные по электронной почте, документам, случаям поддержки или инструментам сотрудничества, вызывали у агентов раскрытие информации, неправильное использование подключенных инструментов или изменение их ответов.

Более недавние исследования изучали агентный браузер Perplexity Comet. Исследователи Zenity продемонстрировали, как скрытые инструкции внутри приглашения на календарь могли влиять на браузер, пока он выполнял рутинную задачу. В одном сценарии скомпрометированный агент ориентировался в незаблокированном веб-хранилище 1Password и передавал учетные данные через обычные веб-запросы.

Исследование приписало эту проблему недостаточной разделению между намерениями пользователя и контентом третьих сторон, встреченным агентом. Поскольку агент уже работал в аутентифицированной сессии браузера, он потенциально мог использовать доступ, который пользователь законно предоставил.

Эти демонстрации иллюстрируют, почему безопасность агентов не может полагаться исключительно на обнаружение очевидно вредоносных запросов. Инструкции могут быть погребены внутри данных, которые агент ожидается прочитать, а результирующие действия могут походить на нормальное просмотр, извлечение документов или активность приложения.

Они также подчеркивают важность границ, которые остаются принудительными, даже когда рассуждение агента было манипулировано.

Финансирование глобального расширения и разработки продукта

Zenity утверждает, что ее доход увеличился в три раза за каждый из последних двух лет и, как ожидается, увеличится в три раза в этом году. Компания сообщает, что многие из ее клиентов являются организациями Fortune 500 и Global 2000, работающими в регулируемых отраслях, таких как финансовые услуги, здравоохранение, фармацевтика, производство и энергетика.

В настоящее время у нее более 230 сотрудников, с центром исследований и разработки в Тель-Авиве и функциями вывода на рынок и операционным руководством, возглавляемым из Нью-Йорка.

Финансирование серии C будет использовано для ускорения разработки продукта, расширения Zenity Labs и укрепления присутствия компании в Европе и регионе Азия-Тихий океан. Это также даст Zenity дополнительные ресурсы для поддержки растущего числа фреймворков агентов, поскольку инфраструктура корпоративного ИИ становится более разнообразной.

Это расширение происходит менее чем через два года после предыдущего раунда институционального финансирования, когда Zenity еще подчеркивала свои истоки в области безопасности низкокодовых и безкодовых приложений. Ее текущая позиция отражает, как эти ранние проблемы эволюционировали: сотрудники, которые могли когда-то создавать простые бизнес-приложения, теперь могут создавать агентов, способных принимать решения и работать с подключенными системами.

Безопасность ИИ-агентов становится отдельной категорией

Сбор средств Zenity сигнализирует об уверенности инвесторов в том, что безопасность ИИ-агентов может развиться в значительную категорию кибербезопасности, а не остаться функцией в существующих облачных, идентификационных или конечных продуктах.

Аргумент в пользу выделенной категории заключается в том, что традиционные инструменты обычно видят только часть активности агента. Платформы облачной безопасности могут проверять инфраструктуру, системы идентификации могут управлять разрешениями, а продукты конечных точек могут обнаруживать угрозы на уровне операционной системы. Они не обязательно понимают предполагаемую роль агента или то, как цепочка вызовов инструментов связана с исходной целью пользователя.

Zenity все еще должна доказать, что ее контроли на основе намерений могут работать на быстро меняющихся фреймворках без создания чрезмерных предупреждений, блокирования законной работы или добавления неприемлемой задержки. Она также должна продемонстрировать, что предприятия будут покупать отдельную платформу безопасности агентов, а не полагаться на контроли, добавленные крупными облачными и программными поставщиками.

Немедленная рыночная возможность, однако, становится все более ясной. Когда агенты получают доступ к конфиденциальным данным и начинают контролировать значимые бизнес-процессы, организации будут нуждаться в чем-то большем, чем запись того, что произошло после инцидента. Им понадобятся механизмы, способные определять, какие агенты существуют, ограничивать то, что они могут сделать, и вмешиваться до того, как непреднамеренное действие станет нарушением.

Zenity’s $125 миллионов финансирования серии C дает компании значительные ресурсы для преследования этой роли, поскольку команды безопасности готовятся к корпоративной среде, все больше заселенной автономным программным обеспечением.