SplxAI получила 7 миллионов долларов в рамках раунда финансирования для решения проблем безопасности в агентских системах ИИ

В рамках значительного шага к обеспечению безопасности будущего ИИ, SplxAI, пионер в области наступательной безопасности для агентских ИИ, привлекла 7 миллионов долларов в рамках раунда финансирования. Раунд был возглавлен LAUNCHub Ventures, с участием Rain Capital, Inovo, Runtime Ventures, DNV Ventures и South Central Ventures. Новые средства ускорят разработку платформы SplxAI, предназначенной для защиты организаций, разрабатывающих передовые агентские ИИ и приложения.

По мере того, как предприятия все чаще интегрируют ИИ в повседневную деятельность, ландшафт угроз быстро эволюционирует. К 2028 году, как ожидается, 33% корпоративных приложений будут использовать агентские ИИ — системы ИИ, способные к автономному принятию решений и выполнению сложных задач. Но этот сдвиг также приводит к значительному расширению поверхности атак, с которой традиционные средства кибербезопасности не могут справиться.

«Развертывание агентских ИИ в масштабе вводит значительную сложность», сказал Кристиан Камбер, генеральный директор и сооснователь SplxAI. «Ручное тестирование в этой среде неосуществимо. Наша платформа — единственное масштабируемое решение для обеспечения безопасности агентских ИИ».

Что такое агентские ИИ и почему они представляют собой угрозу безопасности?

В отличие от традиционных помощников ИИ, которые реагируют на прямые запросы, агентские ИИ относятся к системам, способным выполнять многоступенчатые задачи автономно. Подумайте об агентских ИИ, которые могут планировать встречи, бронировать путешествия или управлять рабочими процессами — все без постоянного человеческого вмешательства. Эта автономность, хотя и мощная, вводит серьезные риски, включая инъекции запросов, отклонения от темы, утечку контекста и галлюцинации ИИ (ложные или вводящие в заблуждение выходные данные).

Более того, большинство существующих защит — таких как ограждения ИИ — являются реактивными и часто плохо обученными, что приводит к либо чрезмерно ограничительному поведению, либо опасной перmissivности. Вот где вступает в действие SplxAI.

Платформа SplxAI: красные команды для ИИ в масштабе

Платформа SplxAI обеспечивает полностью автоматизированные красные команды для систем GenAI, позволяя предприятиям проводить непрерывное, реальное тестирование на проникновение в течение рабочих процессов, управляемых ИИ. Она симулирует сложные атакующие атаки — те, которые имитируют реальных, высококвалифицированных атакующих — в нескольких модальностях, включая текст, изображения, голос и даже документы.

Некоторые выдающиеся возможности включают:

• Динамический анализ рисков: непрерывно проверяет приложения ИИ, чтобы обнаружить уязвимости и предоставить действенные сведения.

• Тестирование, специфичное для области: адаптирует тестирование к уникальным случаям использования каждой организации — от финансов до обслуживания клиентов.

• Интеграция с конвейером CI/CD: встраивает безопасность直接 в процесс разработки, чтобы обнаружить уязвимости до производства.

• Сопоставление соответствия: автоматически оценивает соответствие с такими рамками, как NIST AI, OWASP LLM Top 10, EU AI Act и ISO 42001.

Этот проактивный подход уже набирает обороты. Среди клиентов — KPMG, Infobip, Brand Engagement Network (BNAI ) и Glean. С момента запуска в августе 2024 года компания сообщила о росте на 127% по сравнению с предыдущим кварталом.

Инвесторы поддерживают видение безопасности ИИ

LAUNCHub Ventures’ Генеральный партнер Стан Сираков, который теперь присоединяется к совету директоров SplxAI, подчеркнул необходимость масштабируемых решений безопасности ИИ: «По мере того, как агентские ИИ становятся нормой, так же растет и их потенциал для злоупотребления. SplxAI — единственный поставщик с планом управления этим риском в масштабе».

Rain Capital’s Доктор Ченси Ванг подтвердил это мнение, подчеркнув важность автоматизированных красных команд для систем ИИ на ранних этапах: «Экспертиза и технологии SplxAI позиционируют ее как ключевого игрока в обеспечении безопасности GenAI. Ручное тестирование больше не работает».

Новые дополнения укрепляют команду

Вместе с финансированием SplxAI объявила о двух стратегических назначениях:

• Стан Сираков (LAUNCHub Ventures) присоединяется к совету директоров.

• Сэнди Данн, бывший главный информационный директор Brand Engagement Network, становится главным информационным директором безопасности для руководства инициативой компании по управлению, риску и соответствию (GRC).

Передовые инструменты: Agentic Radar и реальное время исправления

Помимо основной платформы, SplxAI недавно запустила Agentic Radar — инструмент с открытым исходным кодом, который отображает зависимости в агентских рабочих процессах, выявляет слабые звенья и обнаруживает пробелы в безопасности с помощью статического анализа кода.

Тем временем, их двигатель исправления предлагает автоматизированный способ генерации укрепленных системных запросов, снижая поверхность атак на 80%, улучшая предотвращение утечки запросов на 97% и минимизируя инженерные усилия на 95%. Эти системные запросы имеют решающее значение в формировании поведения ИИ, и если они раскрыты или плохо спроектированы, могут стать значительными уязвимостями безопасности.

Симуляция реальных угроз на 20+ языках

SplxAI также поддерживает многоязычное тестирование безопасности, что делает ее глобальным решением для безопасности ИИ предприятий. Платформа симулирует злонамеренные запросы как от враждебных, так и от доброжелательных типов пользователей, помогая организациям обнаружить угрозы, такие как:

• Утечка контекста (случайное раскрытие конфиденциальных данных)

• Социальная инженерия атак

• Внедрение запроса и техники побега

• Токсичные или предвзятые выходные данные

Все это обеспечивается с минимальным количеством ложных положительных результатов, благодаря уникальной интеллектуальности красных команд SplxAI.

Взгляд в будущее: Будущее безопасного ИИ

По мере того, как бизнесы спешат интегрировать ИИ во все, от обслуживания клиентов до разработки продукта, необходимость в прочной, реальной безопасности ИИ никогда не была более актуальной. SplxAI лидирует в обеспечении того, чтобы системы ИИ были не только мощными, но и заслуживающими доверия, безопасными и соответствующими.

«Мы на миссии по обеспечению безопасности и защите приложений, работающих на GenAI», добавил Камбер. «Наша платформа позволяет организациям двигаться быстро, не ломая ничего — или не компрометируя доверие».

С свежими средствами и импульсом SplxAI готова стать фундаментальным слоем в стеке безопасности ИИ на годы вперед.