SplxAI Забирает $7M Сид Раунда для Борьбы с Растущими Угрозами Безопасности в Системах Agentic AI

В крупном шаге к обеспечению безопасности будущего ИИ, SplxAI, пионер в области наступательной безопасности для Agentic AI, привлек $7 миллионов в раунде сида. Раунд возглавлял LAUNCHub Ventures, со стратегическим участием Rain Capital, Inovo, Runtime Ventures, DNV Ventures и South Central Ventures. Новая капитал ускорит разработку Платформы SplxAI, предназначенной для защиты организаций, развертывающих передовые агенты ИИ и приложения.

По мере того, как предприятия все чаще интегрируют ИИ в повседневные операции, ландшафт угроз быстро эволюционирует. К 2028 году dự kiến, что 33% корпоративных приложений будут включать агентский ИИ — системы ИИ, способные к автономному принятию решений и выполнению сложных задач. Но этот сдвиг приносит с собой значительно расширенную поверхность атаки, с которой традиционные средства кибербезопасности не могут справиться.

«Развертывание агентов ИИ в масштабе вводит значительную сложность,» сказал Кристиян Камбер, Генеральный директор и сооснователь SplxAI. «Ручное тестирование в этой среде неосуществимо. Наша платформа — единственное масштабируемое решение для обеспечения безопасности агентского ИИ.»

Что такое Agentic AI и почему это риск безопасности?

В отличие от обычных помощников ИИ, которые реагируют на прямые запросы, агентский ИИ относится к системам, способным выполнять многоступенчатые задачи автономно. Думайте об агентах ИИ, которые могут планировать встречи, бронировать путешествия или управлять рабочими процессами — все без постоянного человеческого ввода. Эта автономность, хотя и мощная, вводит серьезные риски, включая инъекции запросов, ответы вне темы, утечку контекста и зрительные обманы ИИ (ложные или вводящие в заблуждение выводы).

Более того, большинство существующих защит — таких как ограждения ИИ — являются реактивными и часто плохо обучены, что приводит к либо чрезмерно ограничительному поведению, либо опасной пермиссивности. Вот где SplxAI вмешивается.

Платформа SplxAI: Красная команда для ИИ в масштабе

Платформа SplxAI обеспечивает полностью автоматизированную красную команду для систем GenAI, позволяя предприятиям проводить непрерывное, реальное проникновение в тестирование по всей рабочей области, управляемой ИИ. Она имитирует сложные адверсарные атаки — те, которые имитируют реальные, высококвалифицированные атаки — по нескольким модальностям, включая текст, изображения, голос и даже документы.

Некоторые выдающиеся возможности включают:

• Динамический анализ рисков: Постоянно зондирует приложения ИИ, чтобы обнаружить уязвимости и предоставить действенные идеи.

• Тестирование, специфичное для области: Адаптирует тестирование к уникальным случаям использования каждой организации — от финансов до обслуживания клиентов.

• Интеграция конвейера CI/CD: Встраивает безопасность直接 в процесс разработки, чтобы обнаружить уязвимости до производства.

• Картографирование соответствия: Автоматически оценивает соответствие таким框WORKам, как NIST AI, OWASP LLM Top 10, EU AI Act и ISO 42001.

Этот проактивный подход уже набирает обороты. Клиенты включают KPMG, Infobip, Brand Engagement Network и Glean. С момента запуска в августе 2024 года компания сообщила о росте на 127% квартал к кварталу.

Инвесторы поддерживают видение безопасности ИИ

LAUNCHub Ventures’ Генеральный партнер Стан Сираков, который теперь присоединяется к совету директоров SplxAI, подчеркнул необходимость масштабируемых решений безопасности ИИ: «По мере того, как агентский ИИ становится нормой, так же становится и его потенциал для злоупотребления. SplxAI — единственный поставщик с планом управления этим риском в масштабе.»

Rain Capital’s Доктор Ченси Ванг эхом повторил это мнение, подчеркнув важность автоматизированной красной команды для систем ИИ на ранней стадии: «Экспертиза и технология SplxAI позиционируют ее как центрального игрока в обеспечении безопасности GenAI. Ручное тестирование просто не работает больше.»

Новые дополнения укрепляют команду

Вместе с финансированием SplxAI объявила о двух стратегических наймах:

• Стан Сираков (LAUNCHub Ventures) присоединяется к Совету директоров.

• Сэнди Данн, бывший CISO Brand Engagement Network, становится Главным информационным офицером безопасности для руководства инициативой компании по Управлению, риску и соответствию (GRC).

Инструменты передового опыта: Agentic Radar и реальное исправление

В дополнение к основной платформе SplxAI недавно запустила Agentic Radar — инструмент с открытым исходным кодом, который картографирует зависимости в рабочих процессах агентского ИИ, выявляет слабые звенья и обнаруживает пробелы в безопасности посредством статического анализа кода.

Тем временем их двигатель исправления предлагает автоматизированный способ генерации укрепленных системных запросов, уменьшая поверхность атаки на 80%, улучшая предотвращение утечки запросов на 97% и минимизируя инженерные усилия на 95%. Эти системные запросы имеют решающее значение в формировании поведения ИИ, и если они будут раскрыты или плохо спроектированы, они могут стать серьезными рисками безопасности.

Имитация реальных угроз на 20+ языках

SplxAI также поддерживает многоязычное тестирование безопасности, что делает ее глобальным решением для безопасности ИИ предприятий. Платформа имитирует злонамеренные запросы как от адверсарных, так и от доброжелательных типов пользователей, помогая организациям обнаружить угрозы, такие как:

• Утечка контекста (случайное раскрытие конфиденциальной информации)

• Социальная инженерия атак

• Инъекция запросов и побег из тюрьмы методов

• Токсичные или предвзятые выводы

Все это предоставляется с минимальным количеством ложных положительных результатов, благодаря уникальному интеллекту красной команды ИИ от SplxAI.

Взгляд в будущее: Будущее безопасного ИИ

По мере того, как бизнесы спешат интегрировать ИИ во все, от обслуживания клиентов до разработки продукта, необходимость в прочной, реальной безопасности ИИ никогда не была более актуальной. SplxAI возглавляет движение, чтобы обеспечить, что системы ИИ не только мощные, но и заслуживающие доверия, безопасные и соответствующие.

«Мы на миссии по обеспечению безопасности и защите приложений, работающих на GenAI,» добавил Камбер. «Наша платформа позволяет организациям двигаться быстро, не ломая вещи — или компрометируя доверие.»

С свежей капиталом и импульсом SplxAI готова стать фундаментальным слоем в стеке безопасности ИИ в течение многих лет.