SplxAI zabezpiecza 7 milionów dolarów w rundzie seed, aby rozwiązać rosnące zagrożenia bezpieczeństwa w systemach AI Agentic

W dużym kroku w kierunku zabezpieczenia przyszłości sztucznej inteligencji, SplxAI, pionier w dziedzinie bezpieczeństwa ofensywnego dla AI Agentic, zebrał 7 milionów dolarów w rundzie seed. Rundę tę poprowadziło LAUNCHub Ventures, z udziałem strategicznym Rain Capital, Inovo, Runtime Ventures, DNV Ventures oraz South Central Ventures. Nowy kapitał przyspieszy rozwój platformy SplxAI, zaprojektowanej w celu ochrony organizacji wdrażających zaawansowane agenci AI i aplikacje.

Podczas gdy przedsiębiorstwa coraz częściej integrują sztuczną inteligencję z codziennymi operacjami, krajobraz zagrożeń ewoluuje w szybkim tempie. Do 2028 roku przewiduje się, że 33% aplikacji przedsiębiorstw będzie zawierać agenci AI — systemy sztucznej inteligencji zdolne do podejmowania decyzji autonomicznie i wykonywania złożonych zadań. Jednak ten trend niesie ze sobą ogromnie rozszerzony obszar ataku, z którym tradycyjne narzędzia bezpieczeństwa nie są w stanie sobie poradzić.

„Wdrożenie agentów AI w skali wprowadza znaczącą złożoność”, powiedział Kristian Kamber, dyrektor generalny i współzałożyciel SplxAI. „Ręczne testowanie nie jest wykonalne w tym środowisku. Nasza platforma jest jedynym skalowalnym rozwiązaniem dla zabezpieczenia agenci AI.”

Co to jest AI Agentic i dlaczego stanowi zagrożenie dla bezpieczeństwa?

W przeciwieństwie do konwencjonalnych asystentów AI, którzy reagują na bezpośrednie polecenia, AI Agentic odnosi się do systemów zdolnych do wykonywania zadań wieloetapowych w sposób autonomiczny. Wyobraź sobie agenci AI, którzy mogą zaplanować spotkania, zarezerwować podróż lub zarządzać przepływem pracy — wszystko bez ciągłego wpływu ludzkiego. Ta autonomia, choć potężna, wprowadza poważne ryzyka, w tym wstrzyknięcia poleceń, niewłaściwe odpowiedzi, wyciek kontekstu i halucynacje AI (fałszywe lub mylące dane wyjściowe).

Ponadto, większość istniejących ochron — takich jak barierki AI — jest reaktywna i często słabo wyszkolona, co skutkuje albo zbyt restrykcyjnym zachowaniem, albo niebezpieczną permissywnością. To właśnie tutaj SplxAI wkracza.

Platforma SplxAI: Red Teaming dla AI w skali

Platforma SplxAI dostarcza w pełni zautomatyzowane testowanie penetracyjne dla systemów GenAI, umożliwiając przedsiębiorstwom prowadzenie ciągłych, rzeczywistych testów penetracyjnych w ramach przepływów pracy zasilanych przez AI. Symuluje zaawansowane ataki przeciwnika — tego rodzaju, który naśladuje prawdziwych, wysoko wykwalifikowanych atakujących — w wielu modalnościach, w tym tekst, obrazy, głos i nawet dokumenty.

Niektóre wybitne możliwości obejmują:

• Dynamiczna analiza ryzyka: Ciągle sonduje aplikacje AI w celu wykrycia luk w zabezpieczeniach i zapewnienia przydatnych informacji.

• Testowanie penetracyjne specyficzne dla domeny: Dostosowuje testowanie do unikalnych przypadków użycia każdej organizacji — od finansów do obsługi klienta.

• Integracja z potokiem CI/CD: Wbudowuje bezpieczeństwo bezpośrednio w proces rozwoju, aby wyłapać luki w zabezpieczeniach przed produkcją.

• Mapowanie zgodności: Automatycznie ocenia zgodność z ramami takimi jak NIST AI, OWASP LLM Top 10, EU AI Act i ISO 42001.

Ten proaktywny podejście już zyskuje uznanie. Wśród klientów znajdują się KPMG, Infobip, Brand Engagement Network (BNAI ) i Glean. Od momentu uruchomienia w sierpniu 2024 roku firma odnotowała 127% wzrost kwartal na kwartał.

Inwestorzy popierają wizję bezpieczeństwa AI

LAUNCHub Ventures’ General Partner Stan Sirakov, który teraz dołącza do zarządu SplxAI, podkreślił potrzebę skalowalnych rozwiązań bezpieczeństwa AI: „Gdy AI Agentic staje się normą, tak samo rośnie jego potencjał do nadużyć. SplxAI jest jedynym dostawcą z planem zarządzania tym ryzykiem w skali.”

Rain Capital’s Dr. Chenxi Wang powtórzył tę opinię, podkreślając wagę zautomatyzowanego testowania penetracyjnego systemów AI w ich początkowej fazie: „Ekspertyza i technologia SplxAI pozycjonują ją jako centralnego gracza w zabezpieczaniu GenAI. Ręczne testowanie po prostu nie jest już wystarczające.”

Nowe dodatki wzmacniają zespół

Wraz z finansowaniem SplxAI ogłosił dwa strategiczne zatrudnienia:

• Stan Sirakov (LAUNCHub Ventures) dołącza do Rady Dyrektorów.

• Sandy Dunn, były CISO Brand Engagement Network, obejmuje stanowisko Chief Information Security Officer i będzie kierował inicjatywą Governance, Risk, and Compliance (GRC) w firmie.

Najnowocześniejsze narzędzia: Agentic Radar i remediacja w czasie rzeczywistym

Oprócz platformy podstawowej, SplxAI niedawno uruchomił Agentic Radar — narzędzie open-source, które mapuje zależności w przepływach pracy agenci AI, identyfikuje słabe ogniwa i ujawnia luki w zabezpieczeniach za pomocą statycznej analizy kodu.

Tymczasem ich silnik remediacji oferuje zautomatyzowany sposób generowania wzmocnionych poleceń systemowych, zmniejszając powierzchnię ataku o 80%, poprawiając zapobieganie wyciekowi poleceń o 97% i minimalizując nakład pracy inżynierskiej o 95%. Polecenia systemowe są kluczowe w kształtowaniu zachowania AI i, jeśli są narażone lub źle zaprojektowane, mogą stać się poważnymi zagrożeniami bezpieczeństwa.

Symulowanie realistycznych zagrożeń w 20+ językach

SplxAI obsługuje również testowanie zabezpieczeń w wielu językach, czyniąc go globalnym rozwiązaniem dla bezpieczeństwa AI przedsiębiorstw. Platforma symuluje złe polecenia od zarówno przeciwników, jak i użytkowników o dobrych intencjach, pomagając organizacjom ujawniać zagrożenia takie jak:

• Wyciek kontekstu (niewłaściwe ujawnienie danych wrażliwych)

• Ataki inżynierii społecznej

• Wstrzyknięcie polecenia i techniki jailbreak

• Toksyczne lub tendencyjne dane wyjściowe

Wszystko to jest dostarczane z minimalną ilością fałszywych pozytywów, dzięki unikalnej inteligencji red-teamowej SplxAI.

Spójrzmy w przyszłość: Przyszłość bezpiecznej AI

Podczas gdy firmy rywalizują o integrację AI we wszystko, od obsługi klienta do rozwoju produktu, potrzeba solidnego, rzeczywistego bezpieczeństwa AI nigdy nie była większa. SplxAI prowadzi ład, aby upewnić się, że systemy AI nie są tylko potężne, ale także godne zaufania, bezpieczne i zgodne.

„Jesteśmy na misji, aby zabezpieczyć i chronić aplikacje zasilane przez GenAI,” dodał Kamber. „Nasza platforma umożliwia organizacjom szybkie działanie bez narażania się na ryzyko — lub kompromitowanie zaufania.”

Z nowym kapitałem i impetem SplxAI jest gotowy stać się podstawową warstwą w stosie bezpieczeństwa AI na lata.