SplxAI zajišťuje 7 milionů dolarů v rámci seed kola, aby řešila rostoucí bezpečnostní hrozby v systémech Agentic AI

Ve velkém kroku směrem k zajištění budoucnosti umělé inteligence, SplxAI, průkopník v oblasti ofenzivní bezpečnosti pro Agentic AI, získal 7 milionů dolarů v rámci seed financování. kolo bylo vedené LAUNCHub Ventures, se strategickou účastí Rain Capital, Inovo, Runtime Ventures, DNV Ventures, a South Central Ventures. Nový kapitál urychlí vývoj SplxAI Platform, který je navržen tak, aby chránil organizace, které nasazují pokročilé AI agenty a aplikace.

Jak podniky stále více integrují umělou inteligenci do denních operací, hrozba se rychle vyvíjí. Do roku 2028 se předpokládá, že 33 % podnikových aplikací bude zahrnovat agentic AI — systémy umělé inteligence schopné autonomního rozhodování a komplexní úkoly. Ale tato změna přináší s sebou také značně rozšířenou útočnou plochu, se kterou tradiční nástroje kybernetické bezpečnosti nejsou schopny účinně bojovat.

„Nasazení AI agentů ve velkém měřítku zavádí značnou složitost,“ řekl Kristian Kamber, CEO a spoluzakladatel SplxAI. „Ruční testování není v tomto prostředí proveditelné. Naše platforma je jediným škálovatelným řešením pro zajištění agentic AI.“

Co je Agentic AI a proč je bezpečnostním rizikem?

Na rozdíl od konvenčních AI asistentů, kteří reagují na přímé podněty, agentic AI se týká systémů schopných provádět vícekrokové úkoly autonomně. Myslete na AI agenty, kteří mohou plánovat schůzky, rezervovat cestování nebo spravovat pracovní postupy — vše bez pokračující lidské vstupní informace. Tato autonomie, ačkoli je mocná, zavádí vážná rizika, včetně injekcí podnětů, odpovědí mimo téma, úniku kontextu a AI halucinací (falešných nebo zavádějících výstupů).

Navíc většina stávajících ochranných opatření — jako jsou AI zábrany — jsou reaktivní a často nedostatečně vyškolené, což vede k buď příliš restriktivnímu chování, nebo nebezpečné perzistenci. To je místo, kde SplxAI vstupuje do hry.

SplxAI Platform: Red Teaming pro AI ve velkém měřítku

SplxAI Platform poskytuje plně automatizované red teaming pro systémy GenAI, umožňující podnikům provádět kontinuální, reálné testování proniknutí napříč AI poháněnými pracovními postupy. Simuluje sofistikované adversní útoky — ty, které napodobují reálné, vysoce kvalifikované útočníky — napříč několika modalitami, včetně textu, obrázků, hlasu a dokonce i dokumentů.

Některé výjimečné schopnosti zahrnují:

• Dynamická analýza rizik: Kontinuálně zkoumá AI aplikace, aby detekovala zranitelnosti a poskytovala akční informace.

• Testování specifické pro doménu: Přizpůsobuje testování jedinečným používáním každého podniku — od financí po zákaznickou podporu.

• Integrace do CI/CD pipeline: Vkládá bezpečnost přímo do vývojového procesu, aby chyby chytil před produkcí.

• Mapování shody: Automaticky hodnotí shodu s rámci, jako je NIST AI, OWASP LLM Top 10, EU AI Act a ISO 42001.

Tento proaktivní přístup již získává trakci. Zákazníci zahrnují KPMG, Infobip, Brand Engagement Network (BNAI ) a Glean. Od spuštění v srpnu 2024 společnost hlásí 127% růst mezi čtvrtletími.

Investoři podporují vizi AI bezpečnosti

LAUNCHub Ventures’ generální partner Stan Sirakov, který se nyní připojil k představenstvu SplxAI, zdůraznil potřebu škálovatelných řešení AI bezpečnosti: „Jakmile se agentic AI stane normou, stává se i jeho potenciál pro zneužití. SplxAI je jediným dodavatelem s plánem na řízení tohoto rizika ve velkém měřítku.”

Rain Capital’s Dr. Chenxi Wang vyjádřil stejný názor, zdůrazňující důležitost automatizovaného red teamingu pro AI systémy v jejich rané fázi: „SplxAI odbornosti a technologie jej staví do pozice centrálního hráče v zajištění GenAI. Ruční testování již nestačí.”

Nové přírůstky posilují tým

Spolu s financováním SplxAI oznámil dvě strategické nábor:

• Stan Sirakov (LAUNCHub Ventures) se připojil k představenstvu.

• Sandy Dunn, bývalý CISO Brand Engagement Network, nastupuje jako Chief Information Security Officer a povede iniciativu Governance, Risk, and Compliance (GRC) společnosti.

Špičkové nástroje: Agentic Radar a Real-Time Remediation

Kromě základní platformy SplxAI nedávno spustil Agentic Radar — open-source nástroj, který mapuje závislosti v agentic pracovních postupech, identifikuje slabá místa a odhaluje bezpečnostní mezery pomocí statické analýzy kódu.

Zatímco jejich engine pro nápravu nabízí automatizovaný způsob generování zpevněných systémových podnětů, snižuje útočnou plochu o 80 %, zlepšuje prevenci úniku podnětů o 97 % a minimalizuje úsilí inženýrů o 95 %. Tyto systémové podněty jsou kritické pro formování chování AI a pokud jsou vystaveny nebo špatně navrženy, mohou se stát vážnými bezpečnostními riziky.

Simulování reálných hrozeb v 20+ jazycích

SplxAI také podporuje bezpečnostní testování v několika jazycích, čímž se stává globálním řešením pro podnikovou AI bezpečnost. Platforma simuluje škodlivé podněty z obou adversních a benigních typů uživatelů, pomáhajíc podnikům odhalit hrozby, jako jsou:

• Únik kontextu (náhodné zveřejnění citlivých údajů)

• Sociální inženýrství útoky

• Injekce podnětů a jailbreak techniky

• Toxické nebo zkreslené výstupy

Všechno je dodáváno s minimálními falešnými pozitivy, díky jedinečné AI red-teaming inteligenci SplxAI.

Pohled do budoucnosti: Budoucnost zabezpečené AI

Jak podniky závodí, aby integrovaly umělou inteligenci do všeho, od zákaznické podpory po vývoj produktů, potřeba robustní, reálné AI bezpečnosti nikdy nebyla větší. SplxAI vede úsilí, aby se zajistilo, že AI systémy nejsou pouze mocné, ale také důvěryhodné, zabezpečené a v souladu s předpisy.

„Jsme na misi, aby jsme zabezpečili a ochránili GenAI poháněné aplikace,“ dodal Kamber. „Naše platforma umožňuje organizacím pohybovat se rychle, aniž by porušovaly věci — nebo ohrožovaly důvěru.”

S čerstvým kapitálem a hybností SplxAI je připravena stát se základním vrstvou v AI bezpečnostním stacku na roky dopředu.