SplxAI zajišťuje 7 milionů dolarů v rámci seed kola, aby řešila rostoucí bezpečnostní hrozby v agentic AI systémech

Ve velkém kroku směrem k zajištění budoucnosti AI, SplxAI, průkopník v oblasti ofenzivní bezpečnosti pro Agentic AI, získal 7 milionů dolarů v rámci seed financování. Kolo bylo vedeno LAUNCHub Ventures, se strategickou účastí Rain Capital, Inovo, Runtime Ventures, DNV Ventures a South Central Ventures. Nová kapitál urychlí vývoj SplxAI Platform, který je navržen tak, aby chránil organizace, které nasazují pokročilé AI agenty a aplikace.

Jak podniky stále více integrují AI do denních operací, hrozba krajiny se rychle vyvíjí. Do roku 2028 se předpokládá, že 33% podnikových aplikací bude zahrnovat agentic AI — AI systémy schopné autonomního rozhodování a komplexní úkoly. Ale tato změna přináší s sebou značně rozšířenou útočnou plochu, kterou tradiční bezpečnostní nástroje nejsou schopny zvládnout.

“Nasazení AI agentů ve velkém měřítku zavádí významnou složitost,” řekl Kristian Kamber, CEO a spoluzakladatel SplxAI. “Ruční testování není proveditelné v tomto prostředí. Naše platforma je jediným škálovatelným řešením pro zajištění agentic AI.”

Co je Agentic AI a proč je bezpečnostním rizikem?

Na rozdíl od konvenčních AI asistentů, kteří reagují na přímé podněty, agentic AI se týká systémů schopných provádět vícekrokové úkoly autonomně. Představte si AI agenty, kteří mohou naplánovat schůzky, rezervovat cestování nebo spravovat pracovní postupy — vše bez pokračujícího lidského vstupu. Tato autonomie, i když je powerful, zavádí vážná rizika, včetně prompt injekcí, off-topic odpovědí, kontextové úniky a AI halucinací (falešné nebo zavádějící výstupy).

Navíc většina stávajících ochran — jako jsou AI guardrails — jsou reaktivní a často špatně trénované, což vede k buď příliš restriktivnímu chování nebo nebezpečné perzistenci. To je místo, kde SplxAI vstupuje do hry.

SplxAI Platform: Red Teaming pro AI ve velkém měřítku

SplxAI Platform dodává plně automatizované red teaming pro GenAI systémy, umožňující podnikům provádět kontinuální, reálné penetrace testování napříč AI-pohonými pracovními postupy. Simuluje sofistikované adversní útoky — ty, které napodobují reálné, vysoce kvalifikované útočníky — napříč několika modality, včetně textu, obrázků, hlasu a dokonce i dokumentů.

Některé výjimečné schopnosti zahrnují:

• Dynamická analýza rizik: Kontinuálně zkoumá AI aplikace, aby zjistila zranitelnosti a poskytla akční přehledy.

• Domain-Specific Pentesting: Přizpůsobuje testování specifickým use-caseům každé organizace — od financí po zákaznickou podporu.

• CI/CD Pipeline Integration: Vkládá bezpečnost přímo do vývojového procesu, aby chyby byly odhaleny před produkcí.

• Mapování shody: Automaticky hodnotí shodu s rámci, jako je NIST AI, OWASP LLM Top 10, EU AI Act a ISO 42001.

Tento proaktivní přístup již získává trakci. Zákazníci zahrnují KPMG, Infobip, Brand Engagement Network a Glean. Od spuštění v srpnu 2024 společnost hlásí 127% růst mezi čtvrtletími.

Investoři podporují vizi AI bezpečnosti

LAUNCHub Ventures’ Generální partner Stan Sirakov, který se nyní připojil k představenstvu SplxAI, zdůraznil potřebu škálovatelných AI bezpečnostních řešení: “Jakmile se agentic AI stane normou, stává se i jeho potenciál pro zneužití. SplxAI je jediným dodavatelem s plánem na řízení tohoto rizika ve velkém měřítku.”

Rain Capital’s Dr. Chenxi Wang vyjádřil stejný názor, zdůrazňující důležitost automatizovaného red teamingu pro AI systémy v jejich rané fázi: “SplxAI odborné znalosti a technologie jej staví do pozice centrálního hráče v zajištění GenAI. Ruční testování již nestačí.”

Nové přírůstky posilují tým

Spolu s financováním SplxAI oznámil dvě strategické náborové:

• Stan Sirakov (LAUNCHub Ventures) se připojil k představenstvu.

• Sandy Dunn, bývalý CISO Brand Engagement Network, nastupuje jako Chief Information Security Officer a povede iniciativu Governance, Risk, and Compliance (GRC) společnosti.

Špičkové nástroje: Agentic Radar a Real-Time Remediation

Kromě jádrové platformy SplxAI nedávno spustil Agentic Radar — open-source nástroj, který mapuje závislosti v agentic pracovních postupech, identifikuje slabá místa a odhaluje bezpečnostní mezery prostřednictvím statické analýzy kódu.

Zatímco jejich remediation engine nabízí automatizovaný způsob generování zpevněných systémových promptů, snižuje útočnou plochu o 80%, zlepšuje prevenci úniku promptů o 97% a minimalizuje úsilí inženýrů o 95%. Tyto systémové prompty jsou kritické pro tvarování chování AI a pokud jsou vystaveny nebo špatně navrženy, mohou se stát významnými bezpečnostními riziky.

Simulace reálných hrozeb v 20+ jazycích

SplxAI také podporuje bezpečnostní testování v několika jazycích, čímž se stává globálním řešením pro podnikovou AI bezpečnost. Platforma simuluje škodlivé prompty z obou adversních a benigních typů uživatelů, pomáhajíc organizacím odhalit hrozby, jako jsou:

• Kontextová únik (nehodné odhalení citlivých dat)

• Sociální inženýrství útoky

• Prompt injekce a jailbreak techniky

• Toxické nebo zkreslené výstupy

Všechno je dodáváno s minimálními falešnými pozitivy, díky SplxAI jedinečné AI red-teaming inteligenci.

Pohled do budoucnosti: Budoucnost zabezpečené AI

Jak podniky závodí, aby integrovaly AI do všeho, od zákaznické podpory po vývoj produktů, potřeba robustní, reálné AI bezpečnosti nikdy nebyla větší. SplxAI vede útok, aby zajistil, že AI systémy jsou nejen powerful — ale důvěryhodné, zabezpečené a v souladu s předpisy.

“Jsme na misi, aby zajistit a ochránit GenAI-poháněné aplikace,” Kamber dodal. “Naše platforma umožňuje organizacím pohybovat se rychle bez lámat věci — nebo ohrožovat důvěru.”

Se свежou kapitálem a hybností, SplxAI je připraven stát se základním vrstvám v AI bezpečnostním stacku na roky dopředu.