SplxAI sikrer $7M seed-runde for at tackle growing sikkerhedsrisici i Agentic AI-systemer

I et stort skridt mod at sikre fremtiden for AI, SplxAI, en pioner inden for offensiv sikkerhed for Agentic AI, har sikret $7 millioner i seed-finansiering. Runden blev ledet af LAUNCHub Ventures, med strategisk deltagelse fra Rain Capital, Inovo, Runtime Ventures, DNV Ventures og South Central Ventures. Den nye kapital vil accelerere udviklingen af SplxAI Platformen, der er designet til at beskytte organisationer, der implementerer avancerede AI-agenter og -applikationer.

Da virksomhederne i stigende grad integrerer AI i deres daglige operationer, udvikler trusselslandskabet sig hurtigt. Ifølge prognoser vil 33% af virksomhedsapplikationer i 2028 inkludere agentic AI — AI-systemer, der kan træffe selvstændige beslutninger og udføre komplekse opgaver. Men denne udvikling medfører også en væsentligt udvidet angrebsflade, som traditionelle sikkerhedsværktøjer ikke er i stand til at håndtere.

“At implementere AI-agenter i stor skala introducerer betydelig kompleksitet,” sagde Kristian Kamber, CEO og medstifter af SplxAI. “Manuel testning er ikke mulig i denne sammenhæng. Vores platform er den eneste skalerbare løsning for at sikre agentic AI.”

Hvad er Agentic AI, og hvorfor er det en sikkerhedsrisiko?

I modsætning til konventionelle AI-assistenter, der reagerer på direkte kommandoer, refererer agentic AI til systemer, der kan udføre multi-step-opgaver selvstændigt. Tænk på AI-agenter, der kan planlægge møder, booke rejser eller styre arbejdsgange — alt uden fortsat menneskelig indput. Denne autonomi er kraftfuld, men introducerer også alvorlige risici, herunder prompt-injektioner, afledt svar, kontekst-lækage og AI-hallucinationer (falske eller misvisende output).

Desuden er de fleste eksisterende beskyttelser — såsom AI-guards — reaktive og ofte dårligt trænet, hvilket resulterer i enten for restriktivt adfærd eller farlig tillængelighed. Det er her, SplxAI kommer ind i billedet.

SplxAI-platformen: Red teaming for AI i stor skala

SplxAI-platformen leverer fuldt automatiseret red teaming for GenAI-systemer, hvilket ermöglicher virksomhederne at udføre kontinuerlig, realtids-penetrationstestning af AI-drevne arbejdsgange. Den simulerer sofistikerede adversarial-angreb — den type, der ligner virkelige, højt specialiserede angribere — på tværs af multiple modaliteter, herunder tekst, billeder, lyd og selv dokumenter.

Nogle fremhævede funktioner inkluderer:

• Dynamisk risikoanalyse: Kontinuerligt tester AI-applikationer for at opdage sårbarheder og give handlingsorienteret indsigt.

• Domænespecifik penetrationstest: Tilpasser testningen til den enkelte organisations unikke brugsområder — fra finans til kundeservice.

• CI/CD-pipeline-integration: Integrerer sikkerhed direkte i udviklingsprocessen for at fange sårbarheder, før de når produktion.

• Overholdelse af regler: Automatisk vurderer overensstemmelse med rammer som NIST AI, OWASP LLM Top 10, EU AI-akt og ISO 42001.

Denne proaktive tilgang er allerede ved at vinde gehør. Kunder inkluderer KPMG, Infobip, Brand Engagement Network (BNAI ) og Glean. Siden lanceringen i august 2024 har virksomheden rapporteret en vækst på 127% fra kvartal til kvartal.

Investorer støtter visionen for AI-sikkerhed

LAUNCHub Ventures’ generalpartner Stan Sirakov, der nu tiltræder SplxAI’s bestyrelse, understregede behovet for skalerbare AI-sikkerhedsløsninger: “Da agentic AI bliver normen, bliver også dens potentiale for misbrug det. SplxAI er den eneste leverandør med en plan til at håndtere den risiko i stor skala.”

Rain Capitals Dr. Chenxi Wang gentog denne holdning, idet han fremhævede vigtigheden af automatiseret red teaming for AI-systemer i deres spæde år: “SplxAI’s ekspertise og teknologi positionerer det som en central spiller i sikring af GenAI. Manuel testning er ikke længere nok.”

Nye tilføjelser styrker holdet

Sammen med finansieringen annoncerede SplxAI to strategiske ansættelser:

• Stan Sirakov (LAUNCHub Ventures) tiltræder bestyrelsen.

• Sandy Dunn, tidligere CISO i Brand Engagement Network, tiltræder som Chief Information Security Officer for at lede virksomhedens Governance, Risk og Compliance (GRC)-initiativ.

Fremtidssikre værktøjer: Agentic Radar og Real-Time Remediation

Ud over den kerneplatform har SplxAI nyligt lanceret Agentic Radar — et open-source-værktøj, der kortlægger afhængigheder i agentic arbejdsgange, identificerer svage punkter og afslører sikkerhedslækager gennem statisk kodeanalyse.

Samtidig tilbyder deres remedieringsmotor en automatiseret måde at generere forstærkede systemprompts, hvilket reducerer angrebsflader med 80%, forbedrer prompt-lækageforebyggelse med 97% og minimiserer ingeniørarbejde med 95%. Disse systemprompts er afgørende for at forme AI-adfærd, og hvis de bliver eksponeret eller dårligt designede, kan de blive store sikkerhedsproblemer.

Simulering af virkelige trusler på 20+ sprog

SplxAI understøtter også multi-sprog-sikkerhedstest, hvilket gør det til en global løsning for virksomheds AI-sikkerhed. Platformen simulerer ondsindede prompts fra både adversarial og benign brugertyper, hvilket hjælper organisationer med at afsløre trusler som:

• Kontekstlækage (utilsigtet afsløring af følsomme data)

• Social manipulation-angreb

• Prompt-injektion og jailbreak-teknikker

• Giftige eller fordomsfulde output

Alt dette leveres med minimalt antal falske positiver, takket være SplxAI’s unikke AI-red-teaming-intelligens.

Fremadrettet: Fremtiden for sikker AI

Da virksomhederne kapløber for at integrere AI i alt fra kundeservice til produktudvikling, har behovet for robust, realtids AI-sikkerhed aldrig været større. SplxAI fører an i bestræbelserne på at sikre, at AI-systemer ikke blot er kraftfulde, men også troværdige, sikre og overholdelige.

“Vi er på en mission for at sikre og beskytte GenAI-drevne apps,” tilføjede Kamber. “Vores platform giver organisationer mulighed for at bevæge sig hurtigt uden at ødelægge noget — eller kompromittere tillid.”

Med den friske kapital og fremdrift er SplxAI godt på vej til at blive et grundlæggende lag i AI-sikkerhedsstakken i årene fremover.