SplxAI sichert 7-Millionen-Dollar-Seed-Runde, um wachsende Sicherheitsbedrohungen in Agentic-AI-Systemen zu bekämpfen

In einem großen Schritt zur Sicherung der Zukunft von KI hat SplxAI, ein Pionier im Bereich der offensiven Sicherheit für Agentic-AI, 7 Millionen Dollar an Seed-Finanzierung aufgebracht. Die Runde wurde von LAUNCHub Ventures angeführt, mit strategischer Beteiligung von Rain Capital, Inovo, Runtime Ventures, DNV Ventures und South Central Ventures. Das neue Kapital wird die Entwicklung der SplxAI-Plattform beschleunigen, die darauf ausgelegt ist, Organisationen zu schützen, die fortschrittliche KI-Agents und -Anwendungen einsetzen.

Da Unternehmen KI immer mehr in ihren täglichen Betrieb integrieren, entwickelt sich die Bedrohungslandschaft rasch. Bis 2028 wird prognostiziert, dass 33 % der Unternehmensanwendungen Agentic-AI einsetzen – KI-Systeme, die autonome Entscheidungen treffen und komplexe Aufgaben ausführen können. Doch dieser Wandel bringt mit sich eine enorm erweiterte Angriffsfläche, die herkömmliche Sicherheitswerkzeuge nicht bewältigen können.

„Die Bereitstellung von KI-Agents im großen Maßstab introduceiert erhebliche Komplexität“, sagte Kristian Kamber, CEO und Mitgründer von SplxAI. „Manuelles Testen ist in dieser Umgebung nicht machbar. Unsere Plattform ist die einzige skalierbare Lösung für die Sicherung von Agentic-AI.“

Was ist Agentic-AI und warum ist es ein Sicherheitsrisiko?

Im Gegensatz zu herkömmlichen KI-Assistenten, die auf direkte Anfragen reagieren, bezieht sich Agentic-AI auf Systeme, die mehrschrittige Aufgaben autonom ausführen können. Denken Sie an KI-Agents, die Meetings planen, Reisen buchen oder Workflows verwalten können – all dies ohne kontinuierliche menschliche Eingabe. Diese Autonomie, obwohl leistungsfähig, introduceiert ernsthafte Risiken, einschließlich Prompt-Injektionen, abweichenden Antworten, Kontextlecks und KI-Halluzinationen (falsche oder irreführende Ausgaben).

Darüber hinaus sind die meisten bestehenden Schutzmaßnahmen – wie KI-Schutzleisten – reaktiv und oft schlecht trainiert, was zu entweder übermäßig restriktivem Verhalten oder gefährlicher Großzügigkeit führt. Hier kommt SplxAI ins Spiel.

Die SplxAI-Plattform: Red Teaming für KI im großen Maßstab

Die SplxAI-Plattform liefert vollautomatisiertes Red Teaming für GenAI-Systeme, ermöglicht es Unternehmen, kontinuierliche, Echtzeit-Penetrations-tests über KI-gesteuerte Workflows durchzuführen. Sie simuliert komplexe adversarial-Angriffe – die Art, die realen, hochqualifizierten Angreifern nachahmt – über mehrere Modalitäten, einschließlich Text, Bildern, Sprache und sogar Dokumenten.

Einige hervorragende Fähigkeiten umfassen:

• Dynamische Risikoanalyse: Ständig sondiert KI-Anwendungen, um Schwachstellen zu erkennen und handhabbare Erkenntnisse zu liefern.

• Branchenspezifisches Penetrationstesten: Passt das Testen an die einzigartigen Anwendungsfälle jeder Organisation an – von Finanzen bis hin zu Kundenservice.

• CI/CD-Pipeline-Integration: Integriert Sicherheit direkt in den Entwicklungsprozess, um Schwachstellen vor der Produktion zu erkennen.

• Konformitätszuordnung: Bewertet automatisch die Übereinstimmung mit Rahmenwerken wie NIST AI, OWASP LLM Top 10, EU-AI-Gesetz und ISO 42001.

Dieser proaktive Ansatz gewinnt bereits an Fahrt. Zu den Kunden gehören KPMG, Infobip, Brand Engagement Network und Glean. Seit dem Start im August 2024 hat das Unternehmen ein Wachstum von 127 % vom Quartal zum Quartal verzeichnet.

Investoren unterstützen die Vision für KI-Sicherheit

LAUNCHub Ventures’ General Partner Stan Sirakov, der nun dem Vorstand von SplxAI beitritt, betonte die Notwendigkeit von skalierbaren KI-Sicherheitslösungen: „Wenn Agentic-AI zur Norm wird, wird auch ihr Potenzial für Missbrauch zur Norm. SplxAI ist der einzige Anbieter mit einem Plan, um dieses Risiko im großen Maßstab zu bewältigen.“

Rain Capitals Dr. Chenxi Wang teilte diese Meinung und hob die Bedeutung von automatisiertem Red Teaming für KI-Systeme in ihren Anfängen hervor: „SplxAI ist mit seiner Expertise und Technologie in der Lage, eine zentrale Rolle bei der Sicherung von GenAI zu spielen. Manuelles Testen reicht einfach nicht mehr aus.“

Neue Ergänzungen stärken das Team

Zusammen mit der Finanzierung kündigte SplxAI zwei strategische Neueinstellungen an:

• Stan Sirakov (LAUNCHub Ventures) tritt dem Vorstand bei.

• Sandy Dunn, ehemaliger CISO von Brand Engagement Network, übernimmt die Rolle des Chief Information Security Officer, um die Governance-, Risiko- und Compliance-Initiative (GRC) des Unternehmens zu leiten.

Spitzenleistungswerkzeuge: Agentic Radar und Echtzeit-Sanierung

Zusätzlich zur Kernplattform hat SplxAI kürzlich Agentic Radar veröffentlicht – ein Open-Source-Tool, das Abhängigkeiten in Agentic-Workflows kartiert, schwache Punkte identifiziert und Sicherheitslücken durch statische Codeanalyse aufdeckt.

Währenddessen bietet ihr Sanierungs-Engine eine automatisierte Möglichkeit, gehärtete System-Prompts zu generieren, wodurch die Angriffsfläche um 80 % reduziert, die Verhinderung von Prompt-Lecks um 97 % verbessert und der Ingenieur-Aufwand um 95 % minimiert wird. Diese System-Prompts sind entscheidend für die Gestaltung des KI-Verhaltens und können, wenn sie freigelegt oder schlecht gestaltet werden, zu erheblichen Sicherheitsrisiken werden.

Simulation realer Bedrohungen in 20+ Sprachen

SplxAI unterstützt auch Sicherheitstests in mehreren Sprachen, was es zu einer globalen Lösung für die Unternehmens-KI-Sicherheit macht. Die Plattform simuliert bösartige Prompts von sowohl adversarialen als auch benignen Benutzertypen, wodurch Organisationen Bedrohungen wie:

• Kontext-Leck (unbeabsichtigte Offenlegung sensibler Daten)

• Social-Engineering-Angriffe

• Prompt-Injektion und Jailbreak-Techniken

• Toxische oder voreingenommene Ausgaben

All dies wird mit minimalen Falschpositiven bereitgestellt, dank der einzigartigen KI-Red-Teaming-Intelligenz von SplxAI.

Blick in die Zukunft: Die Zukunft der sicheren KI

Da Unternehmen KI in alles integrieren, von Kundenservice bis hin zur Produktentwicklung, ist der Bedarf an robuster, Echtzeit-KI-Sicherheit noch nie größer gewesen. SplxAI führt den Weg, um sicherzustellen, dass KI-Systeme nicht nur leistungsfähig, sondern auch vertrauenswürdig, sicher und konform sind.

„Wir sind auf einer Mission, GenAI-gesteuerte Anwendungen zu sichern und zu schützen“, fügte Kamber hinzu. „Unsere Plattform ermöglicht es Organisationen, schnell voranzukommen, ohne Dinge zu brechen – oder Vertrauen zu gefährden.“

Mit ihrem frischen Kapital und Schwung ist SplxAI darauf vorbereitet, eine grundlegende Schicht im KI-Sicherheitsstack für die Jahre zu werden.