SplxAI sichert 7-Millionen-Dollar-Seed-Finanzierung, um wachsende Sicherheitsbedrohungen in Agentic-AI-Systemen zu bekämpfen

In einem bedeutenden Schritt zur Sicherung der Zukunft von künstlicher Intelligenz (KI) hat SplxAI, ein Pionier im Bereich der offensiven Sicherheit für Agentic-AI, 7 Millionen Dollar an Seed-Finanzierung aufgebracht. Die Finanzierungsrunde wurde von LAUNCHub Ventures angeführt, mit strategischer Beteiligung von Rain Capital, Inovo, Runtime Ventures, DNV Ventures und South Central Ventures. Das neue Kapital wird die Entwicklung der SplxAI-Plattform beschleunigen, die darauf ausgelegt ist, Organisationen zu schützen, die fortschrittliche KI-Agents und -Anwendungen einsetzen.

Da Unternehmen zunehmend KI in ihren täglichen Betrieb integrieren, entwickelt sich die Bedrohungslandschaft rasant. Bis 2028 wird erwartet, dass 33 % der Unternehmensanwendungen Agentic-AI einsetzen – KI-Systeme, die autonom Entscheidungen treffen und komplexe Aufgaben ausführen können. Doch dieser Wandel bringt auch eine enorm erweiterte Angriffsfläche mit sich, die herkömmliche Sicherheitswerkzeuge nicht bewältigen können.

„Die Bereitstellung von KI-Agents im großen Maßstab führt zu erheblicher Komplexität“, sagte Kristian Kamber, CEO und Mitgründer von SplxAI. „Manuelle Tests sind in dieser Umgebung nicht machbar. Unsere Plattform ist die einzige skalierbare Lösung für die Sicherung von Agentic-AI.“

Was ist Agentic-AI und warum ist es ein Sicherheitsrisiko?

Im Gegensatz zu herkömmlichen KI-Assistenten, die auf direkte Anfragen reagieren, bezieht sich Agentic-AI auf Systeme, die mehrschrittige Aufgaben autonom ausführen können. Denken Sie an KI-Agents, die Meetings planen, Reisen buchen oder Workflows verwalten können – all dies ohne kontinuierliche menschliche Eingabe. Diese Autonomie ist zwar leistungsfähig, aber auch mit ernsthaften Risiken verbunden, einschließlich Prompt-Injektionen, abweichenden Antworten, Kontextlecks und KI-Halluzinationen (falsche oder irreführende Ausgaben).

Darüber hinaus sind die meisten bestehenden Schutzmaßnahmen – wie KI-Schutzbarrieren – reaktiv und oft schlecht trainiert, was zu entweder übermäßig restriktivem Verhalten oder gefährlicher Nachsichtigkeit führt. Hier kommt SplxAI ins Spiel.

Die SplxAI-Plattform: Red Teaming für KI im großen Maßstab

Die SplxAI-Plattform bietet eine vollautomatisierte Red-Teaming-Lösung für GenAI-Systeme, die es Unternehmen ermöglicht, kontinuierliche, Echtzeit-Penetrationstests über KI-gesteuerte Workflows durchzuführen. Sie simuliert sophisticatede adversarial-Angriffe – die Art, die realen, hochqualifizierten Angreifern nachahmt – über mehrere Modalitäten, einschließlich Text, Bildern, Sprache und sogar Dokumenten.

Einige herausragende Fähigkeiten umfassen:

• Dynamische Risikoanalyse: Ständig scannen Sie KI-Apps, um Schwachstellen zu erkennen und handhabbare Erkenntnisse zu liefern.

• Branchenspezifische Penetrationstests: Anpassen Sie Tests an die einzigartigen Anwendungsfälle jeder Organisation – von Finanzen bis hin zu Kundenservice.

• CI/CD-Pipeline-Integration: Integrieren Sie Sicherheit direkt in den Entwicklungsprozess, um Schwachstellen vor der Produktion zu erkennen.

• Compliance-Mapping: Bewerten Sie automatisch die Einhaltung von Rahmenwerken wie NIST AI, OWASP LLM Top 10, EU-AI-Gesetz und ISO 42001.

Dieser proaktive Ansatz gewinnt bereits an Fahrt. Zu den Kunden gehören KPMG, Infobip, Brand Engagement Network (BNAI ) und Glean. Seit dem Start im August 2024 hat das Unternehmen ein Quartalswachstum von 127 % verzeichnet.

Investoren unterstützen die Vision für KI-Sicherheit

LAUNCHub Ventures’ General Partner Stan Sirakov, der nun dem Vorstand von SplxAI beitritt, betonte die Notwendigkeit von skalierbaren KI-Sicherheitslösungen: „Wenn Agentic-AI zum Standard wird, wird auch das Potenzial für Missbrauch zum Standard. SplxAI ist der einzige Anbieter mit einem Plan, um dieses Risiko im großen Maßstab zu bewältigen.“

Rain Capitals Dr. Chenxi Wang teilte diese Meinung und hob die Bedeutung von automatisiertem Red Teaming für KI-Systeme in ihren Anfängen hervor: „SplxAIs Expertise und Technologie positionieren es als zentralen Akteur in der Sicherung von GenAI. Manuelle Tests reichen einfach nicht mehr aus.“

Neue Ergänzungen stärken das Team

Zusammen mit der Finanzierung kündigte SplxAI zwei strategische Neuzugänge an:

• Stan Sirakov (LAUNCHub Ventures) tritt dem Vorstand bei.

• Sandy Dunn, ehemaliger CISO von Brand Engagement Network, übernimmt die Rolle des Chief Information Security Officers, um die Governance-, Risiko- und Compliance-Initiative (GRC) des Unternehmens zu leiten.

Spitzenleistungs-Tools: Agentic Radar und Echtzeit-Sanierung

Zusätzlich zur Kernplattform hat SplxAI kürzlich Agentic Radar veröffentlicht – ein Open-Source-Tool, das Abhängigkeiten in Agentic-Workflows kartiert, schwache Punkte identifiziert und Sicherheitslücken durch statische Codeanalyse aufdeckt.

Währenddessen bietet der Sanierungs-Engine eine automatisierte Möglichkeit, gehärtete Systemprompts zu generieren, wodurch die Angriffsfläche um 80 % reduziert, die Prompt-Leck-Prävention um 97 % verbessert und der Ingenieuraufwand um 95 % minimiert wird. Diese Systemprompts sind entscheidend für die Gestaltung des KI-Verhaltens, und wenn sie exponiert oder schlecht entworfen sind, können sie zu erheblichen Sicherheitsrisiken werden.

Simulation von realen Bedrohungen in 20+ Sprachen

SplxAI unterstützt auch die Sicherheitstests in mehreren Sprachen, wodurch es eine globale Lösung für die Unternehmens-KI-Sicherheit darstellt. Die Plattform simuliert bösartige Prompts von sowohl adversarialen als auch benignen Benutzertypen, um Organisationen dabei zu helfen, Bedrohungen wie:

• Kontextlecks (unbeabsichtigte Offenlegung sensibler Daten)

• Social-Engineering-Angriffe

• Prompt-Injektion und Jailbreak-Techniken

• Toxische oder voreingenommene Ausgaben

All dies wird mit minimalen Falschpositiven bereitgestellt, dank der einzigartigen KI-Red-Teaming-Intelligenz von SplxAI.

Blick in die Zukunft: Die Zukunft der sicheren KI

Da Unternehmen rasch daran arbeiten, KI in alles von Kundenservice bis hin zur Produktentwicklung zu integrieren, ist der Bedarf an robuster, Echtzeit-KI-Sicherheit noch nie größer gewesen. SplxAI führt den Weg, um sicherzustellen, dass KI-Systeme nicht nur leistungsfähig, sondern auch vertrauenswürdig, sicher und konform sind.

„Wir sind auf einer Mission, GenAI-gesteuerte Apps zu sichern und zu schützen“, fügte Kamber hinzu. „Unsere Plattform ermöglicht es Organisationen, schnell voranzukommen, ohne Dinge zu brechen – oder Vertrauen zu gefährden.“

Mit dem frischen Kapital und dem Momentum ist SplxAI bereit, zu einer grundlegenden Schicht in der KI-Sicherheitsarchitektur für die Jahre zu kommen.