SplxAI sécurise 7 millions de dollars dans le cadre d’un financement initial pour lutter contre les menaces de sécurité croissantes dans les systèmes d’IA agente

Dans un grand pas vers la protection de l’avenir de l’IA, SplxAI, un pionnier de la sécurité offensive pour l’IA agente, a levé 7 millions de dollars dans le cadre d’un financement initial. Le tour a été mené par LAUNCHub Ventures, avec une participation stratégique de Rain Capital, Inovo, Runtime Ventures, DNV Ventures et South Central Ventures. Le nouveau capital accélérera le développement de la plateforme SplxAI, conçue pour protéger les organisations qui déployer des agents et des applications d’IA avancés.

À mesure que les entreprises intègrent de plus en plus l’IA dans leurs opérations quotidiennes, le paysage des menaces évolue rapidement. D’ici 2028, il est prévu que 33 % des applications d’entreprise intégreront l’IA agente — des systèmes d’IA capables de prise de décision autonome et d’exécution de tâches complexes. Mais ce changement apporte avec lui une surface d’attaque considérablement élargie que les outils de sécurité traditionnels sont mal équipés pour gérer.

« Le déploiement d’agents d’IA à grande échelle introduit une complexité significative, » a déclaré Kristian Kamber, PDG et co-fondateur de SplxAI. « Les tests manuels ne sont pas réalisables dans cet environnement. Notre plateforme est la seule solution scalable pour sécuriser l’IA agente. »

Qu’est-ce que l’IA agente et pourquoi est-elle un risque pour la sécurité ?

Contrairement aux assistants d’IA conventionnels qui répondent à des invites directes, l’IA agente fait référence à des systèmes capables d’effectuer des tâches mult étapes de manière autonome. Pensez à des agents d’IA qui peuvent planifier des réunions, réserver des voyages ou gérer des flux de travail — le tout sans intervention humaine continue. Cette autonomie, bien que puissante, introduit des risques graves, notamment les injections de invites, les réponses hors sujet, les fuites de contexte et les hallucinations d’IA (sorties fausses ou trompeuses).

De plus, la plupart des protections existantes — telles que les garde-fous d’IA — sont réactives et souvent mal formées, ce qui entraîne un comportement soit trop restrictif, soit dangereusement permissif. C’est là que SplxAI intervient.

La plateforme SplxAI : Red teaming pour l’IA à grande échelle

La plateforme SplxAI offre un red teaming entièrement automatisé pour les systèmes GenAI, permettant aux entreprises de réaliser des tests de pénétration continus et en temps réel sur les flux de travail alimentés par l’IA. Elle simule des attaques adverses sophistiquées — du type de celles qui imitent les attaquants réels hautement qualifiés — sur plusieurs modalités, notamment le texte, les images, la voix et même les documents.

Certaines capacités de premier plan incluent :

• Analyse de risque dynamique : Sonde en continu les applications d’IA pour détecter les vulnérabilités et fournir des informations exploitables.

• Test de pénétration spécifique au domaine : Personnalise les tests en fonction des cas d’utilisation uniques de chaque organisation — de la finance au service client.

• Intégration de la chaîne de production CI/CD : Intègre la sécurité directement dans le processus de développement pour détecter les vulnérabilités avant la production.

• Cartographie de la conformité : Évalue automatiquement l’alignement sur des cadres tels que NIST AI, OWASP LLM Top 10, EU AI Act et ISO 42001.

Cette approche proactive gagne déjà du terrain. Les clients incluent KPMG, Infobip, Brand Engagement Network et Glean. Depuis son lancement en août 2024, l’entreprise a signalé une croissance de 127 % d’une trimestre à l’autre.

Les investisseurs soutiennent la vision de la sécurité de l’IA

LAUNCHub Ventures’ le partenaire général Stan Sirakov, qui rejoint maintenant le conseil d’administration de SplxAI, a souligné la nécessité de solutions de sécurité d’IA évolutives : « À mesure que l’IA agente devient la norme, son potentiel d’abus augmente également. SplxAI est le seul fournisseur avec un plan pour gérer ce risque à grande échelle. »

Rain Capital’s Dr Chenxi Wang a échoé ce sentiment, mettant en évidence l’importance du red teaming automatisé pour les systèmes d’IA à leurs débuts : « L’expertise et la technologie de SplxAI la positionnent pour être un acteur central dans la sécurisation de GenAI. Les tests manuels ne suffisent plus. »

Nouveaux ajouts pour renforcer l’équipe

Conjointement au financement, SplxAI a annoncé deux embauches stratégiques :

• Stan Sirakov (LAUNCHub Ventures) rejoint le conseil d’administration.

• Sandy Dunn, ancien CISO de Brand Engagement Network, devient Chief Information Security Officer pour diriger l’initiative Governance, Risk, and Compliance (GRC) de l’entreprise.

Outils de pointe : Agentic Radar et remédiation en temps réel

En plus de la plateforme principale, SplxAI a récemment lancé Agentic Radar — un outil open source qui cartographie les dépendances dans les flux de travail agente, identifie les liens faibles et met en évidence les lacunes de sécurité grâce à l’analyse de code statique.

Entre-temps, son moteur de remédiation offre un moyen automatisé de générer des invites de système durcies, réduisant les surfaces d’attaque de 80 %, améliorant la prévention des fuites d’invites de 97 % et minimisant les efforts d’ingénierie de 95 %. Ces invites de système sont essentielles pour façonner le comportement de l’IA et, si elles sont exposées ou mal conçues, peuvent devenir de graves risques de sécurité.

Simulation de menaces réelles dans plus de 20 langues

SplxAI prend également en charge les tests de sécurité multilingues, ce qui en fait une solution mondiale pour la sécurité de l’IA d’entreprise. La plateforme simule des invites malveillantes à la fois d’utilisateurs adverses et bienveillants, aidant les organisations à découvrir des menaces telles que :

• Fuite de contexte (divulgation accidentelle de données sensibles)

• Attaques d’ingénierie sociale

• Injection d’invites et techniques d’évasion

• Sorties toxiques ou biaisées

Tout cela est fourni avec un minimum de faux positifs, grâce à l’intelligence de red teaming d’IA unique de SplxAI.

Vers l’avenir : L’avenir de l’IA sécurisée

Alors que les entreprises se précipitent pour intégrer l’IA dans tout, des services client aux développements de produits, le besoin d’une sécurité d’IA robuste et en temps réel n’a jamais été plus grand. SplxAI mène la charge pour s’assurer que les systèmes d’IA ne sont pas seulement puissants, mais fiables, sécurisés et conformes.

« Nous sommes sur une mission pour sécuriser et protéger les applications alimentées par GenAI, » a ajouté Kamber. « Notre plateforme permet aux organisations d’avancer rapidement sans casser les choses — ou compromettre la confiance. »

Avec son capital frais et son élan, SplxAI est en position pour devenir une couche fondamentale dans la pile de sécurité de l’IA pour les années à venir.