SplxAI ottiene 7 milioni di dollari di finanziamento per affrontare le crescenti minacce di sicurezza nei sistemi di intelligenza artificiale Agentic

In un importante passo verso la salvaguardia del futuro dell’intelligenza artificiale, SplxAI, un pioniere nella sicurezza offensiva per l’intelligenza artificiale Agentic, ha raccolto 7 milioni di dollari di finanziamento iniziale. Il round è stato guidato da LAUNCHub Ventures, con la partecipazione strategica di Rain Capital, Inovo, Runtime Ventures, DNV Ventures e South Central Ventures. Il nuovo capitale accelererà lo sviluppo della piattaforma SplxAI, progettata per proteggere le organizzazioni che distribuiscono agenti e applicazioni di intelligenza artificiale avanzata.

Poiché le imprese integrano sempre più l’intelligenza artificiale nelle operazioni quotidiane, il panorama delle minacce si evolve rapidamente. Entro il 2028, si prevede che il 33% delle applicazioni aziendali incorporerà l’intelligenza artificiale Agentic – sistemi di intelligenza artificiale in grado di prendere decisioni autonome e eseguire compiti complessi. Tuttavia, questo passaggio introduce una superficie di attacco notevolmente ampliata che gli strumenti di sicurezza tradizionali non sono in grado di gestire.

“Distribuire agenti di intelligenza artificiale su larga scala introduce una notevole complessità,” ha dichiarato Kristian Kamber, amministratore delegato e co-fondatore di SplxAI. “I test manuali non sono fattibili in questo ambiente. La nostra piattaforma è l’unica soluzione scalabile per la sicurezza dell’intelligenza artificiale Agentic.”

Cos’è l’intelligenza artificiale Agentic e perché rappresenta un rischio per la sicurezza?

A differenza degli assistenti di intelligenza artificiale convenzionali che rispondono a prompt diretti, l’intelligenza artificiale Agentic si riferisce a sistemi in grado di eseguire compiti multi-step in modo autonomo. Pensiamo ad agenti di intelligenza artificiale che possono pianificare riunioni, prenotare viaggi o gestire flussi di lavoro – tutto senza input umano continuo. Questa autonomia, sebbene potente, introduce seri rischi, tra cui iniezioni di prompt, risposte fuori tema, perdita di contesto e allucinazioni dell’intelligenza artificiale (output falsi o fuorvianti).

Inoltre, la maggior parte delle protezioni esistenti – come le barriere di sicurezza dell’intelligenza artificiale – sono reattive e spesso poco addestrate, risultando in un comportamento eccessivamente restrittivo o pericolosamente permissivo. È qui che SplxAI interviene.

La piattaforma SplxAI: red teaming per l’intelligenza artificiale su larga scala

La piattaforma SplxAI offre un red teaming completamente automatizzato per i sistemi di intelligenza artificiale generativa, consentendo alle imprese di condurre test di penetrazione continui e in tempo reale attraverso flussi di lavoro alimentati dall’intelligenza artificiale. Simula attacchi avversari sofisticati – del tipo che mimano attaccanti reali e altamente qualificati – attraverso molteplici modalità, tra cui testo, immagini, voce e anche documenti.

Alcune capacità di spicco includono:

• Analisi dei rischi dinamica: esamina continuamente le applicazioni di intelligenza artificiale per rilevare le vulnerabilità e fornire informazioni utili.

• Test di penetrazione specifici del dominio: adatta i test ai casi d’uso unici di ogni organizzazione – dalla finanza al servizio clienti.

• Integrazione con il flusso di lavoro di sviluppo: incorpora la sicurezza direttamente nel processo di sviluppo per rilevare le vulnerabilità prima della produzione.

• Mappatura della conformità: valuta automaticamente l’allineamento con framework come NIST AI, OWASP LLM Top 10, EU AI Act e ISO 42001.

Questo approccio proattivo sta già guadagnando terreno. I clienti includono KPMG, Infobip, Brand Engagement Network (BNAI ) e Glean. Dal lancio ad agosto 2024, l’azienda ha segnalato una crescita del 127% trimestre su trimestre.

Gli investitori sostengono la visione per la sicurezza dell’intelligenza artificiale

LAUNCHub Ventures’ General Partner Stan Sirakov, che ora si unisce al consiglio di amministrazione di SplxAI, ha sottolineato la necessità di soluzioni di sicurezza dell’intelligenza artificiale scalabili: “Man mano che l’intelligenza artificiale Agentic diventa la norma, così diventa anche il suo potenziale per l’abuso. SplxAI è l’unico fornitore con un piano per gestire quel rischio su larga scala.”

Rain Capital’s Dr. Chenxi Wang ha ribadito questo sentimento, sottolineando l’importanza del red teaming automatizzato per i sistemi di intelligenza artificiale nella loro infanzia: “L’esperienza e la tecnologia di SplxAI la posizionano per essere un attore centrale nella sicurezza dell’intelligenza artificiale generativa. I test manuali non sono più sufficienti.”

Nuove aggiunte rafforzano il team

In concomitanza con il finanziamento, SplxAI ha annunciato due assunzioni strategiche:

• Stan Sirakov (LAUNCHub Ventures) si unisce al consiglio di amministrazione.

• Sandy Dunn, ex CISO di Brand Engagement Network, entra come Chief Information Security Officer per guidare l’iniziativa Governance, Risk, and Compliance (GRC) dell’azienda.

Strumenti all’avanguardia: Agentic Radar e rimedio in tempo reale

Oltre alla piattaforma principale, SplxAI ha recentemente lanciato Agentic Radar – uno strumento open-source che mappa le dipendenze nei flussi di lavoro Agentic, identifica i collegamenti deboli e individua lacune di sicurezza attraverso l’analisi del codice statico.

Nel frattempo, il loro motore di rimedio offre un modo automatizzato per generare prompt di sistema rinforzati, riducendo le superfici di attacco dell’80%, migliorando la prevenzione delle perdite di prompt del 97% e minimizzando lo sforzo di ingegneria del 95%. Questi prompt di sistema sono fondamentali per plasmare il comportamento dell’intelligenza artificiale e, se esposti o progettati male, possono diventare gravi responsabilità di sicurezza.

Simulazione di minacce del mondo reale in oltre 20 lingue

SplxAI supporta anche il test di sicurezza multilingue, rendendolo una soluzione globale per la sicurezza dell’intelligenza artificiale aziendale. La piattaforma simula prompt malintenzionati da parte di utenti avversari e benigni, aiutando le organizzazioni a scoprire minacce come:

• Perdita di contesto (divulgazione accidentale di dati sensibili)

• Attacchi di ingegneria sociale

• Iniezione di prompt e tecniche di jailbreak

• Output tossici o prevenuti

Tutto ciò viene fornito con un minimo di falsi positivi, grazie all’intelligenza di red teaming unica di SplxAI.

Guardando avanti: il futuro della sicurezza dell’intelligenza artificiale

Mentre le aziende si affrettano a integrare l’intelligenza artificiale in tutto, dalla gestione dei clienti allo sviluppo di prodotti, la necessità di una sicurezza dell’intelligenza artificiale robusta e in tempo reale non è mai stata più grande. SplxAI è alla guida per garantire che i sistemi di intelligenza artificiale siano non solo potenti, ma anche affidabili, sicuri e conformi.

“Siamo in missione per garantire e proteggere le applicazioni alimentate da intelligenza artificiale generativa,” ha aggiunto Kamber. “La nostra piattaforma consente alle organizzazioni di muoversi rapidamente senza rompere nulla – o compromettere la fiducia.”

Con il suo nuovo capitale e la sua impulso, SplxAI è pronta a diventare uno strato fondamentale nello stack di sicurezza dell’intelligenza artificiale per gli anni a venire.