SplxAI turvaa 7 miljoonan dollarin siemensijoituksen agenteisen AI-järjestelmien kasvavien tietoturva-uhkien torjumiseksi

Suurena askelena AI-tulevaisuuden turvaamiseksi SplxAI, joka on uranuurtaja agenteisen AI:n hyökkäävän turvallisuuden alalla, on kerännyt 7 miljoonan dollarin siemensijoituksen. Sijoituskeräyksen johti LAUNCHub Ventures, ja strategiseen osallistumiseen osallistuivat Rain Capital, Inovo, Runtime Ventures, DNV Ventures ja South Central Ventures. Uusi pääoma kiihdyttää SplxAI-alustan kehittämistä, joka on suunniteltu suojelemaan organisaatioita, jotka ottavat käyttöön edistyneitä AI-välineitä ja sovelluksia.

Kun yritykset integroivat yhä enemmän AI:ta päivittäisiin toimintoihinsa, uhkakuvat kehittyvät nopeasti. Vuoteen 2028 mennessä arvioidaan, että 33 %:a yrityssovelluksista sisältää agenteisen AI:n — AI-järjestelmiä, jotka pystyvät autonomiseen päätöksentekoon ja monimutkaiseen tehtävien suorittamiseen. Tämä siirtymä kuitenkin tuo mukanaan laajentuneen hyökkäyspinnan, jota perinteiset tietoturva-työkalut eivät pysty käsittelemään.

”AI-välineiden käyttöönotto suurella mittakaavalla tuo merkittävää monimutkaisuutta,” sanoi Kristian Kamber, SplxAI:n toimitusjohtaja ja perustaja. ”Manuaalinen testaus ei ole toteutettavissa tässä ympäristössä. Meidän alustamme on ainoa skaalautuva ratkaisu agenteisen AI:n turvallisuuden varmistamiseksi.”

Mitä on agenteinen AI ja miksi se on tietoturvariski?

Toisin kuin perinteiset AI-apuvälineet, jotka reagoivat suoraan ohjattuihin kehotteisiin, agenteinen AI viittaa järjestelmiin, jotka pystyvät suorittamaan monivaiheisia tehtäviä autonomisesti. Tässä voidaan ajatella AI-välineitä, jotka voivat aikatauluttaa kokouksia, varata matkoja tai hallita työnkulkua — kaikkea ilman jatkuvaan ihmisen syöttämistä. Tämä autonomia, vaikka voimakas, tuo mukanaan vakavia riskejä, kuten ohjausepätarkkuuksia, asiayhteyden ulkopuolisia vastauksia, asiayhteyden vuotoa ja AI-harhoja (väärä tai harhaanjohtava ulostulo).

Lisäksi useimmat olemassa olevat suojaukset — kuten AI-suojavarustukset — ovat reaktiivisia ja usein huonosti koulutettuja, mikä johtaa joko liian rajoittavaan käyttäytymiseen tai vaaralliseen sallivuuteen. Siinä SplxAI astuu kuvaan.

SplxAI-alusta: Punainen joukkue AI:lle suuressa mittakaavassa

SplxAI-alusta tarjoaa täysin automaattisen punaisen joukkueen GenAI-järjestelmille, mahdollistaen yritysten suorittaa jatkuvaa, reaaliaikaista penetraatiotestausta AI-vetoisissa työnkulkuihin. Se simuloi monimutkaisia hyökkäyksiä — sellaisia, jotka jäljittelevät todellisen maailman, korkeasti koulutettujen hyökkääjien tyylisiä — useiden modaliteettien yli, kuten teksti, kuvat, ääni ja jopa asiakirjat.

Jotkut erottuvat ominaisuudet ovat:

• Dynaaminen riskianalyysi: Tutkii jatkuvasti AI-sovelluksia havaitsemalla haavoittuvuuksia ja antamalla toimintavinkkejä.

• Toimialakohtainen penetraatiotestaus: Sovittaa testausta kunkin organisaation yksilöllisiin käyttötarkoituksiin — rahoituksesta asiakaspalveluun.

• CI/CD-pipeline-integrointi: Upottaa turvallisuuden suoraan kehitysprosessiin haavoittuvuuksien havaitsemiseksi ennen tuotantoon siirtymistä.

• Sääntelyn kartoitus: Arvioi automaattisesti yhdenmukaisuutta kehyksien kanssa, kuten NIST AI, OWASP LLM Top 10, EU AI -laki ja ISO 42001.

Tämä proaktiivinen lähestymistapa on jo saavuttamassa menestystä. Asiakkaat ovat KPMG, Infobip, Brand Engagement Network ja Glean. Yrityksen perustamisesta elokuussa 2024 lähtien se on raportoinut 127 %:n kasvun neljännesvuosittain.

Sijoittajat tukevat AI-turvallisuuden visiota

LAUNCHub Venturesin yleisjohtaja Stan Sirakov, joka nyt liittyy SplxAI:n hallitukseen, korosti skaalautuvien AI-turvallisuusratkaisujen tarpeen: ”Kun agenteinen AI tulee normiksi, myös sen mahdollisuus väärinkäyttöön kasvaa. SplxAI on ainoa toimija, jolla on suunnitelma riskin hallitsemiseksi suuressa mittakaavassa.”

Rain Capitalin tohtori Chenxi Wang toisti tämän näkemyksen, korostaen automaattisen punaisen joukkueen tärkeyttä AI-järjestelmissä niiden alkuvaiheessa: ”SplxAI:n asiantuntemus ja teknologia asemoittavat sen keskeiseksi toimijaksi GenAI:n turvaamisessa. Manuaalinen testaus ei enää riitä.”

Uudet lisäykset vahvistavat tiimiä

Sijoituksen myötä SplxAI ilmoitti kahdesta strategisesta palkkaamisesta:

• Stan Sirakov (LAUNCHub Ventures) liittyy hallitukseen.

• Sandy Dunn, Brand Engagement Networkin entinen tietoturvajohtaja, astuu tietoturvajohtajan rooliin johtamaan yrityksen hallinto-, riski- ja mukautumisohjelmaa (GRC).

Etuja: Agenteinen tutka ja reaaliaikainen korjaus

Lisäksi ydinalueesta SplxAI on julkaissut agenteisen tutkan — avoimen lähdekoodin työkalun, joka kartoittaa agenteisten työnkulkujen riippuvuuksia, tunnistaa heikot kohdat ja paljastaa tietoturva-aukkoja staattisen koodianalyysin kautta.

Samalla heidän korjausmoottorinsa tarjoaa automaattisen tavan luoda lujittettuja järjestelmäkäskyjä, vähentäen hyökkäyspintaa 80 %, parantaen käskyn vuotokeskuksen estämistä 97 %:lla ja vähentäen insinöörien työtä 95 %:lla. Nämä järjestelmäkäskyt ovat kriittisiä AI-käyttäytymisen muokkaamisessa, ja jos ne paljastuvat tai suunnitellaan huonosti, ne voivat muodostua suuriksi tietoturvariskeiksi.

Simuloimalla todellisen maailman uhkia yli 20 kielellä

SplxAI tukee myös monikielisen turvallisuustestauksen, mikä tekee siitä globaalin ratkaisun yritysten AI-turvalle. Alusta simuloi vaarallisia käskyjä sekä vihamielisten että hyvänzionisten käyttäjätyyppien osalta, auttaen organisaatioita paljastamaan uhkia, kuten:

• Asiayhteyden vuoto (tahaton herkkien tietojen paljastuminen)

• Sosiaalisen insinöörityön hyökkäykset

• Käskyn injektio ja vankilauksen tekniikat

• Myrkyllisiä tai puolueellisia ulostuloja

Kaikki tämä toimitetaan minimoiden väärät positiiviset, kiitoksena SplxAI:n ainutlaatuisesta AI-punaisen joukkueen älystä.

Tulevaisuuden näkymät: Turvallisen AI:n tulevaisuus

Kun yritykset kilpailevat AI:n integroimisesta kaikkeen, asiakaspalvelusta tuotekehitykseen, tarve vahvasta, reaaliaikaisesta AI-turvalle on suurempi kuin koskaan. SplxAI johtaa joukkoa, joka varmistaa, että AI-järjestelmät ovat voimakkaita, mutta myös luotettavia, turvallisia ja sääntelyn mukaisia.

”Olemme tehtävänä turvata ja suojelemaan GenAI-pohjaisia sovelluksia,” Kamber lisäsi. ”Meidän alustamme antaa organisaatioille mahdollisuuden edetä nopeasti ilman, että he rikkovat asioita — tai kompromittavat luottamuksen.”

Uuden pääoman ja vauhdin myötä SplxAI on valmis tulemaan perustavanlaatuiseksi kerrokseksi AI-turva-rakenteessa tulevina vuosina.