Zenity Kerää 125 Miljoonaa Dollaria Kun Yritykset Kohtaavat Automaattisten AI-Esittäjien Turvallisuusriskit

Zenity on kerännyt $125 miljoonaa C-sarjan rahoituksesta, kun yritykset siirtävät tekoälyagentteja hallituilta kokeiluilta järjestelmiin, jotka pystyvät käyttämään tietoa, kutsuvat ohjelmistotyökaluja ja suorittavat toiminnallisia tehtäviä.

Norwest johti kierrosta, ja Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures ja LG Technology Ventures liittyivät uusina sijoittajina. Olemassa olevat tahot Vertex Ventures, Third Point Ventures, DTCP ja Intel Capital osallistuivat myös. Yritys ei ilmoittanut arvoaan.

Rahoitus seuraa Zenityn $38 miljoonan B-sarjan rahoitusta lokakuussa 2024, ja se nostaa yrityksen ilmoitetun rahoituksen vähintään $180 miljoonaan.

Teckohteluiden Kokeilusta Automaattisiin Järjestelmiin

Kierroksen koko heijastaa laajempaa muutosta siinä, miten yritykset omaksuvat tekoälyä. Ensimmäinen aalto generatiivista tekoälyä liittyi pääasiassa työntekijöiden kanssa keskustelemiseen chatboteilla, jotta voidaan tuottaa tekstiä, tiivistää asiakirjoja tai hakea tietoa.

AI-agentit tuovat eri tasoisen riskin, koska ne voivat tehdä toimia. Riippuen heidän oikeuksistaan, agentit voivat käyttää sisäisiä tietokantoja, kutsua sovellusliittymiä, päivittää tietueita, suorittaa koodia, lähettää viestejä tai käynnistää työprosesseja, jotka kattavat useita yritysjärjestelmiä.

Tämä siirtää turvallisuusongelman siitä, onko malli tuottanut sopimattoman vastauksen. Organisaatioiden on ymmärrettävä, mitkä agentit on käyttöön otettu, kuka niitä hallitsee, mihin tietoihin ne voivat päästä ja mitä toimia ne on valtuutettu suorittamaan.

Agentti voi toimia täsmälleen suunnitellusti ja silti luoda turvallisuusvaaran, jos sillä on liian laajat oikeudet, kohtaa manipuloitua tietoa tai tulkkaa hyökkääjän ohjeita osana legitiimiä tehtävää.

Zenity kuvaa tätä “agenttikerroksen” ongelmana. Sen alusta on suunniteltu tarkastelemaan agentin konfiguraatiota, oikeuksia, kytkettyjä työkaluja, muistia ja suoritusaikaisia toimia, eikä vain katsele syötteenä annettuja kehotteita tai mallin tuottamia vastauksia.

miten Zenity Turvaa AI-Agentteja

Zenity jakaa alustansa kolmeen pääalueeseen: havainnointi, turvallisuusasennon hallinta ja havaitseminen ja reagointi.

Havainnointiosio löytää ja luo luettelon agenteista, jotka toimivat organisaation ympärillä. Tähän kuuluvat agentit, jotka on upotettu ohjelmistopalveluihin, sisäisesti kehitettyjä agenteja, jotka suoritetaan pilviympäristöissä, ja paikalliset työkalut, jotka on asennettu työntekijöiden laitteisiin.

Tavoitteena on antaa turvallisuustiimille jatkuvasti päivittyvä kuva kunkin agentin omistajasta, konfiguraatiosta, oikeuksista, integraatioista ja suoritusaikaisesta käyttäytymisestä. Tämä on tulevaisuudessa yhä tärkeämpää, kun yksittäiset osastot ja työntekijät saavat kyvyn luoda agenteja ilman perinteistä ohjelmistokehitys- tai turvallisuuden arviointiprosessia.

Zenityn hallintakerros arvioi konfiguraatioita ja oikeuksia ennen kuin agentti siirtyy tuotantoon. Käytäntöjä voidaan käyttää tunnistamaan liiallinen pääsy, turvattomat integraatiot tai työkalut, jotka voivat sallia agentin toimia odotetun roolin ulottuvilla. Alusta voi jatkaa näiden valvontaa, kun agenteja muokataan ajan myötä.

Suoritusaikana Zenity analysoi agentin suorituskäytävän, mukaan lukien sen työkalukutsut, muistin käytön, tietokäytön ja vuorovaikutuksen muiden järjestelmien kanssa. Yritys sanoo, että se voi käyttää tätä asiayhteyttä sallimaan, muuttaa tai estää toiminnon ennen kuin se tapahtuu.

Tämä lähestymistapa on tarkoitettu erottamaan normaali pyyntö ja näennäisesti normaali pyyntö, joka on vaikuttunut haitallisesta sisällöstä. Se myös osoittaa tärkeän rajoituksen kehotteen suodattamiselle: vaarallinen tulos voi syntyä sarjasta yksittäin harmittomista toimista.

Kattavuus SaaS, Pilvi- ja Työntekijän Laitteille

Zenity yrittää tarjota yhteisen turvallisuuskerroksen hajanaiselle agenttiekosysteemille.

Ohjelmistopalveluympäristöissä se tukee agenteja, jotka liittyvät alustoihin kuten Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise ja Salesforce (CRM ) Agentforce. Nämä järjestelmät voivat antaa agenteille pääsyn liiketoimintadokumentteihin, asiakastietoihin, viestintään ja työprosesseihin, joita yritys ei täysin hallitse tai ohjaa.

Alusta kattaa myös mukautettuja agenteja, jotka on luotu palveluilla kuten AWS Bedrock, Azure AI Foundry ja Google Vertex AI. Zenity seuraa, mitkä työkalut ja pilvipalvelut nämä agentit kutsuvat, soveltamalla käytäntöjä kehityksen ja suorittamisen aikana.

Kolmas alue liittyy laitteistopohjaisiin agenteihin, kuten koodausavustajiin, työpöytäsovelluksiin ja agenteille suunnattuihin verkkoselaimiin. Nämä työkalut voivat toimia työntekijän todennetun ympäristössä, perintään mahdollisesti pääsyn tiedostoihin, verkkoselainistuntoihin ja kytkettyihin palveluihin.

Näiden ympäristöjen yhdistäminen yhteen järjestelmään voi yksinkertaistaa hallintaa, mutta se myös luo merkittävän teknisen haasteen. Arkkitehtuuri, oikeudet ja telemetry, jotka ovat saatavilla ohjelmistopalvelun avustajasta, voivat poiketa merkittävästi mukautetun pilvi-agentin tai paikallisesti asennetun koodausavustajan arkkitehtuurista.

Turvallisuustutkimus Korostaa Uutta Uhkamallia

Zenity on tukenu tuotekehitystään tutkimuksella, jota on tehty Zenity Labsissa, joka tutkii, miten autonomiset järjestelmät voidaan manipuloida epäilyttävällä sisällöllä.

Sen AgentFlayer-tutkimus käsitteli nollaklik- ja yksiklik- hyökkäysketjuja, jotka liittyvät laajasti käytettyihin yritysten tekoälyalustoihin. Esitykset sisälsivät skenaarioita, joissa haitalliset ohjeet, jotka toimitettiin sähköpostien, asiakirjojen, tukitapausten tai yhteistyötyökalujen kautta, aiheuttivat agenteille tietojen paljastamisen, kytkettyjen työkalujen väärinkäytön tai vastausten muuttamisen.

Myöhempi tutkimus käsitteli Perplexityn Comet-agenteille suunnatun verkkoselaimen. Zenityn tutkijat osoittivat, miten piilotetut ohjeet kalenterikutsussa voivat vaikuttaa verkkoselaimeen sen suorittaessa tavallista tehtävää. Yhdessä skenaariossa komprometoidun agentin käsittely estämättömän 1Password-verkkovaultin ja lähetti tunnistetietoja tavallisten web-pyyntöjen kautta.

Tutkimus osoitti, että ongelma johtui riittämättömästä erottelusta käyttäjän aikomuksen ja kolmannen osapuolen sisällön välillä, jonka agentti kohtasi. Koska agentti toimi jo todennetussa verkkoselainistunnossa, se voisi potentiaalisesti käyttää pääsyä, jonka käyttäjä oli lailliseen antanut.

Nämä esitykset osoittavat, miksi agenttien turvallisuus ei voi riippua ainoastaan ilmeisen haitallisten kehoitusten havaitsemisesta. Ohjeet voivat olla piilossa tiedoissa, joita agentti on odotettu lukea, ja tulokset voivat muistuttaa normaalia selaamista, asiakirjojen hakua tai sovelluksen toimintaa.

Ne korostavat myös rajoitusten merkitystä, jotka säilyvät voimassa, vaikka agentin päättely on manipuloitu.

Rahoitus Globaalin Laajentumisen ja Tuotekehityksen Tukeksi

Zenity sanoo, että sen liikevaihto on kolminkertaistunut jokaisena viime vuonna ja on menossa kolminkertaistumaan tänä vuonna. Yritys ilmoittaa, että monet sen asiakkaista ovat Fortune 500 – ja Global 2000 -yrityksiä, jotka toimivat säännellyissä aloissa, kuten rahoituspalveluissa, terveydenhuollossa, lääketeollisuudessa, valmistuksessa ja energiassa.

Se on nyt yli 230 työntekijän, ja tutkimus- ja kehitystoimintoja johtaa Tel Avivista, ja sen markkinointi- ja operatiiviset toiminnot johtaa New Yorkista.

C-sarjan rahoitus käytetään tuotekehityksen kiihdyttämiseen, Zenity Labsin laajentamiseen ja yrityksen läsnäolon vahvistamiseen Euroopassa ja Aasia-Tyynenmeren alueella. Se antaa myös Zenitylle lisävaroja tukemaan kasvavaa määrää agenttirunkoja, kun yritysten tekoälyinfrastruktuuri muuttuu yhä monimuotoisemmaksi.

Tämä laajentuminen tapahtuu vähemmän kuin kaksi vuotta yrityksen edellisen institutionaalisista kierroksesta, jolloin Zenity korosti vielä sen alkua low-code- ja no-code-sovellusten turvallisuudesta. Sen nykyinen asema heijastaa, miten nämä aiemmat huolenaiheet ovat kehittyneet: työntekijät, jotka voivat luoda yksinkertaisia liiketoimintasovelluksia, voivat nyt luoda agenteja, jotka pystyvät tekemään päätöksiä ja ohjaamaan kytkettyjä järjestelmiä.

AI-Agenttien Turvallisuus Muodostuu Omaan Luokkaansa

Zenityn rahoituskierros osoittaa sijoittajien luottamusta siinä, että AI-agenttien turvallisuus voi kehittyä merkittäväksi kyberTurva-luokaksi eikä jää pelkästään olemassaolevien pilvi-, identiteetti- tai päätepisteiden tuotteiden ominaisuudeksi.

Väite omasta luokasta perustuu siihen, että perinteiset työkalut yleensä näkevät vain osan agentin toiminnasta. Pilviturvallisuusjärjestelmät voivat tarkastella infrastruktuuria, identiteettijärjestelmät voivat hallita oikeuksia ja päätepisteiden tuotteet voivat havaita käyttöjärjestelmätasolla olevat uhkat. Ne eivät välttämättä ymmärrä agentin tarkoitettua roolia tai sitä, miten työkalujen ketju liittyy käyttäjän alkuperäiseen tavoitteeseen.

Zenity joutuu edelleen osoittamaan, että sen aikomuksen mukaiset valvontatoimet voivat toimia nopeasti muuttuvien kehysten yli ilman, että ne luovat liian monia hälytyksiä, estävät legitiimiä työtä tai lisäävät hyväksymätöntä viivästystä. Se on myös osoitettava, että yritykset ostavat erillisen agenttien turvallisuusalustan sen sijaan, että luottaisivat valvontoihin, jotka suuret pilvi- ja ohjelmistotoimittajat tarjoavat.

Välitön markkinatilaisuus on kuitenkin muodostumassa selvemmäksi. Kun agentit saavat pääsyn arkaluontoiseen tietoon ja alkavat hallita merkittäviä liiketoimintaprosesseja, organisaatioiden on tarve mekanismeja, jotka pystyvät

Zenityn $125 miljoonan C-sarjan antaa yritykselle merkittäviä varoja tätä roolia varten, kun turvallisuustiimit valmistautuvat yritysympäristöön, jota yhä enemmän asuttavat autonomiset ohjelmistot.