Nati Hazut, Bold Securityn toimitusjohtaja ja toinen perustaja – haastattelusarja

Nati Hazut on Bold Securityn toimitusjohtaja ja toinen perustaja. Aiemmin hän oli mukana perustamassa SAM Seamless Networkia ja Polyrizea, ja kartutti niiden myötä kokemusta verkkoon liitettyjen laitteiden tietoturvasta, identiteetin suojauksesta, pilvipalvelujen käyttöoikeuksista ja tietosuojasta. Boldissa hän hyödyntää näitä oppeja suojatakseen työntekijöiden, tekoälyagenttien ja arkaluonteisten yritystietojen välisiä vuorovaikutustilanteita.

Bold Security kehittää päätelaitteiden tietosuojateknologiaa, joka hyödyntää suoraan laitteissa toimivia pieniä kielimalleja arkaluonteisten tietojen luokitteluun ja niiden käytön ymmärtämiseen. Alusta tarjoaa tietoturvatiimeille keinoja opastaa käyttäjiä, ohjata toimintaa muualle tai estää riskialttiita toimia selaimissa, työpöytäsovelluksissa ja tekoälyagenteissa. Tässä haastattelussa Hazut kertoo varjotekoälystä, laitteessa toimivasta älystä, autonomisista agenteista ja yritystietojen ympärillä muuttuvasta tietoturvan rajapinnasta.

Olet aiemmin ollut mukana perustamassa SAM Seamless Networkia ja Polyrizea ennen kuin perustit Bold Securityn yhdessä Hadar Krasnerin ja Omri Mallisin kanssa. Mitä muutoksia näit yritysten tietoturvassa ja tekoälyn käytössä, jotka vakuuttivat sinut siitä, että alalle tarvittiin jälleen yksi tietoturvayritys, joka rakennettaisiin alusta asti?

Tekoäly on ennen kaikkea muuttanut sitä, missä työtä tehdään. Vuosikymmenten ajan ihmisten arkaluonteisimmat yritystietoihin liittyvät toimet tapahtuivat selaimissa ja SaaS-sovelluksissa, joihin tietoturvaratkaisut oli nimenomaan suunnattu. Nyt yhä suurempi osa työstä tehdään itse päätelaitteella: ihmiset kirjoittavat sisältöä työpöydällä toimivassa tekoälyavustajassa, liittävät lähdekoodia natiivisovellukseen ja suorittavat agentteja, jotka käsittelevät suoraan kannettavan tietokoneen tiedostoja, sovelluksia ja yrityksen järjestelmiä.

Tämä muutos rikkoi oletukset, joille useimmat tietoturvatuotteet oli rakennettu. Verkkoliikenteen tarkastelu näkee vain sen liikenteen, joka kulkee tarkastelujärjestelmän kautta, ja työpöytäsovellukset salaavat oman liikenteensä ja ohittavat välityspalvelimen. CASB näkee hyväksytyt pilvisovellukset. DSPM näkee pilvitallennustilassa olevat tiedot. Mikään niistä ei näe paikallista tiedostoa, joka siirtyy työpöydän tekoälysovellukseen, eikä agenttia, joka siirtää tietoja ilman, että kukaan käyttää näppäimistöä.

Perustimme Boldin, koska päätelaite on ainoa paikka, jossa kaikki tämä yhdistyy. Siellä näkee tiedot, niitä käsittelevän työntekijän tai agentin, sen, mitä tämä yrittää tehdä, sekä sen, minne tiedot ovat menossa. Tilanteeseen voi myös puuttua ennen kuin arkaluonteiset tiedot poistuvat yrityksen hallinnasta.

Varjotekoälyn käyttö voi ulottua työntekijöiden henkilökohtaisista ChatGPT-tileistä työpöytäsovelluksiin, selainlaajennuksiin, rajapintoihin, Model Context Protocol -yhteyksiin ja yhä itsenäisemmin toimiviin agentteihin. Millaisia varjotekoälyn käyttötapoja yritysten tietoturvatiimien on nykyään vaikeinta havaita ja hallita?

Vielä vuosi sitten kaikki olivat huolissaan ”varjotekoälystä”, mutta keskustelu on alkanut syventyä. Yritysten tietoturvatiimit ymmärtävät, että työntekijät ottavat uusia tekoälytyökaluja käyttöön nopeammin kuin koskaan. Siksi kysymys ei enää niinkään ole työkalujen kartoittamisesta vaan niiden kautta kulkevien tietojen hallinnasta.

Et tietenkään voi hallita sitä, mitä et näe. Vaikeimmin havaittavia ovat ne kanavat, jotka eivät koskaan kulje kenenkään valvoman verkkoyhteyden kautta. Työpöytäsovellukset lukevat tiedostoja suoraan laitteelta ja salaavat verkkoliikenteensä, joten mikään liikenne ei kulje niiden tarkastamiseen tarkoitettujen työkalujen kautta. Agenteilla on pääsy yrityksen tietoihin, ja ne jatkavat niiden käyttöä ilman, että työntekijän tarvitsee antaa niille aineistoa joka kerta.

Kaikki nämä ovat uusia tiedon ulosvientikanavia, ja ratkaisevaa on se, mitä niiden kautta siirtyy. Julkisen asiakirjan siirtäminen hyväksytylle yritystilille ei ole sama asia kuin asiakastietokannan tai omistusoikeudella suojatun lähdekoodin siirtäminen henkilökohtaiselle tilille. Tämän eron näkee vain siellä, missä tiedot sijaitsevat ja missä toiminta tapahtuu. Siksi näkymätön varjotekoälyn käyttö on myös se alue, jolla tiedon luonteella on eniten merkitystä.

Boldin lähestymistapa painottaa päätelaitteita: tekoäly toimii paikallisesti laitteella, eikä ratkaisu nojaa ensisijaisesti verkon tai pilven valvontaan. Mitä laitteessa toimiva malli pystyy ymmärtämään tekoälyn käytöstä sellaista, mitä perinteinen tietojen menetyksen estäminen (DLP) ei pysty?

Bold toimii kahdella tavalla eri tavoin. Ensinnäkin käytämme tekoälyä arkaluonteisten tietojen suojaamiseen lähettämättä niitä analysoitaviksi toiseen tekoälypalveluun. Pienet kielimallimme toimivat suoraan laitteella, jossa ne pystyvät ymmärtämään, mitkä tiedot ovat arkaluonteisia, kuka niitä käyttää ja minne ne ovat menossa. Näin voimme tunnistaa ja estää riskialttiit toimet reaaliajassa ilman kaikkeen tiedon lähettämiseen pilveen liittyvää viivettä ja kustannuksia.

Toiseksi ulotamme suojauksen perinteisten tietoturvatyökalujen valvomien kanavien ulkopuolelle. Suurin osa markkinoista keskittyy yhä selaimiin ja verkkoliikenteeseen, mutta arkaluonteisia tietoja siirretään yhä enemmän työpöydän tekoälysovelluksissa, koodaustyökaluissa, päätelaitteen komentorivikäyttöliittymissä ja autonomisissa agenteissa. Perinteisten DLP- ja pilvitietoturvatuotteiden on paljon vaikeampi havaita niitä.

Kun toimimme päätelaitteella, voimme suojata tietoja kaikissa näissä ympäristöissä ja puuttua tilanteeseen ennen kuin arkaluonteiset tiedot poistuvat yrityksen hallinnasta.

Teknologianne on suunniteltu ymmärtämään paitsi sitä, mitä tietoja käytetään, myös toiminnan kontekstia ja tarkoitusta. Miten erotatte arkaluonteisten tietojen oikeutetun käytön toiminnasta, joka aiheuttaa todellisen tietoturvariskin, synnyttämättä samalla liikaa vääriä hälytyksiä?

Tässä kaikessa ratkaisevaa on konteksti. Kaikkia tiedostojen latauksia tai agenttien tietojen käyttöä ei voi pitää tietoturvapoikkeamina, tai muuten kukaan ei saa mitään tehtyä.

Sama tiedosto voi yhdessä paikassa olla rutiininomainen ja toisessa vakava ongelma. Asiakasluettelo kuuluu tukityökaluun, mutta sen lataaminen henkilökohtaiselle tilille on todellinen ongelma. Lähdekoodi kuuluu koodivarastoon, ei kuluttajille suunnatulle tekoälytyökalulle annettavaan kehotteeseen.

Työkalu, joka tietää vain sisällön osuneen sääntöön, joutuu merkitsemään molemmat tapaukset tai ei kumpaakaan. Siitä syntyy vääriä hälytyksiä. Kun tiedetään, mitä data on, kuka sitä siirtää ja minne se on menossa, voidaan erottaa tekoälyn tavanomainen käyttö todellisesta riskistä.

Tekoälyagentit tuovat tietoturvaan uuden toimintamallin, sillä ohjelmistot voivat yhä useammin käyttää tiedostoja, kutsua työkaluja, muodostaa yhteyksiä MCP-palvelimien kautta ja suorittaa toimia ihmisen osallistuessa vain vähän. Miten päätelaitteiden tietoturvan on kehityttävä, kun arkaluonteisia yritystietoja käsittelevä toimija voi olla työntekijän sijaan itsenäisesti toimiva agentti?

Tietoturva on suurelta osin rakennettu ihmisten toimintaa varten, mutta agentit voivat nyt toimia koneen nopeudella: avata tiedostoja, käyttää työkaluja ja siirtää dataa ilman, että joku hyväksyy jokaisen vaiheen. Tietoturvan on toimittava samalla nopeudella. Monet tuotteet käyttävät tekoälyä tapahtumien analysointiin jälkikäteen. Me käytämme sitä riskialttiiden toimien ymmärtämiseen ja pysäyttämiseen reaaliajassa, myös silloin, kun ne tapahtuvat selaimen ulkopuolella.

Agentti voi hoitaa tehtävää työpöytäsovelluksessa, komentorivillä tai jossakin toisessa työkalussa, jonka se löytää tehtävää suorittaessaan. Tietoturvan on seurattava dataa ja toimia näissä ympäristöissä riippumatta siitä, vastaako niistä ihminen vai agentti.

Tämä herättää myös kysymyksen, jota tietoturvatiimien ei ole aiemmin tarvinnut esittää. Kun tapahtuu jotakin riskialtista, tekikö henkilö sen tarkoituksella vai toimiko agentti väärin? Näihin tilanteisiin tarvitaan erilaiset vastatoimet. Jos työntekijä tekee huonon ratkaisun, häntä ohjataan parempaan. Jos agentti tekee jotakin, mitä kukaan ei ole pyytänyt, se pysäytetään.

Päätelaitteessa nämä voidaan erottaa toisistaan, sillä siellä data, prosessi ja toiminto näkyvät yhdessä.

Monet yritykset ovat vastanneet generatiivisen tekoälyn riskeihin rajoittamalla tai kieltämällä tiettyjä työkaluja. Uskotko, että organisaatiot ovat siirtymässä malliin, jossa lähes kaikki tekoälytyökalut voidaan sallia, kunhan niiden käyttöoikeuksia dataan ja datan määränpäitä hallitaan?

Yleiskielloilla ei ratkaista tätä ongelmaa. Työntekijät voivat löytää uuden tekoälytyökalun ja alkaa käyttää sitä sekunneissa, eivätkä useimmat yritä kiertää tietoturvaa. He haluavat vain tehdä työnsä nopeammin.

Parempi kysymys on, mitä yrityksen datalle tapahtuu, kun työntekijät käyttävät näitä työkaluja.

Jos joku käyttää henkilökohtaista tekoälytiliä harmittomaan työhön, hänet voi ehkä vain ohjata käyttämään yritystiliä. Jos hän on lähettämässä lähdekoodia, asiakastietoja tai kirjautumistietoja paikkaan, johon yritys ei sitä salli, tietoturvan on puututtava asiaan.

Uskon, että tähän suuntaan ollaan menossa. Annetaan ihmisille mahdollisuus käyttää tekoälyä, mutta hallitaan dataa koskevia riskejä. Tiedetään, mitä tietoja käytetään, minne ne ovat menossa ja milloin on puututtava asiaan.

Tekoälyn suorittaminen paikallisesti voi tuoda etuja viiveen ja yksityisyyden kannalta, mutta päätelaitteiden laskentateho ja muisti ovat rajallisia. Millaisia teknisiä kompromisseja jouduitte tekemään rakentaessanne malleja, jotka pystyvät luokittelemaan dataa semanttisesti ja valvomaan sen käyttöä reaaliajassa suoraan työntekijöiden laitteilla?

Et voi asentaa jonkun kannettavaan tietokonetta kuormittavaa jättimallia, kuluttaa sen suoritinta ja muistia ja kutsua sitä tietoturvaksi. Jos tietoturvatuotteesi tekee tietokoneen käytöstä tuskallisen hidasta, työntekijät alkavat vihata sitä ja IT-osasto kytkee sen pois päältä.

Kompromisseja on siis aivan todellisia. Mallin on ymmärrettävä dataa riittävän hyvin erottaakseen harmittoman arkaluonteisesta, mutta sen on myös oltava riittävän nopea, pieni ja luotettava toimiakseen jatkuvasti taustalla.

Aluksi rakensimme malleja, jotka pystyvät luokittelemaan dataa hyödyllisesti erilaisilla tietokoneilla hidastamatta niitä. Olemme jo tehneet tämän teknisen työn, joten asiakkaiden ei tarvitse tehdä näitä kompromisseja itse.

Käyttäjäkokemus on ollut kehitystyömme tärkein painopiste alusta asti. Tuotteemme käyttää noin 20 % siitä laskentatehosta, jota kilpailijoiden perinteiset, tekoälyä hyödyntämättömät agentit käyttävät, ja tekee päätökset paikallisesti toiminnon tapahtuessa. Arkaluonteisen datan ei tarvitse poistua laitteelta vain sen selvittämiseksi, onko se arkaluonteista.

Bold pystyy tunnistamaan tekoälytyökaluja, tilejä ja agenttien toimintaa sekä ohjaamaan käyttäjiä, suuntaamaan heidät toimiin, jotka ovat turvallisempia, tai estämään riskialttiita toimia. Miten määritätte, milloin järjestelmän pitäisi vain varoittaa käyttäjää ja milloin toiminto pitäisi pysäyttää automaattisesti?

Ajattele, miten hyvä kollega toimisi tilanteessa. Jos olisit juuri liittämässä luonnosta henkilökohtaiseen ChatGPT-tiliisi, hän kumartuisi puoleesi ja sanoisi: ”Hei, meillä on sitä varten yritystili.” Jos olisit juuri lataamassa asiakastietokantaa henkilökohtaiseen Driveesi, hän tarttuisi käsivarteesi.

Pyrimme toimimaan samalla tavalla, ja kokemuksemme mukaan ohjaus auttaa käyttäjiä valitsemaan turvallisen vaihtoehdon vähintään 90-prosenttisesti. Useimmiten kyse on siitä, että joku on vahingossa väärällä tilillä tai ei tunne yrityksen käytäntöjä siitä, minne tietoja saa tallentaa.

Asiakas päättää viime kädessä, missä tilanteissa toiminta estetään, ja jokainen yritys vetää rajan omalla tavallaan. Meidän tehtävämme on antaa asiakkaalle tarvittava konteksti ja varmuus oikean päätöksen tekemiseen. Monimutkaisemmissa riskialttiissa toimintaketjuissa tämä tarkoittaa aiemmin mainitsemaamme kontekstia, jota arvioidaan käyttäjän oman historian ja jopa hänen vertaisryhmänsä perusteella.

Olet urallasi siirtynyt SAMissa verkkoon kytkettyjen laitteiden suojaamisesta Polyrizessä identiteettien ja pilvipalvelujen käyttöoikeuksien hallintaan ja nyt Boldilla ihmisten, tekoälyagenttien ja yritysdatan välisten vuorovaikutusten suojaamiseen. Miten käsityksesi kyberturvallisuuden perustavanlaatuisesta rajapinnasta on muuttunut näiden kolmen sukupolven aikana?

Käsitykseni tietoturvan perusteista on kirkastunut. Yhteistä kaikelle on tietoturvan tuominen lähelle sitä, missä toiminta tapahtuu, ja sen varmistaminen, että se toimii laajassa mittakaavassa.

SAMissa toimme yritystason tietoturvan hyvin rajallisin resurssein varustettuihin reitittimiin. Se opetti meille, miten edistynyttä teknologiaa voidaan tuoda tehokkaasti verkon reunalle. Polyrizessä keskityimme suojaamaan pilvi- ja SaaS-ympäristöissä olevaa dataa näkyvyyden ja tietoturvan tilanhallinnan avulla. Altistumisen ymmärtäminen on olennaista, mutta se ei välttämättä auta estämään riskialtista toimintaa.

Bold yhdistää nämä opit. Sijoitamme älykkyyden päätelaitteeseen, jossa ihmiset ja tekoälyagentit käsittelevät dataa, ja annamme tietoturvatiimeille kontekstin, jonka avulla ne voivat ymmärtää riskit ja puuttua niihin reaaliajassa.

Verkko- ja pilvipalvelujen tietoturva ovat yhä tärkeitä, mutta päätelaitteella voidaan nähdä toimintaa työpöytäsovelluksissa, paikallisissa tiedostoissa, henkilökohtaisilla tileillä ja laitteessa toimivissa agenteissa. Olen oppinut, että tietoturvan toimintapaikka ja -ajankohta ovat yhtä tärkeitä kuin sen älykkyys.

Kun katsotaan kolmen–viiden vuoden päähän ja työntekijät työskentelevät yhä autonomisempien tekoälyagenttien rinnalla, millaiseksi uskot yritysten päätelaitteiden kehittyvän? Voimmeko päästä tilanteeseen, jossa jokaisessa laitteessa on oma älykäs tietoturvakerroksensa, joka arvioi jatkuvasti, mitkä ihmiset ja agentit saavat käsitellä tiettyä dataa?

Uskon, että juuri tähän olemme menossa.

Päätelaitteesta tulee älykäs tietoturvakerros, joka ymmärtää laitteella olevan datan, tunnistaa, käsitteleekö sitä ihminen vai agentti, ja päättää paikallisesti, mitä saa ja mitä ei saa tehdä.

Tämä on entistä tärkeämpää agenttien muuttuessa autonomisemmiksi. Yhdellä ihmisellä voi olla samanaikaisesti useita hänen puolestaan työskenteleviä agentteja, jotka käsittelevät tiedostoja, sovelluksia ja yrityksen järjestelmiä. Tietoturva ei voi perustua siihen, että kyseinen henkilö hyväksyy jokaisen vaiheen, sillä yhä useammin hän ei seuraa agenttien toimintaa.

Dataa on edelleen suojattava, mutta sitä käyttävien toimijoiden määrä kasvaa huomattavasti suuremmaksi kuin yksi näppäimistön ääressä istuva ihminen. Tietoturvajärjestelmien on voitava viestiä agenttien kanssa, tehdä päätöksiä ja reagoida itsenäisesti toiminnan aikana. Järjestelmiä käyttävät ihmiset valvovat yhä enemmän hallintakeinoja ja päätöksiä sen sijaan, että tarkastelisivat jokaista yksittäistä tapahtumaa. Päätelaitteella tällaisia päätöksiä voidaan tehdä datan ollessa edelleen yrityksen hallinnassa.

Kiitos hienosta haastattelusta. Lukijat, jotka haluavat tutustua päätelaitteiden tietosuojaukseen ja tekoälyn turvalliseen käyttöönottoon yrityksissä, voivat vierailla sivustolla Bold Security.