Nati Hazut, administrerende direktør og medgrunnlegger av Bold Security – intervjuserie

Nati Hazut er administrerende direktør og medgrunnlegger av Bold Security. Tidligere var han med på å grunnlegge SAM Seamless Network og Polyrize, der han opparbeidet seg erfaring med sikkerhet for tilkoblede enheter, identitet, tillatelser i skyen og databeskyttelse. I Bold bruker han denne erfaringen til å sikre samspillet mellom ansatte, KI-agenter og sensitive bedriftsdata.

Bold Security utvikler teknologi for databeskyttelse på endepunkter. Den bruker små språkmodeller som kjører direkte på enhetene, til å klassifisere sensitiv informasjon og forstå hvordan den brukes. Plattformen gir sikkerhetsteam verktøy for å veilede brukere, omdirigere aktivitet eller blokkere risikofylte handlinger i nettlesere, skrivebordsprogrammer og KI-agenter. I dette intervjuet snakker Hazut om skygge-KI, intelligens på enheten, autonome agenter og hvordan sikkerhetsgrensen rundt bedriftsdata er i endring.

Du var tidligere med på å grunnlegge SAM Seamless Network og Polyrize før du startet Bold Security sammen med Hadar Krasner og Omri Mallis. Hva så du endre seg innen bedriftssikkerhet og KI som overbeviste deg om at det var behov for å bygge et nytt sikkerhetsselskap fra grunnen av?

Det viktigste KI har ført til, er at arbeidet foregår andre steder. I flere tiår skjedde det mest sensitive folk gjorde med bedriftsdata, i nettlesere og SaaS-applikasjoner. Det var nettopp der sikkerhetsløsningene var konsentrert. Nå foregår mer av arbeidet på selve enheten: Folk skriver utkast i en KI-assistent på skrivebordet, limer inn kildekode i en innebygd app og kjører agenter som får direkte tilgang til filer, applikasjoner og bedriftssystemer på den bærbare datamaskinen.

Dette skiftet brøt med forutsetningene de fleste sikkerhetsprodukter var bygget på. Nettverksovervåking ser bare trafikk som går gjennom den, mens skrivebordsprogrammer krypterer trafikken sin og omgår proxyen. CASB ser godkjente skyapper. DSPM ser data som ligger i skylagring. Ingen av dem ser en lokal fil som legges inn i en KI-app på skrivebordet, eller en agent som flytter data uten at noen sitter ved tastaturet.

Vi startet Bold fordi endepunktet er det ene stedet der alt dette samles. Der kan du se dataene, den ansatte eller agenten som samhandler med dem, hva vedkommende prøver å gjøre, og hvor informasjonen er på vei. Og du kan gripe inn før sensitive data forlater selskapets kontroll.

Skygge-KI kan omfatte alt fra ansatte som bruker sine personlige ChatGPT-kontoer, til skrivebordsprogrammer, nettleserutvidelser, API-er, Model Context Protocol-tilkoblinger og stadig mer autonome agenter. Hvilke former for skygge-KI synes sikkerhetsteam i bedrifter det er vanskeligst å oppdage og kontrollere i dag?

For et år siden var alle bekymret for «skygge-KI», men samtalen er i ferd med å bli mer nyansert. Sikkerhetsteam i bedrifter innser at ansatte tar i bruk nye KI-verktøy raskere enn noen gang. Spørsmålet handler derfor mindre om å kartlegge verktøyene og mer om å kontrollere dataene som går gjennom dem.

Selvfølgelig kan du ikke kontrollere det du ikke kan se. De kanalene som er vanskeligst å få øye på, er dem som aldri går gjennom en nettverksbane noen overvåker. Skrivebordsprogrammer leser filer direkte fra enheten og krypterer trafikken sin, slik at ingenting går gjennom verktøyene som er laget for å inspisere den. Agenter har tilgang til bedriftsinformasjon og fortsetter å bruke den uten at en ansatt må gi dem noe hver gang.

Alt dette er nye kanaler for dataeksfiltrering, og det avgjørende spørsmålet er hva som sendes gjennom dem. Et offentlig dokument som legges inn i en godkjent bedriftskonto, er ikke det samme som en kundedatabase eller proprietær kildekode som legges inn i en personlig konto. Denne forskjellen er bare synlig der dataene befinner seg og handlingen skjer. Derfor er det også der spørsmålet om data betyr mest, at skygge-KI er vanskeligst å få øye på.

Bold har en tilnærming der endepunktet står i sentrum, og kjører KI lokalt på enheten i stedet for først og fremst å basere seg på overvåking av nettverk eller sky. Hva kan en modell på enheten forstå om en KI-interaksjon som tradisjonell forebygging av datatap ikke kan?

Bold gjør to ting annerledes. For det første bruker vi KI til å beskytte sensitive data uten å måtte sende dem til en annen KI-tjeneste for analyse. De små språkmodellene våre kjører direkte på enheten, der de kan forstå hvilke data som er sensitive, hvem som får tilgang til dem, og hvor de er på vei. Dermed kan vi identifisere og stanse risikofylte handlinger i sanntid, uten forsinkelsen og kostnaden ved å sende alt til skyen.

For det andre går vi lenger enn kanalene tradisjonelle sikkerhetsverktøy overvåker. Det meste av markedet er fortsatt rettet mot nettlesere og nettverkstrafikk, men stadig mer sensitive data går gjennom KI-applikasjoner på skrivebordet, kodeverktøy, terminaler og autonome agenter. Disse er langt vanskeligere å oppdage for konvensjonelle DLP-løsninger og skysikkerhetsprodukter.

Ved å arbeide på endepunktet kan vi beskytte data i alle disse miljøene og gripe inn før sensitiv informasjon forlater selskapets kontroll.

Teknologien deres er utviklet for å forstå ikke bare hvilke data som åpnes, men også sammenhengen og hensikten bak en handling. Hvordan skiller dere mellom legitim bruk av sensitiv informasjon og atferd som utgjør en reell sikkerhetsrisiko, uten å utløse for mange falske positiver?

Konteksten er avgjørende her. Du kan ikke behandle hver filopplasting eller hver agent som får tilgang til data, som en sikkerhetshendelse. Da får ingen gjort noe arbeid.

Den samme filen kan være helt uproblematisk ett sted og utgjøre et alvorlig problem et annet. Det er forventet å finne en kundeliste i kundestøtteverktøyet, men det er et reelt problem hvis den lastes opp til en personlig konto. Kildekode hører hjemme i kodelageret, ikke i en forespørsel til et KI-verktøy for forbrukere.

Et verktøy som bare vet at innholdet samsvarer med en regel, må enten varsle om begge tilfellene eller ingen av dem. Det er slik falske positiver oppstår. Ved å vite hva dataene inneholder, hvem som flytter dem, og hvor de skal, kan man skille normal bruk av KI fra reell risiko.

KI-agenter fører til en annen sikkerhetsmodell, fordi programvare i stadig større grad kan få tilgang til filer, bruke verktøy, koble seg til via MCP-servere og utføre handlinger med begrenset menneskelig involvering. Hvordan må endepunktsikkerheten utvikle seg når aktøren som samhandler med sensitive bedriftsdata, kan være en autonom agent i stedet for en ansatt?

Sikkerheten har i stor grad vært bygget rundt mennesker, men agenter kan nå handle i maskinhastighet, åpne filer, bruke verktøy og flytte data uten at noen godkjenner hvert trinn. Sikkerheten må fungere i samme tempo. Mange produkter bruker KI til å analysere hendelser i etterkant. Vi bruker KI til å forstå og stanse risikofylte handlinger i sanntid, også handlinger som skjer utenfor nettleseren.

En agent kan arbeide via et skrivebordsprogram, en terminal eller et annet verktøy den finner mens den utfører en oppgave. Sikkerheten må følge dataene og handlingene på tvers av disse miljøene, uansett om det er en person eller en agent som står bak.

Dette reiser også et spørsmål sikkerhetsteam ikke har trengt å stille før. Når noe risikofylt skjer, var det personens hensikt å gjøre det, eller gjorde agenten en feil? Det krever ulike tiltak. Hvis en ansatt tar en dårlig beslutning, veileder du vedkommende. Hvis en agent gjør noe ingen har bedt den om, stanser du den.

Det er på endepunktet du kan se forskjellen, fordi det er der dataene, prosessen og handlingen kommer til syne samtidig.

Mange virksomheter har møtt risikoen ved generativ KI med å begrense eller forby enkelte verktøy. Tror du organisasjoner går mot en modell der praktisk talt alle KI-verktøy kan tillates, så lenge det finnes kontroller for hvilke data verktøyene får tilgang til, og hvor disse dataene kan sendes?

Totalforbud kommer ikke til å løse dette. Ansatte kan finne et nytt KI-verktøy og begynne å bruke det i løpet av sekunder, og de fleste prøver ikke å omgå sikkerheten. De prøver å få gjort jobben raskere.

Det viktigere spørsmålet er hva som skjer med bedriftsdataene når de bruker disse verktøyene.

Hvis noen bruker en personlig KI-konto til ufarlig arbeid, kan det hende du bare trenger å vise dem til bedriftskontoen. Hvis de er i ferd med å sende kildekode, kundeinformasjon eller påloggingsopplysninger til et sted bedriften ikke tillater, må sikkerhetsteamet gripe inn.

Jeg tror det er denne veien utviklingen går. Gi folk rom til å bruke KI, men sett rammer for dataene. Vit hva som blir brukt, hvor det sendes, og når dere må gripe inn.

KI som kjøres lokalt, kan gi fordeler når det gjelder responstid og personvern, men endepunktenheter har også begrenset regnekapasitet og minne. Hvilke tekniske avveininger møtte dere da dere utviklet modeller som kan klassifisere data semantisk og håndheve regler i sanntid direkte på de ansattes enheter?

Du kan ikke legge en enorm modell på noens bærbare PC, bruke opp prosessorkraften og minnet og kalle det sikkerhet. Hvis sikkerhetsproduktet ditt gjør datamaskinen ubehagelig å bruke, kommer de ansatte til å mislike det, og IT kommer til å slå det av.

Avveiningene er altså svært reelle. Modellen må forstå dataene godt nok til å skille mellom noe ufarlig og noe sensitivt, samtidig som den må være rask, liten og pålitelig nok til å kjøre kontinuerlig i bakgrunnen.

Det første arbeidet gikk ut på å bygge modeller som kunne klassifisere ulike datatyper på en nyttig måte, uten å gjøre datamaskinene tregere. Vi har allerede utført dette utviklingsarbeidet, slik at kundene slipper å ta disse avveiningene selv.

Brukeropplevelsen har vært vår høyeste prioritet gjennom hele utviklingen. Produktet vårt bruker omtrent 20 % av datakraften som konkurrentenes eldre agenter uten KI bruker, samtidig som det tar beslutninger lokalt idet en handling utføres. Sensitive data trenger ikke å forlate enheten bare for å avgjøre om de er sensitive.

Bold kan identifisere KI-verktøy, kontoer og agentaktivitet, samtidig som systemet veileder brukeren, omdirigerer handlinger eller blokkerer risikofylte handlinger. Hvordan avgjør dere når systemet bare skal advare brukeren, og når det automatisk skal stanse en handling?

Tenk på hvordan en god kollega ville håndtert situasjonen. Hvis du er i ferd med å lime inn et utkast i din personlige ChatGPT, ville kollegaen lent seg over og sagt: «Hei, vi har en bedriftskonto til det.» Hvis du er i ferd med å laste opp kundedatabasen til din personlige Drive-konto, ville kollegaen tatt tak i armen din.

Vi prøver å arbeide på samme måte, og vi ser at veiledning er minst 90 % effektivt når det gjelder å lede brukerne over til det trygge alternativet. I de fleste tilfellene har noen ved et uhell brukt feil konto, eller så kjenner de ikke selskapets retningslinjer for hvor data kan lagres.

Hvor grensen skal trekkes for blokkering, er til syvende og sist kundens avgjørelse, og hvert selskap trekker den grensen forskjellig. Vår oppgave er å gi kundene den konteksten og tryggheten de trenger for å ta riktig avgjørelse. For mer komplekse risikofylte arbeidsflyter innebærer det å bruke konteksten vi snakket om tidligere, sammenholdt med brukerens egen historikk og til og med historikken til sammenlignbare kolleger.

Karrieren din har gått fra å sikre tilkoblede enheter hos SAM, via identitets- og skytilgangstillatelser hos Polyrize, til nå å beskytte samspillet mellom mennesker, KI-agenter og virksomhetsdata hos Bold. Hvordan har synet ditt på den grunnleggende sikkerhetsgrensen endret seg gjennom disse tre generasjonene av cybersikkerhet?

Synet mitt på det grunnleggende har blitt tydeligere. Den røde tråden er å bringe sikkerheten nærmere der handlingene skjer, og få den til å fungere i stor skala.

Hos SAM sørget vi for sikkerhet på bedriftsnivå i rutere med svært begrensede ressurser. Det lærte oss hvordan vi kunne bringe avansert teknologi ut til nettverkskanten på en effektiv måte. Hos Polyrize fokuserte vi på å beskytte data på tvers av sky- og SaaS-miljøer gjennom innsyn og håndtering av sikkerhetsstatus. Det er viktig å forstå eksponeringen, men det gjør det ikke nødvendigvis mulig å forhindre en risikofylt handling.

Bold samler disse lærdommene. Vi plasserer intelligens på endepunktet, der mennesker og KI-agenter samhandler med data, og gir sikkerhetsteamene konteksten de trenger for å forstå risiko og gripe inn i sanntid.

Nettverks- og skysikkerhet er fortsatt viktig, men endepunktet kan se aktivitet gjennom skrivebordsapplikasjoner, lokale filer, personlige kontoer og agenter som kjører på enheten. Jeg har lært at hvor og når sikkerheten virker, er like viktig som hvor intelligent den er.

Hvis vi ser tre til fem år fram i tid, og ansatte arbeider side om side med stadig mer autonome KI-agenter, hva tror du endepunktet i virksomheten vil utvikle seg til? Kan vi komme dit at hver enhet i praksis har sitt eget intelligente sikkerhetslag, som kontinuerlig avgjør hvilke mennesker og agenter som kan samhandle med bestemte data?

Jeg tror det er akkurat dit vi er på vei.

Endepunktet blir et intelligent sikkerhetslag som forstår hvilke data som finnes på enheten, vet om det er en person eller en agent som samhandler med dem, og lokalt avgjør hva som bør og ikke bør skje.

Dette blir viktigere etter hvert som agentene blir mer autonome. En person kan ha flere agenter som arbeider på deres vegne samtidig, på tvers av filer, applikasjoner og bedriftssystemer. Sikkerheten kan ikke basere seg på at personen godkjenner hvert trinn, for i stadig større grad kommer vedkommende ikke til å følge med.

Dataene må fortsatt beskyttes, men antallet aktører som får tilgang til dem, vil vokse langt utover én person ved et tastatur. Sikkerhetssystemene må kommunisere med agenter, ta beslutninger og reagere autonomt etter hvert som handlingene skjer. De som drifter systemene, vil i stadig større grad føre tilsyn med kontrollene og beslutningene, i stedet for å gjennomgå hver enkelt hendelse. Det er på endepunktet disse beslutningene kan tas mens dataene fortsatt er under selskapets kontroll.

Takk for et flott intervju. Lesere som ønsker å utforske beskyttelse av endepunktdata og sikker innføring av KI i virksomheter, bør besøke Bold Security.