Nati Hazut, administrerende direktør og medstifter af Bold Security – interviewserie

Nati Hazut er administrerende direktør og medstifter af Bold Security. Tidligere var han med til at grundlægge SAM Seamless Network og Polyrize, hvor han opbyggede erfaring med sikkerhed for forbundne enheder, identitet, adgangstilladelser i skyen og databeskyttelse. I sit arbejde hos Bold bruger han disse erfaringer til at sikre samspillet mellem medarbejdere, AI-agenter og følsomme virksomhedsdata.

Bold Security udvikler teknologi til beskyttelse af data på slutpunkter. Teknologien bruger små sprogmodeller, der kører direkte på enhederne, til at klassificere følsomme oplysninger og forstå, hvordan de bliver brugt. Platformen giver sikkerhedsteams mulighed for at vejlede brugere, omdirigere aktiviteter eller blokere risikable handlinger på tværs af browsere, skrivebordsprogrammer og AI-agenter. I dette interview taler Hazut om skygge-AI, intelligens på enheden, autonome agenter og den ændrede sikkerhedsgrænse omkring virksomhedsdata.

Du var tidligere med til at grundlægge SAM Seamless Network og Polyrize, før du startede Bold Security sammen med Hadar Krasner og Omri Mallis. Hvilke forandringer inden for virksomhedssikkerhed og AI så du, som overbeviste dig om, at der var behov for at starte et nyt sikkerhedsfirma helt fra bunden?

Det vigtigste, AI har medført, er en ændring af, hvor arbejdet foregår. I årtier foregik de mest følsomme ting, folk gjorde med virksomhedens data, i browsere og SaaS-programmer, og det var netop dér, sikkerhedsløsningerne var rettet mod. Nu foregår mere af arbejdet direkte på selve enheden: Folk skriver udkast i en AI-assistent til skrivebordet, indsætter kildekode i et lokalt program og kører agenter, der direkte på den bærbare computer tilgår filer, programmer og virksomhedssystemer.

Denne udvikling brød med de antagelser, som de fleste sikkerhedsprodukter var bygget på. Netværksovervågning kan kun se trafik, der passerer gennem den, og skrivebordsprogrammer krypterer deres trafik og omgår proxyen. CASB kan se godkendte cloudprogrammer. DSPM kan se data, der ligger i cloudlager. Ingen af dem kan se en lokal fil, der åbnes i et AI-program på skrivebordet, eller en agent, der flytter data, uden at nogen sidder ved tastaturet.

Vi startede Bold, fordi slutpunktet er det ene sted, hvor det hele samles. Her kan man se dataene, medarbejderen eller agenten, der arbejder med dem, hvad vedkommende forsøger at gøre, og hvor oplysningerne er på vej hen. Og man kan gribe ind, før følsomme data slipper ud af virksomhedens kontrol.

Skygge-AI kan spænde fra medarbejdere, der bruger personlige ChatGPT-konti, til skrivebordsprogrammer, browserudvidelser, API’er, forbindelser via Model Context Protocol og stadig mere autonome agenter. Hvilke former for skygge-AI er i dag sværest for virksomheders sikkerhedsteams at opdage og kontrollere?

For et år siden var alle bekymrede for »skygge-AI«, men samtalen er ved at blive mere nuanceret. Sikkerhedsteams i virksomheder erkender, at medarbejderne tager nye AI-værktøjer i brug hurtigere end nogensinde. Spørgsmålet handler derfor mindre om at kortlægge værktøjerne og mere om at kontrollere de data, der passerer gennem dem.

Man kan selvfølgelig ikke kontrollere det, man ikke kan se. De kanaler, der er sværest at overvåge, er dem, der aldrig passerer gennem en netværksforbindelse, nogen holder øje med. Skrivebordsprogrammer læser filer direkte fra enheden og krypterer deres trafik, så intet passerer gennem de værktøjer, der er udviklet til at overvåge den. Agenter har adgang til virksomhedens oplysninger og bliver ved med at bruge dem, uden at en medarbejder skal give dem noget hver gang.

Alle disse kanaler er nye veje til dataudslip, og det afgørende spørgsmål er, hvad der sendes gennem dem. Det er ikke det samme, om et offentligt dokument åbnes på en godkendt virksomhedskonto, eller om en kundedatabase eller proprietær kildekode sendes til en personlig konto. Den forskel er kun synlig dér, hvor dataene befinder sig, og handlingen finder sted. Derfor er det også dér, hvor du ikke kan se skygge-AI, at spørgsmålet om data er vigtigst.

Bold tager udgangspunkt i slutpunktet og kører AI lokalt på enheden i stedet for primært at være afhængig af overvågning af netværk eller skyen. Hvad kan en model på enheden forstå om en AI-interaktion, som traditionelle løsninger til forebyggelse af datatab ikke kan?

Bold gør to ting anderledes. For det første bruger vi AI til at beskytte følsomme data uden at skulle sende dem til en anden AI-tjeneste til analyse. Vores små sprogmodeller kører direkte på enheden, hvor de kan forstå, hvilke data der er følsomme, hvem der tilgår dem, og hvor de er på vej hen. Det gør det muligt for os at identificere og standse risikable handlinger i realtid uden forsinkelsen og omkostningerne ved at sende alt til skyen.

For det andet dækker vi også de kanaler, som traditionelle sikkerhedsværktøjer ikke overvåger. Størstedelen af markedet fokuserer stadig på browsere og netværkstrafik, men følsomme data sendes i stigende grad gennem AI-programmer til skrivebordet, kodeværktøjer, terminaler og autonome agenter. Disse er langt sværere at få øje på for konventionelle DLP- og cloud-sikkerhedsprodukter.

Ved at arbejde på slutpunktet kan vi beskytte data på tværs af alle disse miljøer og gribe ind, før følsomme oplysninger slipper ud af virksomhedens kontrol.

Jeres teknologi er udviklet til ikke blot at forstå, hvilke data der tilgås, men også sammenhængen og hensigten bag en handling. Hvordan skelner I mellem legitim brug af følsomme oplysninger og adfærd, der udgør en reel sikkerhedsrisiko, uden at skabe for mange falske positiver?

Konteksten er altafgørende her. Man kan ikke behandle hver eneste filupload eller enhver agents adgang til data som en sikkerhedshændelse, for så får ingen noget arbejde fra hånden.

Den samme fil kan være helt almindelig ét sted og udgøre et alvorligt problem et andet. En kundeliste hører hjemme i supportværktøjet, men bliver et reelt problem, hvis den uploades til en personlig konto. Kildekode hører hjemme i kodearkivet, ikke i en prompt til et AI-værktøj til privat brug.

Et værktøj, der kun ved, at indholdet matcher en regel, er nødt til enten at markere begge tilfælde eller ingen af dem. Det er sådan, falske positiver opstår. Når man ved, hvad dataene er, hvem der flytter dem, og hvor de skal hen, kan man skelne mellem normal brug af AI og reel risiko.

AI-agenter indfører en anden sikkerhedsmodel, fordi software i stigende grad kan få adgang til filer, aktivere værktøjer, oprette forbindelse via MCP-servere og udføre handlinger med begrænset menneskelig indblanding. Hvordan skal endpoint-sikkerheden udvikle sig, når den aktør, der interagerer med følsomme virksomhedsdata, kan være en autonom agent frem for en medarbejder?

Sikkerhed er i vid udstrækning blevet bygget op omkring mennesker, men agenter kan nu handle med maskiners hastighed, åbne filer, kalde værktøjer og flytte data uden at få hvert enkelt trin godkendt. Sikkerheden skal kunne følge med i samme tempo. Mange produkter bruger AI til at analysere hændelser, efter at de er sket. Vi bruger AI til at forstå og standse risikable handlinger i realtid, også handlinger, der foregår uden for browseren.

En agent kan arbejde via et skrivebordsprogram, en terminal eller et andet værktøj, som den finder undervejs i en opgave. Sikkerheden skal følge dataene og handlingerne på tværs af disse miljøer, uanset om det er en person eller en agent, der står bag.

Det rejser også et spørgsmål, som sikkerhedsteams ikke tidligere har været nødt til at stille. Når der sker noget risikabelt, var det så personens hensigt, eller begik agenten en fejl? Det kræver forskellige reaktioner. Hvis en medarbejder træffer en dårlig beslutning, vejleder man vedkommende. Hvis en agent gør noget, ingen har bedt om, standser man den.

Det er på endpointet, man kan se forskellen, fordi det er dér, dataene, processen og handlingen optræder samlet.

Mange virksomheder har håndteret risiciene ved generativ AI ved at begrænse eller forbyde visse værktøjer. Tror du, at organisationer bevæger sig hen imod en model, hvor stort set alle AI-værktøjer kan tillades, så længe der er kontrol med, hvilke data de kan få adgang til, og hvor dataene kan ende?

Generelle forbud løser ikke problemet. Medarbejdere kan finde et nyt AI-værktøj og begynde at bruge det på få sekunder, og de fleste forsøger ikke at omgå sikkerheden. De prøver bare at få arbejdet fra hånden hurtigere.

Det bedre spørgsmål er, hvad der sker med virksomhedens data, når medarbejderne bruger de værktøjer.

Hvis nogen bruger en personlig AI-konto til harmløst arbejde, kan man måske nøjes med at henvise dem til virksomhedens konto. Hvis de er ved at sende kildekode, kundeoplysninger eller adgangsoplysninger et sted hen, som virksomheden ikke tillader, er sikkerheden nødt til at gribe ind.

Jeg tror, det er den vej, udviklingen går. Giv folk frihed til at bruge AI, men indfør kontrol med dataene. Hold styr på, hvad der tilgås, hvor det sendes hen, og hvornår der er behov for at gribe ind.

Det kan give fordele for både svartid og databeskyttelse at køre AI lokalt, men endpoint-enheder har også begrænset regnekraft og hukommelse. Hvilke tekniske afvejninger måtte I foretage, da I udviklede modeller, der kan klassificere data semantisk og håndhæve regler i realtid direkte på medarbejdernes enheder?

Man kan ikke installere en kæmpestor model på en medarbejders bærbare, lade den bruge al processorkraften og hukommelsen og kalde det sikkerhed. Hvis sikkerhedsproduktet gør computeren uudholdelig at bruge, kommer medarbejderne til at hade det, og IT-afdelingen slukker for det.

Der er altså nogle helt reelle afvejninger. Modellen skal forstå data godt nok til at skelne mellem noget harmløst og noget følsomt, men den skal også være hurtig, lille og pålidelig nok til at køre kontinuerligt i baggrunden.

Det første arbejde bestod i at udvikle modeller, der kunne klassificere data effektivt på forskellige typer computere uden at gøre dem langsommere. Vi har allerede udført det tekniske arbejde, så kunderne ikke selv behøver at foretage de afvejninger.

Brugeroplevelsen har været vores højeste prioritet gennem hele udviklingen. Vores produkt bruger omkring 20 % af de computerressourcer, som konkurrenternes ældre agenter uden AI bruger, samtidig med at det træffer beslutninger lokalt, i det øjeblik en handling finder sted. Følsomme data behøver ikke at forlade enheden, blot for at afgøre, om de er følsomme.

Bold kan identificere AI-værktøjer, konti og agentaktivitet samt vejlede, omdirigere eller blokere risikable handlinger. Hvordan afgør I, hvornår systemet blot skal advare en bruger, og hvornår det automatisk skal standse en handling?

Tænk på, hvordan en god kollega ville håndtere situationen. Hvis du er ved at indsætte et udkast i din personlige ChatGPT, ville vedkommende læne sig over og sige: »Hey, vi har en firmakonto til det.« Hvis du er ved at uploade kundedatabasen til dit personlige Drive, ville vedkommende gribe fat i din arm.

Vi forsøger at arbejde på samme måde, og vi oplever, at vejledning er mindst 90 % effektiv til at få brugerne til at vælge det sikre alternativ. I de fleste tilfælde bruger nogen ved en fejl den forkerte konto, eller også kender de ikke virksomhedens politik for, hvor data må placeres.

Hvor grænsen for at blokere skal gå, er i sidste ende op til kunden, og alle virksomheder trækker den forskelligt. Vores opgave er at give dem den kontekst og sikkerhed, der skal til for at træffe det rigtige valg. I forbindelse med mere komplekse risikofyldte arbejdsgange betyder det, at konteksten, vi talte om tidligere, vurderes i forhold til brugerens egen historik og endda dennes kollegagruppe.

Din karriere har bevæget sig fra sikring af forbundne enheder hos SAM over identiteter og cloudtilladelser hos Polyrize til nu at beskytte interaktioner mellem mennesker, AI-agenter og virksomhedsdata hos Bold. Hvordan har dit syn på den grundlæggende sikkerhedsgrænse ændret sig gennem disse tre generationer af cybersikkerhed?

Mit syn på grundprincipperne er blevet skarpere. Den røde tråd er at bringe sikkerheden tæt på det sted, hvor handlingerne finder sted, og få den til at fungere i stor skala.

Hos SAM indførte vi sikkerhed på virksomhedsniveau i routere med meget begrænsede ressourcer. Det lærte os, hvordan vi effektivt kunne bringe avanceret teknologi ud til kanten af netværket. Hos Polyrize fokuserede vi på at beskytte data på tværs af cloud- og SaaS-miljøer gennem synlighed og styring af sikkerhedstilstanden. Det er afgørende at forstå eksponeringen, men det gør det ikke nødvendigvis muligt at forhindre en risikofyldt handling.

Bold samler disse erfaringer. Vi placerer intelligens på endepunktet, hvor mennesker og AI-agenter interagerer med data, og giver sikkerhedsteams den kontekst, de skal bruge for at forstå risikoen og gribe ind i realtid.

Netværks- og skysikkerhed er stadig vigtig, men endepunktet kan se aktivitet på tværs af skrivebordsprogrammer, lokale filer, personlige konti og agenter, der kører på enheden. Jeg har lært, at hvor og hvornår sikkerheden fungerer, er lige så vigtigt som dens intelligens.

Når vi ser tre til fem år frem, og medarbejdere arbejder sammen med stadig mere autonome AI-agenter, hvad forventer du så, at virksomhedens endepunkt bliver til? Kan vi nå dertil, hvor hver enhed reelt har sit eget intelligente sikkerhedslag, der løbende afgør, hvilke mennesker og agenter der må interagere med bestemte data?

Jeg tror, det er præcis den retning, vi bevæger os i.

Endepunktet bliver et intelligent sikkerhedslag, der forstår, hvilke data der findes på enheden, ved, om det er en person eller en agent, der interagerer med dem, og lokalt træffer beslutninger om, hvad der bør og ikke bør ske.

Det bliver endnu vigtigere, efterhånden som agenterne bliver mere autonome. En person kan have flere agenter, der arbejder på vedkommendes vegne på samme tid på tværs af filer, programmer og virksomhedssystemer. Sikkerheden kan ikke afhænge af, at personen godkender hvert trin, for vedkommende vil i stigende grad ikke følge med.

Dataene skal stadig beskyttes, men antallet af aktører, der får adgang til dem, vil vokse langt ud over én person ved et tastatur. Sikkerhedssystemer skal kunne kommunikere med agenter, træffe beslutninger og reagere autonomt, efterhånden som handlingerne finder sted. De mennesker, der driver systemerne, vil i stigende grad føre tilsyn med kontrollerne og beslutningerne frem for at gennemgå hver enkelt hændelse. Endepunktet er det sted, hvor disse beslutninger kan træffes, mens dataene stadig er under virksomhedens kontrol.

Tak for det gode interview. Læsere, der ønsker at udforske beskyttelse af data på endepunkter og sikker indførelse af AI i virksomheder, bør besøge Bold Security.