Nati Hazut, vd och medgrundare av Bold Security – intervjuserie

Nati Hazut är vd och medgrundare av Bold Security. Tidigare var han med och grundade SAM Seamless Network och Polyrize, där han byggde upp erfarenhet inom säkerhet för uppkopplade enheter, identitet, behörigheter i molnet och dataskydd. På Bold använder han dessa erfarenheter för att säkra samspelet mellan medarbetare, AI-agenter och känsliga företagsdata.

Bold Security utvecklar teknik för dataskydd på ändpunkter. Med hjälp av små språkmodeller som körs direkt på enheterna klassificerar tekniken känslig information och förstår hur den används. Plattformen ger säkerhetsteam verktyg för att vägleda användare, styra om aktiviteter eller blockera riskfyllda handlingar i webbläsare, datorprogram och AI-agenter. I den här intervjun talar Hazut om skugg-AI, lokal intelligens på enheten, autonoma agenter och hur säkerhetsgränsen kring företagsdata förändras.

Du var tidigare med och grundade SAM Seamless Network och Polyrize innan du startade Bold Security tillsammans med Hadar Krasner och Omri Mallis. Vad såg du förändras inom företagssäkerhet och AI som övertygade dig om att det behövdes ytterligare ett säkerhetsföretag, byggt från grunden?

Det viktigaste AI har gjort är att förändra var arbetet utförs. I årtionden utförde människor de mest känsliga arbetsuppgifterna med företagsdata i webbläsare och SaaS-program – just de miljöer som säkerhetslösningarna var inriktade på. Nu utförs allt mer av arbetet direkt på enheten: människor skriver utkast med en AI-assistent på datorn, klistrar in källkod i ett inbyggt program och kör agenter som direkt kommer åt filer, program och företagssystem på datorn.

Den här förändringen kullkastade de antaganden som de flesta säkerhetsprodukter bygger på. Nätverksinspektion ser bara trafik som passerar genom den, medan datorprogram krypterar sin trafik och kringgår proxyn. CASB ser godkända molnappar. DSPM ser data som lagras i molnet. Ingen av dem ser en lokal fil som förs in i ett AI-program på datorn eller en agent som flyttar data utan att någon sitter vid tangentbordet.

Vi startade Bold eftersom ändpunkten är den enda plats där allt detta möts. Där kan man se data, medarbetaren eller agenten som använder den, vad de försöker göra och vart informationen är på väg. Och man kan ingripa innan känsliga data lämnar företagets kontroll.

Skugg-AI kan omfatta allt från att medarbetare använder privata ChatGPT-konton till datorprogram, webbläsartillägg, API:er, anslutningar via Model Context Protocol och allt mer autonoma agenter. Vilka former av skugg-AI har visat sig vara svårast för företagens säkerhetsteam att upptäcka och kontrollera i dag?

För ett år sedan oroade sig alla för ”skugg-AI”, men diskussionen börjar nu gå djupare. Säkerhetsteam inom företag inser att medarbetare tar till sig nya AI-verktyg snabbare än någonsin. Frågan handlar därför mindre om att kartlägga verktygen och mer om att kontrollera vilka data som passerar genom dem.

Det är förstås omöjligt att kontrollera sådant man inte kan se. De kanaler som är svårast att se är de som aldrig passerar genom en nätverksväg som någon övervakar. Datorprogram läser filer direkt från enheten och krypterar sin trafik, så inget passerar genom verktygen som är byggda för att inspektera den. Agenter har åtkomst till företagsinformation och fortsätter att använda den utan att en medarbetare behöver ge dem något varje gång.

Allt detta är nya kanaler för dataexfiltrering, och den avgörande frågan är vilka data som förs genom dem. Att ett offentligt dokument förs in i ett godkänt företagskonto är inte samma sak som att en kunddatabas eller egenutvecklad källkod förs in i ett privat konto. Den skillnaden går bara att se där data finns och handlingen utförs. Därför är det också just där frågan om data är som viktigast som skugg-AI är svårast att upptäcka.

Bold utgår från ändpunkten och kör AI lokalt på enheten i stället för att främst förlita sig på övervakning av nätverk eller moln. Vad kan en modell på enheten förstå om en AI-interaktion som traditionella lösningar för att förebygga dataförlust inte kan?

Bold gör två saker annorlunda. För det första använder vi AI för att skydda känsliga data utan att behöva skicka dem till en annan AI-tjänst för analys. Våra små språkmodeller körs direkt på enheten, där de kan förstå vilka data som är känsliga, vem som använder dem och vart de är på väg. Det gör att vi kan upptäcka och stoppa riskfyllda handlingar i realtid, utan den fördröjning och kostnad som det innebär att skicka allt till molnet.

För det andra går vi längre än de kanaler som traditionella säkerhetsverktyg övervakar. Större delen av marknaden är fortfarande inriktad på webbläsare och nätverkstrafik, men allt oftare passerar känsliga data genom AI-program på datorer, kodningsverktyg, terminaler och autonoma agenter. Dessa är mycket svårare att upptäcka för traditionella lösningar för att förebygga dataförlust och molnsäkerhetsprodukter.

Genom att arbeta på ändpunkten kan vi skydda data i alla dessa miljöer och ingripa innan känslig information lämnar företagets kontroll.

Er teknik är utformad för att förstå inte bara vilka data som används, utan också sammanhanget och avsikten bakom en handling. Hur skiljer ni mellan legitim användning av känslig information och beteenden som innebär en verklig säkerhetsrisk, utan att skapa alltför många falsklarm?

Här är kontexten avgörande. Man kan inte behandla varje filuppladdning eller varje agents dataåtkomst som en säkerhetsincident, för då får ingen något gjort.

Samma fil kan vara helt rutinmässig på ett ställe och innebära ett allvarligt problem på ett annat. En kundlista hör hemma i supportverktyget, men blir ett verkligt problem om den laddas upp till ett privat konto. Källkod hör hemma i kodförrådet, inte i en prompt till ett AI-verktyg för konsumenter.

Ett verktyg som bara vet att innehållet matchade en regel måste flagga båda fallen eller inget av dem. Det är så falsklarm uppstår. Genom att veta vilka data det rör sig om, vem som flyttar dem och vart de är på väg kan man skilja normal AI-användning från verkliga risker.

AI-agenter innebär en annan säkerhetsmodell, eftersom programvara i allt större utsträckning kan komma åt filer, anropa verktyg, ansluta via MCP-servrar och utföra åtgärder med begränsad mänsklig inblandning. Hur behöver ändpunktssäkerheten utvecklas när den aktör som hanterar känsliga företagsdata kan vara en autonom agent i stället för en anställd?

Säkerheten har i stor utsträckning utformats med människor i åtanke, men agenter kan nu agera i maskinhastighet, öppna filer, anropa verktyg och flytta data utan att någon godkänner varje steg. Säkerheten måste fungera i samma hastighet. Många produkter använder AI för att analysera incidenter i efterhand. Vi använder AI för att förstå och stoppa riskfyllda åtgärder i realtid, även sådana som sker utanför webbläsaren.

En agent kan arbeta via ett skrivbordsprogram, en terminal eller ett annat verktyg som den hittar medan den utför en uppgift. Säkerheten måste följa data och åtgärder mellan dessa miljöer, oavsett om det är en människa eller en agent som ligger bakom.

Det väcker också en fråga som säkerhetsteam inte har behövt ställa tidigare. När något riskfyllt händer, var det då personens avsikt eller blev det fel för agenten? Det kräver olika åtgärder. Om en anställd fattar ett dåligt beslut vägleder man personen. Om en agent gör något som ingen har bett om stoppar man den.

Det är vid ändpunkten man kan se skillnaden, eftersom det är där data, process och åtgärd sammanfaller.

Många företag har bemött riskerna med generativ AI genom att begränsa eller förbjuda vissa verktyg. Tror du att organisationer rör sig mot en modell där i stort sett alla AI-verktyg kan tillåtas, så länge det finns kontroller för vilka data verktygen får åtkomst till och vart dessa data kan skickas?

Generella förbud kommer inte att lösa problemet. Anställda kan hitta ett nytt AI-verktyg och börja använda det på några sekunder, och de flesta försöker inte kringgå säkerheten. De vill bara få jobbet gjort snabbare.

Den bättre frågan är vad som händer med företagets data när de använder verktygen.

Om någon använder ett privat AI-konto för harmlöst arbete kanske man bara behöver hänvisa personen till företagets konto. Om personen är på väg att skicka källkod, kundinformation eller inloggningsuppgifter någonstans där företaget inte tillåter det måste säkerheten ingripa.

Jag tror att utvecklingen går åt det hållet. Ge människor utrymme att använda AI, men sätt upp kontroller för datahanteringen. Ta reda på vilka data som används, vart de är på väg och när ni behöver ingripa.

Att köra AI lokalt kan ge fördelar vad gäller svarstid och integritet, men ändpunktsenheter har också begränsade beräkningsresurser och minne. Vilka tekniska avvägningar stötte ni på när ni byggde modeller som kan klassificera data semantiskt och tillämpa regler i realtid direkt på de anställdas enheter?

Man kan inte installera en jättestor modell på någons bärbara dator, låta den sluka processorkraft och minne och kalla det säkerhet. Om säkerhetsprodukten gör datorn outhärdlig att använda kommer de anställda att avsky den, och IT-avdelningen kommer att stänga av den.

Det handlar alltså om mycket konkreta avvägningar. Modellen måste förstå data tillräckligt väl för att skilja mellan något harmlöst och något känsligt, men den måste också vara tillräckligt snabb, liten och tillförlitlig för att köras kontinuerligt i bakgrunden.

Det första arbetet gick ut på att bygga modeller som kunde klassificera data på ett användbart sätt på olika typer av datorer utan att göra dem långsammare. Vi har redan gjort det tekniska arbetet, så kunderna behöver inte själva göra de avvägningarna.

Användarupplevelsen har varit vår främsta prioritet under hela utvecklingen. Vår produkt använder cirka 20 % av de beräkningsresurser som konkurrenternas äldre agenter utan AI använder, samtidigt som den fattar beslut lokalt i samma stund som en åtgärd utförs. Känsliga data behöver inte lämna enheten bara för att avgöra om de är känsliga.

Bold kan identifiera AI-verktyg, konton och agentaktivitet samt vägleda användare, styra om eller blockera riskfyllda åtgärder. Hur avgör ni när systemet bara ska varna användaren och när det automatiskt ska stoppa en åtgärd?

Tänk på hur en bra kollega skulle hantera situationen. Om du är på väg att klistra in ett utkast i ditt privata ChatGPT-konto skulle kollegan luta sig fram och säga: ”Du, vi har ett företagskonto för det.” Om du är på väg att ladda upp kunddatabasen till ditt privata Drive skulle kollegan ta tag i armen på dig.

Vi försöker arbeta på samma sätt och märker att vägledning hjälper användare att välja det säkra alternativet i minst 90 procent av fallen. I de flesta fall handlar det om att någon av misstag använder fel konto eller inte känner till företagets policy för var data får lagras.

Det är i slutändan kunden som avgör vad som ska blockeras, och varje företag drar den gränsen på sitt eget sätt. Vårt jobb är att ge kunden det sammanhang och den trygghet som behövs för att fatta rätt beslut. Vid mer komplexa riskfyllda flöden innebär det att väga in det sammanhang vi talade om tidigare, utifrån användarens egen historik och till och med den egna jämförelsegruppen.

Din karriär har gått från att säkra uppkopplade enheter på SAM, via identiteter och molnbehörigheter på Polyrize, till att nu skydda samspelet mellan människor, AI-agenter och företagsdata på Bold. Hur har din syn på cybersäkerhetens grundläggande säkerhetsgräns förändrats under dessa tre generationer?

Min syn på grunderna har blivit tydligare. Den röda tråden är att föra säkerheten närmare den plats där handlingarna sker och få den att fungera i stor skala.

På SAM tog vi säkerhet på företagsnivå till routrar med mycket begränsade resurser. Det lärde oss hur man effektivt för ut avancerad teknik till kanten av nätverket. På Polyrize fokuserade vi på att skydda data i moln- och SaaS-miljöer genom insyn och hantering av säkerhetsläget. Det är viktigt att förstå exponeringen, men det gör det inte nödvändigtvis möjligt att förhindra en riskfylld handling.

Bold förenar dessa lärdomar. Vi placerar intelligensen på ändpunkten, där människor och AI-agenter interagerar med data, och ger säkerhetsteamen det sammanhang de behöver för att förstå risker och ingripa i realtid.

Nätverks- och molnsäkerhet är fortfarande viktigt, men ändpunkten kan se aktivitet via datorprogram, lokala filer, personliga konton och agenter som körs på enheten. Jag har lärt mig att var och när säkerheten verkar är lika viktigt som hur intelligent den är.

Om vi blickar tre till fem år framåt, när anställda arbetar sida vid sida med alltmer självständiga AI-agenter, vad tror du då att företagens ändpunkter kommer att utvecklas till? Kan vi nå en punkt där varje enhet i praktiken har ett eget intelligent säkerhetslager som kontinuerligt avgör vilka människor och agenter som får interagera med viss data?

Jag tror att det är precis dit vi är på väg.

Ändpunkten blir ett intelligent säkerhetslager som förstår vilken data som finns på enheten, vet om det är en människa eller en agent som interagerar med den och fattar lokala beslut om vad som bör och inte bör ske.

Det blir allt viktigare i takt med att agenterna blir mer självständiga. En person kan ha flera agenter som arbetar för sin räkning samtidigt, med filer, program och företagssystem. Säkerheten kan inte vara beroende av att personen godkänner varje steg, eftersom personen i allt högre grad inte kommer att följa arbetet.

Data måste fortfarande skyddas, men antalet aktörer som får åtkomst till den kommer att växa långt utöver en enda person vid ett tangentbord. Säkerhetssystemen måste kunna kommunicera med agenter, fatta beslut och agera självständigt medan handlingarna pågår. De som sköter systemen kommer i allt högre grad att övervaka kontrollerna och besluten i stället för att granska varje enskild händelse. Ändpunkten är den plats där sådana beslut kan fattas medan data fortfarande står under företagets kontroll.

Tack för en givande intervju. Läsare som vill veta mer om dataskydd på ändpunkter och säker användning av AI i företag kan besöka Bold Security.