Nati Hazut, CEO en medeoprichter van Bold Security – interviewreeks

Nati Hazut is CEO en medeoprichter van Bold Security. Eerder was hij medeoprichter van SAM Seamless Network en Polyrize, waar hij ervaring opdeed met de beveiliging van verbonden apparaten, identiteitsbeheer, cloudmachtigingen en gegevensbescherming. Bij Bold past hij die lessen toe om interacties tussen medewerkers, AI-agenten en gevoelige bedrijfsgegevens te beveiligen.

Bold Security ontwikkelt technologie voor gegevensbescherming op eindpunten. Deze technologie gebruikt kleine taalmodellen die rechtstreeks op apparaten draaien om gevoelige informatie te classificeren en te begrijpen hoe die wordt gebruikt. Het platform biedt beveiligingsteams middelen om gebruikers te begeleiden, activiteiten om te leiden of risicovolle handelingen te blokkeren in browsers, desktopapplicaties en AI-agenten. In dit interview bespreekt Hazut schaduw-AI, lokale intelligentie op apparaten, autonome agenten en de veranderende beveiligingsgrens rond bedrijfsgegevens.

U was eerder medeoprichter van SAM Seamless Network en Polyrize, voordat u samen met Hadar Krasner en Omri Mallis Bold Security oprichtte. Welke veranderingen in bedrijfsbeveiliging en AI zag u waardoor u ervan overtuigd raakte dat er behoefte was aan een nieuw beveiligingsbedrijf, helemaal vanaf de basis opgebouwd?

De belangrijkste verandering door AI is dat die heeft verplaatst waar het werk plaatsvindt. Decennialang vonden de gevoeligste activiteiten met bedrijfsgegevens plaats in browsers en SaaS-applicaties, precies de omgevingen waarop de beveiligingsstack was gericht. Tegenwoordig gebeurt steeds meer werk op het apparaat zelf: mensen schrijven in een desktopassistent met AI, plakken broncode in een native applicatie en gebruiken agenten die rechtstreeks op de laptop bestanden, applicaties en bedrijfssystemen benaderen.

Door die verschuiving klopten de aannames waarop de meeste beveiligingsproducten waren gebaseerd niet meer. Netwerkinspectie ziet alleen verkeer dat erdoorheen wordt geleid; desktopapplicaties versleutelen hun verkeer en omzeilen de proxy. CASB ziet goedgekeurde cloudapplicaties. DSPM ziet gegevens die in cloudopslag staan. Geen van deze oplossingen ziet een lokaal bestand dat in een desktopapplicatie met AI wordt ingevoerd, of een agent die gegevens verplaatst terwijl er niemand achter het toetsenbord zit.

We zijn met Bold begonnen omdat alles samenkomt op het eindpunt. Je kunt zien om welke gegevens het gaat, welke medewerker of agent ermee aan de slag is, wat die probeert te doen en waar de informatie naartoe gaat. En je kunt ingrijpen voordat gevoelige gegevens buiten de controle van het bedrijf terechtkomen.

Schaduw-AI kan uiteenlopen van medewerkers die persoonlijke ChatGPT-accounts gebruiken tot desktopapplicaties, browserextensies, API’s, Model Context Protocol-verbindingen en steeds autonomere agenten. Welke vormen van schaduw-AI blijken voor beveiligingsteams van bedrijven momenteel het moeilijkst te detecteren en beheersen?

Een jaar geleden maakte iedereen zich zorgen over ‘schaduw-AI’, maar het gesprek wordt inmiddels inhoudelijker. Beveiligingsteams van bedrijven zien zich geconfronteerd met het feit dat medewerkers sneller dan ooit nieuwe AI-tools in gebruik nemen. De vraag gaat dus minder over het in kaart brengen van tools en meer over het beheersen van de gegevens die erdoorheen gaan.

Natuurlijk kun je niet beheersen wat je niet kunt zien. De moeilijkst zichtbare kanalen zijn de kanalen die nooit over een netwerkverbinding lopen die iemand in de gaten houdt. Desktopapplicaties lezen bestanden rechtstreeks van het apparaat en versleutelen hun verkeer, waardoor er niets via de tools loopt die bedoeld zijn om het te inspecteren. Agenten hebben toegang tot bedrijfsgegevens en blijven die gebruiken zonder dat een medewerker ze telkens iets hoeft aan te reiken.

Al die kanalen bieden nieuwe mogelijkheden om gegevens te ontvreemden, en de kernvraag is wat er precies doorheen wordt verplaatst. Een openbaar document invoeren in een goedgekeurd bedrijfsaccount is niet hetzelfde als een klantendatabase of bedrijfseigen broncode invoeren in een persoonlijk account. Dat verschil is alleen zichtbaar op de plek waar de gegevens staan en de handeling plaatsvindt. Juist bij de schaduw-AI die je niet kunt zien, is het dus ook het belangrijkst om te weten wat er met de gegevens gebeurt.

Bold kiest voor een aanpak waarbij het eindpunt centraal staat: de AI draait lokaal op het apparaat, in plaats van dat er hoofdzakelijk op netwerk- of cloudmonitoring wordt vertrouwd. Wat kan een model op het apparaat begrijpen van een AI-interactie wat traditionele preventie van gegevensverlies niet kan?

Bold pakt twee dingen anders aan. Ten eerste gebruiken we AI om gevoelige gegevens te beschermen zonder die gegevens voor analyse naar een andere AI-dienst te hoeven sturen. Onze kleine taalmodellen draaien rechtstreeks op het apparaat. Daar kunnen ze vaststellen welke gegevens gevoelig zijn, wie er toegang toe heeft en waar die gegevens naartoe gaan. Zo kunnen we risicovolle handelingen in realtime herkennen en tegenhouden, zonder de vertraging en kosten die ontstaan als alles naar de cloud wordt gestuurd.

Ten tweede richten we ons ook op kanalen die traditionele beveiligingstools niet in de gaten houden. Het grootste deel van de markt is nog steeds gericht op browsers en netwerkverkeer, maar gevoelige gegevens worden steeds vaker verwerkt door desktopapplicaties met AI, programmeertools, terminals en autonome agenten. Voor conventionele DLP- en cloudbeveiligingsproducten zijn deze kanalen veel moeilijker zichtbaar.

Doordat we op het eindpunt werken, kunnen we gegevens in al deze omgevingen beschermen en ingrijpen voordat gevoelige informatie buiten de controle van het bedrijf terechtkomt.

Uw technologie is ontworpen om niet alleen te begrijpen welke gegevens worden benaderd, maar ook wat de context en intentie achter een handeling zijn. Hoe maakt u onderscheid tussen legitiem gebruik van gevoelige informatie en gedrag dat een daadwerkelijk beveiligingsrisico vormt, zonder buitensporig veel fout-positieve meldingen te genereren?

Alles draait hier om context. Je kunt niet elke bestandsupload of elke agent die gegevens raadpleegt als een beveiligingsincident behandelen, anders krijgt niemand nog werk gedaan.

Hetzelfde bestand kan op de ene plek heel gewoon zijn en op een andere een ernstig probleem vormen. Een klantenlijst hoort thuis in de supporttool, maar is een echt probleem als die naar een persoonlijk account wordt geüpload. Broncode hoort in de repository, niet in een prompt voor een AI-tool voor consumenten.

Een tool die alleen weet dat de inhoud overeenkomt met een regel, moet beide gevallen markeren of geen van beide. Daar komen fout-positieve meldingen vandaan. Om normaal AI-gebruik van een echt risico te onderscheiden, moet je weten om welke gegevens het gaat, wie ze verplaatst en waar ze naartoe gaan.

AI-agents brengen een ander beveiligingsmodel met zich mee, omdat software steeds vaker bestanden kan raadplegen, tools kan aanroepen, verbinding kan maken via MCP-servers en acties kan uitvoeren met beperkte menselijke tussenkomst. Hoe moet de endpointbeveiliging zich ontwikkelen nu degene die met gevoelige bedrijfsgegevens werkt een autonome agent kan zijn in plaats van een werknemer?

Beveiliging is grotendeels opgebouwd rond mensen, maar agents kunnen nu op machinesnelheid handelen: bestanden openen, tools aanroepen en gegevens verplaatsen zonder dat iemand elke stap goedkeurt. Beveiliging moet op diezelfde snelheid werken. Veel producten gebruiken AI om incidenten achteraf te analyseren. Wij gebruiken AI om risicovolle handelingen in realtime te begrijpen en te stoppen, ook als ze buiten de browser plaatsvinden.

Een agent kan werken via een desktopapplicatie, een terminal of een andere tool die hij tijdens het uitvoeren van een taak ontdekt. Beveiliging moet de gegevens en de handelingen in al die omgevingen volgen, ongeacht of een persoon of een agent ervoor verantwoordelijk is.

Dit roept ook een vraag op die beveiligingsteams zich eerder niet hoefden te stellen. Was het de bedoeling van de persoon om iets riskants te doen, of maakte de agent een fout? Daar zijn verschillende reacties op nodig. Als een werknemer een verkeerde beslissing neemt, coach je diegene. Als een agent iets doet waar niemand om heeft gevraagd, stop je die.

Op het eindpunt kun je het verschil zien, omdat de gegevens, het proces en de handeling daar samenkomen.

Veel bedrijven hebben op de risico’s van generatieve AI gereageerd door bepaalde tools te beperken of te verbieden. Denkt u dat organisaties afstevenen op een model waarin vrijwel elke AI-tool is toegestaan, zolang er maar maatregelen zijn die bepalen welke gegevens de tool kan raadplegen en waar die gegevens naartoe mogen?

Een algeheel verbod gaat dit niet oplossen. Werknemers kunnen binnen enkele seconden een nieuwe AI-tool vinden en gebruiken, en de meesten proberen de beveiliging niet te omzeilen. Ze willen hun werk sneller gedaan krijgen.

De betere vraag is wat er met bedrijfsgegevens gebeurt wanneer ze die tools gebruiken.

Als iemand voor onschuldig werk een persoonlijk AI-account gebruikt, kun je diegene misschien gewoon naar het bedrijfsaccount verwijzen. Staat diegene op het punt broncode, klantgegevens of inloggegevens te versturen naar een plek die het bedrijf niet toestaat, dan moet de beveiliging ingrijpen.

Ik denk dat het die kant op gaat. Geef mensen ruimte om AI te gebruiken, maar stel grenzen aan het gebruik van gegevens. Weet welke gegevens worden geraadpleegd, waar ze naartoe gaan en wanneer je moet ingrijpen.

AI lokaal uitvoeren kan voordelen bieden op het gebied van latentie en privacy, maar apparaten voor eindgebruikers hebben ook beperkte rekenkracht en geheugen. Met welke technische afwegingen kreeg u te maken bij het ontwikkelen van modellen die gegevens semantisch kunnen classificeren en rechtstreeks op apparaten van werknemers in realtime maatregelen kunnen afdwingen?

Je kunt niet zomaar een enorm model op iemands laptop zetten, de processor en het geheugen zwaar belasten en dat beveiliging noemen. Als je beveiligingsproduct de computer onprettig maakt om mee te werken, zullen werknemers er een hekel aan hebben en schakelt de IT-afdeling het uit.

Er zijn dus heel reële afwegingen. Het model moet gegevens goed genoeg begrijpen om onschuldige van gevoelige informatie te onderscheiden, maar moet ook snel, klein en betrouwbaar genoeg zijn om voortdurend op de achtergrond te draaien.

In eerste instantie hebben we modellen ontwikkeld die verschillende soorten computers nuttige classificaties konden bieden zonder ze te vertragen. Dat technische werk hebben we al gedaan, zodat klanten die afwegingen niet zelf hoeven te maken.

De gebruikerservaring heeft tijdens de hele ontwikkeling onze hoogste prioriteit gehad. Ons product gebruikt ongeveer 20% van de rekenkracht die de niet-AI-agents van traditionele concurrenten gebruiken, en neemt lokaal beslissingen op het moment dat een handeling plaatsvindt. Gevoelige gegevens hoeven het apparaat niet te verlaten om vast te stellen of ze gevoelig zijn.

Bold kan AI-tools, accounts en agentactiviteiten herkennen en risicovolle handelingen begeleiden, omleiden of blokkeren. Hoe bepaalt u wanneer het systeem een gebruiker alleen moet waarschuwen en wanneer het een handeling automatisch moet stopzetten?

Bedenk hoe een goede collega zou reageren. Als je op het punt staat een concept in je persoonlijke ChatGPT-account te plakken, zou diegene even naar je toe leunen en zeggen: ‘Hé, daar hebben we een bedrijfsaccount voor.’ Als je op het punt staat de klantendatabase naar je persoonlijke Drive te uploaden, zou diegene je tegenhouden.

We proberen op dezelfde manier te werken en merken dat begeleiding in minstens 90% van de gevallen effectief is om gebruikers naar het veilige alternatief te leiden. Meestal gaat het om iemand die per ongeluk het verkeerde account gebruikt, of iemand die niet weet wat het bedrijfsbeleid is voor de opslag van gegevens.

Uiteindelijk bepaalt de klant waar de blokkadegrens ligt; elk bedrijf trekt die grens anders. Het is onze taak om de klant de context en het vertrouwen te geven om de juiste keuze te maken. Bij complexere risicovolle processen betekent dat: de context waar we het eerder over hadden, afgewogen tegen de eigen geschiedenis van de gebruiker en zelfs die van diens collega’s.

Je carrière liep van het beveiligen van verbonden apparaten bij SAM, via identiteits- en cloudmachtigingen bij Polyrize, tot het beschermen van interacties tussen mensen, AI-agenten en bedrijfsgegevens bij Bold. Hoe is je kijk op de fundamentele beveiligingsgrens veranderd in die drie generaties cybersecurity?

Mijn inzicht in de basisprincipes is aangescherpt. De rode draad is dat we beveiliging zo dicht mogelijk bij de plek brengen waar de actie plaatsvindt, en ervoor zorgen dat die op grote schaal werkt.

Bij SAM brachten we beveiliging van ondernemingsniveau naar routers met zeer beperkte middelen. Daardoor leerden we hoe we geavanceerde technologie efficiënt naar de edge konden brengen. Bij Polyrize richtten we ons op de bescherming van gegevens in cloud- en SaaS-omgevingen door inzicht te bieden in de beveiligingsstatus en het beheer ervan. Inzicht in de blootstelling is essentieel, maar stelt je niet noodzakelijkerwijs in staat een risicovolle actie te voorkomen.

Bold brengt die lessen samen. We plaatsen intelligentie op het endpoint, waar mensen en AI-agenten met gegevens werken, en geven beveiligingsteams de context om risico’s te begrijpen en in realtime in te grijpen.

Netwerk- en cloudbeveiliging blijven belangrijk, maar het endpoint kan activiteiten zien in desktopapplicaties, lokale bestanden, persoonlijke accounts en agenten die op het apparaat draaien. Ik heb geleerd dat waar en wanneer beveiliging actief is, net zo belangrijk is als hoe intelligent die is.

Als je drie tot vijf jaar vooruitkijkt, nu werknemers steeds autonomer wordende AI-agenten naast zich hebben werken, wat verwacht je dan dat het bedrijfsendpoint wordt? Kunnen we een punt bereiken waarop elk apparaat in feite een eigen intelligente beveiligingslaag heeft, die voortdurend beslist welke mensen en agenten met bepaalde gegevens mogen werken?

Ik denk dat we daar inderdaad naartoe gaan.

Het endpoint wordt een intelligente beveiligingslaag die de gegevens op het apparaat begrijpt, weet of een persoon of een agent ermee werkt en lokaal beslist wat wel en niet mag gebeuren.

Dat wordt belangrijker naarmate agenten autonomer worden. Iemand kan meerdere agenten tegelijk namens zich aan het werk hebben, verspreid over bestanden, applicaties en bedrijfssystemen. De beveiliging kan er niet van afhangen dat die persoon elke stap goedkeurt, want die zal steeds vaker niet meekijken.

De gegevens moeten nog steeds worden beschermd, maar het aantal partijen dat er toegang toe heeft, zal flink toenemen en veel meer omvatten dan één persoon achter een toetsenbord. Beveiligingssystemen zullen met agenten moeten communiceren, beslissingen moeten nemen en autonoom moeten reageren zodra acties plaatsvinden. De mensen die deze systemen beheren, zullen in toenemende mate toezicht houden op de maatregelen en beslissingen, in plaats van elke afzonderlijke gebeurtenis te beoordelen. Op het endpoint kunnen die beslissingen worden genomen terwijl de gegevens nog onder controle van het bedrijf zijn.

Bedankt voor dit geweldige interview. Lezers die meer willen weten over gegevensbescherming op endpoints en de veilige invoering van AI binnen bedrijven, kunnen terecht bij Bold Security.