Nati Hazut, generální ředitel a spoluzakladatel Bold Security – série rozhovorů

Nati Hazut je generálním ředitelem a spoluzakladatelem společnosti Bold Security. Předtím spoluzaložil společnosti SAM Seamless Network a Polyrize, kde získal zkušenosti se zabezpečením propojených zařízení, správou identit a cloudových oprávnění i ochranou dat. Ve společnosti Bold tyto zkušenosti uplatňuje při zabezpečování interakcí mezi zaměstnanci, agenty AI a citlivými podnikovými daty.

Bold Security vyvíjí technologie ochrany dat na koncových zařízeních, které využívají malé jazykové modely spuštěné přímo v zařízeních ke klasifikaci citlivých informací a porozumění tomu, jak se s nimi nakládá. Její platforma poskytuje bezpečnostním týmům nástroje, s nimiž mohou uživatele vést, přesměrovávat jejich činnost nebo blokovat rizikové akce v prohlížečích, desktopových aplikacích i u agentů AI. V tomto rozhovoru Hazut hovoří o stínové AI, inteligenci přímo v zařízení, autonomních agentech a proměňujících se hranicích zabezpečení podnikových dat.

Před založením společnosti Bold Security s Hadarem Krasnerem a Omrim Mallisem jste spoluzaložil společnosti SAM Seamless Network a Polyrize. Jaké změny v podnikovém zabezpečení a AI jste pozoroval, že vás přesvědčily o potřebě vybudovat od základů další bezpečnostní společnost?

Hlavní změnou, kterou AI přinesla, je přesun toho, kde se práce odehrává. Po desetiletí lidé pracovali s firemními daty nejcitlivějším způsobem v prohlížečích a aplikacích SaaS, na které se bezpečnostní nástroje zaměřovaly. Nyní se stále více práce odehrává přímo v zařízení: lidé píší texty v desktopových asistentech AI, vkládají zdrojový kód do nativních aplikací a spouštějí agenty, kteří přímo v notebooku pracují se soubory, aplikacemi a firemními systémy.

Tento posun narušil předpoklady, na nichž byla postavena většina bezpečnostních produktů. Kontrola síťového provozu vidí pouze data, která přes ni procházejí, zatímco desktopové aplikace svůj provoz šifrují a obcházejí proxy server. CASB vidí schválené cloudové aplikace. DSPM vidí data uložená v cloudových úložištích. Ani jedno z těchto řešení nevidí, když se místní soubor otevře v desktopové aplikaci AI nebo když agent přesouvá data, aniž by u klávesnice seděl člověk.

Společnost Bold jsme založili proto, že koncové zařízení je jediné místo, kde se to všechno setkává. Vidíte data, zaměstnance nebo agenta, který s nimi pracuje, jeho záměr i to, kam informace míří. A můžete zasáhnout dřív, než citlivá data opustí kontrolu společnosti.

Stínová AI může mít podobu zaměstnanců používajících osobní účty ChatGPT, desktopových aplikací, rozšíření prohlížeče, API, připojení k Model Context Protocol i stále autonomnějších agentů. Které formy stínové AI dnes bezpečnostní týmy podniků nejhůře odhalují a kontrolují?

Ještě před rokem se všichni obávali „stínové AI“, ale tato debata se začíná prohlubovat. Bezpečnostní týmy podniků se smiřují s tím, že zaměstnanci přijímají nové nástroje AI rychleji než kdy dřív. Otázka se proto týká méně toho, jaké nástroje se používají, a více kontroly nad daty, která jimi procházejí.

Samozřejmě nelze kontrolovat to, co nevidíte. Nejobtížněji se sledují kanály, které vůbec nevyužívají síťovou trasu, již někdo monitoruje. Desktopové aplikace čtou soubory přímo ze zařízení a svůj provoz šifrují, takže nic neprochází nástroji určenými ke kontrole. Agenti mají přístup k firemním informacím a dál je používají, aniž by jim zaměstnanec musel pokaždé něco předat.

Všechno to jsou nové kanály pro únik dat a zásadní otázkou je, jaká data jimi proudí. Není totéž, když se veřejný dokument nahraje do schváleného firemního účtu, nebo když se do osobního účtu odešle zákaznická databáze či vlastní zdrojový kód. Tento rozdíl je viditelný pouze tam, kde se data nacházejí a kde k dané činnosti dochází. Právě tam, kde stínovou AI nevidíte, je tedy otázka nakládání s daty nejdůležitější.

Bold staví na přístupu zaměřeném na koncová zařízení a spouští AI lokálně v zařízení, místo aby se primárně spoléhal na monitorování sítě nebo cloudu. Čemu může model přímo v zařízení porozumět při interakci s AI, co tradiční nástroje pro prevenci úniku dat nedokážou?

Bold postupuje dvěma způsoby odlišně. Zaprvé využíváme AI k ochraně citlivých dat, aniž bychom je museli odesílat k analýze do jiné služby AI. Naše malé jazykové modely běží přímo v zařízení, kde dokážou rozpoznat, která data jsou citlivá, kdo k nim přistupuje a kam směřují. Díky tomu můžeme v reálném čase odhalovat a zastavovat rizikové akce, aniž bychom museli vše odesílat do cloudu a čekat na výsledek nebo nést související náklady.

Zadruhé pokrýváme i kanály, které tradiční bezpečnostní nástroje nesledují. Většina trhu se stále zaměřuje na prohlížeče a síťový provoz, citlivá data však stále častěji procházejí desktopovými aplikacemi AI, programovacími nástroji, terminály a autonomními agenty. Konvenční nástroje DLP a produkty pro zabezpečení cloudu je proto odhalují mnohem obtížněji.

Díky tomu, že pracujeme přímo na koncovém zařízení, můžeme chránit data ve všech těchto prostředích a zasáhnout dřív, než citlivé informace opustí kontrolu společnosti.

Vaše technologie je navržena tak, aby rozpoznala nejen to, k jakým datům se přistupuje, ale také kontext a záměr, které stojí za danou činností. Jak rozlišujete mezi oprávněným použitím citlivých informací a chováním, které představuje skutečné bezpečnostní riziko, aniž byste vytvářeli příliš mnoho falešných poplachů?

Kontext je tu vším. Nemůžete považovat každé nahrání souboru nebo každý přístup agenta k datům za bezpečnostní incident, jinak nikdo nic neudělá.

Tentýž soubor může být na jednom místě běžnou záležitostí a jinde vážným problémem. Seznam zákazníků se očekává v nástroji podpory, ale jeho nahrání do osobního účtu představuje skutečný problém. Zdrojový kód patří do úložiště, nikoli do zadání pro spotřebitelský nástroj AI.

Nástroj, který ví pouze to, že obsah odpovídá určitému pravidlu, musí označit oba případy, nebo ani jeden. Odtud pramení falešně pozitivní výsledky. Rozlišit běžné používání AI od skutečného rizika lze tak, že víte, o jaká data jde, kdo s nimi nakládá a kam směřují.

Agenti AI přinášejí odlišný model zabezpečení, protože software může stále častěji přistupovat k souborům, volat nástroje, připojovat se prostřednictvím serverů MCP a jednat s omezeným zapojením člověka. Jak se musí vyvíjet zabezpečení koncových zařízení, pokud může se citlivými firemními daty místo zaměstnance pracovat autonomní agent?

Zabezpečení se z velké části budovalo s ohledem na lidi, ale agenti nyní dokážou jednat rychlostí strojů, otevírat soubory, volat nástroje a přesouvat data, aniž by někdo schvaloval každý krok. Zabezpečení musí fungovat stejnou rychlostí. Mnoho produktů využívá AI k analýze incidentů až poté, co k nim dojde. My ji využíváme k tomu, abychom rizikové akce pochopili a zastavili v reálném čase, včetně těch, které probíhají mimo prohlížeč.

Agent může při plnění úkolu pracovat prostřednictvím desktopové aplikace, terminálu nebo jiného nástroje, který objeví. Zabezpečení musí sledovat data i akce v různých prostředích bez ohledu na to, zda za ně odpovídá člověk, nebo agent.

Vzniká tím také otázka, kterou si bezpečnostní týmy dříve nemusely klást. Když se stane něco rizikového, udělal to člověk úmyslně, nebo se agent spletl? Každá situace vyžaduje jinou reakci. Pokud zaměstnanec udělá špatné rozhodnutí, poučíte ho. Pokud agent dělá něco, o co ho nikdo nepožádal, zastavíte ho.

Právě na koncovém zařízení lze poznat rozdíl, protože se tam společně projeví data, proces i daná akce.

Mnoho podniků reagovalo na rizika generativní AI omezením nebo zákazem některých nástrojů. Myslíte si, že organizace směřují k modelu, v němž lze povolit prakticky jakýkoli nástroj AI, pokud existují opatření, která určují, k jakým datům má přístup a kam tato data mohou směřovat?

Plošné zákazy tento problém nevyřeší. Zaměstnanci si během několika sekund najdou nový nástroj AI a začnou ho používat. Většina z nich se přitom nesnaží obcházet zabezpečení. Jen chtějí svou práci zvládnout rychleji.

Důležitější otázka zní, co se děje s firemními daty, když tyto nástroje používají.

Pokud někdo používá osobní účet AI k neškodné práci, možná ho stačí nasměrovat na firemní účet. Pokud se chystá odeslat zdrojový kód, informace o zákaznících nebo přihlašovací údaje někam, kam to firma nepovoluje, musí zasáhnout bezpečnostní tým.

Myslím, že právě tímto směrem se vývoj ubírá. Dejte lidem prostor používat AI, ale nastavte pravidla pro nakládání s daty. Mějte přehled o tom, k čemu se přistupuje, kam data směřují a kdy je třeba zasáhnout.

Používání AI přímo na zařízení může přinášet výhody z hlediska latence a ochrany soukromí, ale koncová zařízení mají také omezený výpočetní výkon a paměť. S jakými technickými kompromisy jste se setkali při vývoji modelů, které dokážou přímo na zařízeních zaměstnanců sémanticky klasifikovat data a v reálném čase vynucovat bezpečnostní pravidla?

Nemůžete někomu do notebooku nainstalovat obrovský model, vytížit procesor a paměť a říkat tomu zabezpečení. Pokud váš bezpečnostní produkt způsobí, že se počítač bude používat nesnesitelně, zaměstnanci ho budou nenávidět a IT ho vypne.

Kompromisy jsou tedy velmi konkrétní. Model musí datům dostatečně rozumět, aby dokázal rozlišit neškodný obsah od citlivého, ale zároveň musí být dost rychlý, malý a spolehlivý, aby mohl nepřetržitě běžet na pozadí.

Nejprve bylo třeba vytvořit modely, které dokážou užitečně klasifikovat data na různých typech počítačů, aniž by je zpomalovaly. Tuto technickou práci jsme už odvedli, takže zákazníci nemusí tyto kompromisy řešit sami.

Uživatelská zkušenost byla po celou dobu vývoje naší hlavní prioritou. Náš produkt využívá přibližně 20 % výpočetních prostředků, které spotřebují starší konkurenční agenti bez AI, a přitom rozhoduje lokálně přímo ve chvíli, kdy k akci dochází. Citlivá data nemusí opustit zařízení jen proto, aby se určilo, zda jsou citlivá.

Bold dokáže rozpoznat nástroje AI, účty i aktivitu agentů a rizikové akce uživatele doprovodit upozorněním, přesměrovat nebo zablokovat. Jak určujete, kdy má systém uživatele pouze varovat a kdy má akci automaticky zastavit?

Představte si, jak by to vyřešil dobrý kolega. Kdybyste se chystali vložit koncept do svého osobního účtu ChatGPT, naklonil by se k vám a řekl: „Hele, na to máme firemní účet.“ Kdybyste se chystali nahrát databázi zákazníků na svůj osobní Disk, chytil by vás za ruku.

Snažíme se postupovat stejně a zjišťujeme, že koučování je při nasměrování uživatelů k bezpečné alternativě účinné alespoň z 90 %. Ve většině případů jde o někoho, kdo omylem používá nesprávný účet, nebo nezná firemní zásady pro nakládání s daty.

O tom, co zablokovat, rozhoduje zákazník a každá společnost si tuto hranici nastavuje jinak. Naším úkolem je poskytnout jí kontext a jistotu, aby se mohla správně rozhodnout. U složitějších rizikových situací to znamená zasadit je do kontextu, o němž jsme mluvili dříve, a posuzovat je s ohledem na dosavadní chování uživatele i jeho kolegů na podobných pozicích.

Vaše kariéra vedla od zabezpečování připojených zařízení v SAM přes správu identit a cloudových oprávnění v Polyrize až k ochraně interakcí mezi lidmi, agenty AI a podnikovými daty v Bold. Jak se během těchto tří generací kybernetické bezpečnosti změnil váš pohled na základní hranici, kterou je třeba chránit?

Můj pohled na základní principy se vyjasnil. Společným jmenovatelem je přiblížit zabezpečení místu, kde se odehrává činnost, a zajistit, aby fungovalo i ve velkém měřítku.

V SAM jsme přinesli zabezpečení na podnikové úrovni do routerů s velmi omezenými prostředky. Naučili jsme se tak efektivně přenášet pokročilé technologie až na okraj sítě. V Polyrize jsme se zaměřili na ochranu dat v cloudových prostředích a prostředích SaaS prostřednictvím přehledu o nich a řízení bezpečnostního stavu. Porozumět míře vystavení riziku je zásadní, ale samo o sobě to nemusí umožnit rizikovému jednání zabránit.

Bold spojuje tyto zkušenosti. Inteligenci umisťujeme do koncového zařízení, kde lidé a agenti AI pracují s daty, a bezpečnostním týmům poskytujeme kontext potřebný k pochopení rizik a zásahu v reálném čase.

Zabezpečení sítí a cloudu je stále důležité, ale koncové zařízení dokáže sledovat činnost napříč desktopovými aplikacemi, místními soubory, osobními účty i agenty spuštěnými v zařízení. Naučil jsem se, že na tom, kde a kdy zabezpečení funguje, záleží stejně jako na tom, jak inteligentní je.

Kam podle vás podniková koncová zařízení směřují v horizontu tří až pěti let, kdy budou zaměstnanci spolupracovat se stále autonomnějšími agenty AI? Může nastat situace, kdy každé zařízení bude mít vlastní inteligentní bezpečnostní vrstvu, která bude průběžně rozhodovat, kteří lidé a agenti mohou pracovat s konkrétními daty?

Myslím, že právě tímto směrem se ubíráme.

Koncové zařízení se stane inteligentní bezpečnostní vrstvou, která rozumí datům v zařízení, ví, zda s nimi pracuje člověk, nebo agent, a místně rozhoduje o tom, co se smí a nesmí stát.

To bude důležitější, jakmile agenti získají větší autonomii. Jeden člověk může mít několik agentů, kteří za něj současně pracují se soubory, aplikacemi i firemními systémy. Zabezpečení nemůže záviset na tom, že člověk schválí každý krok, protože stále častěji nebude jejich činnost sledovat.

Data je stále třeba chránit, ale počet aktérů, kteří k nim budou přistupovat, výrazně přesáhne jednoho člověka u klávesnice. Bezpečnostní systémy budou muset komunikovat s agenty, rozhodovat a autonomně reagovat na probíhající činnosti. Lidé, kteří tyto systémy obsluhují, budou stále častěji dohlížet na bezpečnostní opatření a rozhodnutí, místo aby kontrolovali každou jednotlivou událost. Právě na koncovém zařízení lze tato rozhodnutí přijímat, dokud jsou data stále pod kontrolou společnosti.

Děkuji za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více o ochraně dat na koncových zařízeních a bezpečném zavádění AI v podnicích, mohou navštívit Bold Security.