Rami Habal, zakladatel a generální ředitel společnosti Magnitude – série rozhovorů

Rami Habal, zakladatel a generální ředitel společnosti Magnitude je veterán v oblasti kybernetické bezpečnosti a produktového vývoje AI s kariérou zahrnující podnikovou bezpečnost, strojové učení, spotřebitelskou technologii a startupy podporované venture kapitálem. Před založením Magnitude působil jako podnikatel v rezidenci ve společnosti Ballistic Ventures a strávil více než čtyři roky ve společnosti Abnormal Security, kde zastával funkce vedoucího produktového oddělení a vedoucího zákaznického oddělení. Dříve Habal vedl multi‑zařízení zkušenost pro Amazon Alexa, řídil produkt v Reverb a byl jedním z prvních zaměstnanců ve společnosti Proofpoint, kde pomáhal budovat a komercializovat bezpečnostní produkty, když firma přecházela ze startupu na plánovanou IPO. Jeho kariéra také zahrnuje zkušenosti s venture kapitálem, mobilní technologií, API a produktovou strategií, což mu poskytuje široké zázemí na průsečíku kybernetické bezpečnosti, AI a podnikového softwaru.

Magnitude je společnost zaměřená na kybernetickou bezpečnost s AI‑nativním přístupem, která se soustředí na transformaci řízení rizik třetích stran (TPRM) z periodických kontrol souladu na kontinuální bezpečnostní funkci. Její platforma s více agenty využívá specializované AI agenty k hodnocení dodavatelů a produktů, neustálému sledování zranitelností a dalších změn rizik, mapování čtvrtých, pátých a ještě hlubších závislostí, automatizaci komunikace s dodavateli a pomoci při řízení nápravy. Místo toho, aby se spoléhala převážně na dotazníky a jednorázová hodnocení, je Magnitude navržena tak, aby uvažovala podle vlastních politik organizace a poskytovala rozhodnutí podložená důkazy s dohledatelnými zdroji a odůvodněním. Širším cílem je poskytnout bezpečnostním týmům kontinuální přehled v stále složitějších ekosystémech softwaru a dodavatelů, zatímco lidským analytikům umožní soustředit se na rozhodnutí s vyšší přidanou hodnotou.

Po pomoci při vývoji produktů ve společnostech Proofpoint, Amazon Alexa a Abnormal Security, co vás přesvědčilo, že právě teď je ten správný okamžik založit Magnitude? Existovalo konkrétní uvědomění nebo bolest zákazníka, která vás přesvědčila, že autonomní řízení rizik třetích stran musí vzniknout jako samostatná společnost?

Věděl jsem, že po mém působení v Abnormal chci založit společnost. Co jsem nevěděl, bylo, jaký problém stojí za to postavit kolem něj firmu. Během své kariéry mě přitahovaly aplikované produkty strojového učení, které řeší široké, univerzální potřeby, jako je zabezpečení e‑mailů ve společnosti Proofpoint, hlasové výpočty s Alexou a behaviorální bezpečnost v Abnormal. Chtěl jsem najít další problém s podobným dosahem, který by pomohl podniku.

Pak přišli agenti. Po práci s předchozí vlnou strojového učení jsem viděl, že nejde jen o další funkci produktu. Jedná se o posun platformy a takové se neobjevují často.

Zatímco jsem byl podnikatelem v rezidenci ve společnosti Ballistic Ventures, začal jsem hovořit s CISO o tom, kde by tento posun mohl mít největší dopad. Riziko třetích stran se objevovalo opakovaně. Historicky dávalo smysl, aby TPRM spadalo pod funkci GRC, protože riziko dodavatelů se měnilo dost pomalu na to, aby periodické revize držely krok. Tato předpoklad však začínal selhávat. Všichni souhlasili, že jde o zásadní problém, ale většina organizací jej stále řešila pomocí ročních dotazníků, tabulek, periodických revizí a rozsáhlé manuální práce. Reakce byla jednotná: řízení rizik třetích stran je kritické, ale stále nemáme dobrý způsob, jak jej vyřešit.

To bylo uvědomění stojící za Magnitude. Věděl jsem, že tradiční model již nefunguje, a potřebovali jsme technologii, která by dokázala zcela změnit provozní model, nikoli jen mírně urychlit starý proces založený na tabulkách. Od samého začátku jsem měl názor, že každý dodavatel bude nakonec mít roj agentů, kteří neustále hodnotí související rizika. Magnitude vyrůstala z tohoto přesvědčení.

Popisujete příchod „éra Mythos“, kde AI dokáže identifikovat a zneužít zranitelnosti rychleji, než lidé dokážou reagovat. Jaké změny jste pozoroval v uplynulém roce, které vás přesvědčily, že tento posun už probíhá, a není jen budoucí obavou?

Největší změnou, kterou jsem zaznamenal, je rychlost, s jakou se tyto útoky nyní odehrávají. Před rokem se většina diskuse stále točila kolem toho, co AI může útočníkovi v budoucnu umožnit. Nyní vidíme, jak se tyto schopnosti formují v reálném čase. AI může útočníkovi pomoci prozkoumat mnohem větší softwarový ekosystém, objevit slabiny, které dříve mohly být neznámé, a útočit na tyto slabiny v takovém měřítku, které by pro lidský tým bylo obtížné dosáhnout.

V éře Mythos AI systémy prokázaly schopnost odhalit více než 2 000 dříve neznámých chyb v softwarových ekosystémech a medián času od objevu zranitelnosti po vytvoření zbraňovaného exploitu se má do konce roku 2026 snížit pod jednu hodinu. Zatímco se čas mezi objevením a zbraňováním nadále zkracuje, vytváří to mezeru mezi rychlostí, s jakou se může expozice objevit, a rychlostí, s jakou mohou tradiční revizní cykly reagovat.

Také pozorujeme, že vzorec incidentů se ubírá stejným směrem. V naší analýze se frekvence útoků na dodavatelský řetězec zvýšila z přibližně 13 incidentů za měsíc v roce 2024 na 41 za měsíc v roce 2026. Všimli jsme si, že aktivita roste spolu s významnými vylepšeními špičkových modelů. Nechtěl bych tvrdit, že každé vydání modelu přímo způsobuje více útoků, ale trend je těžké ignorovat. Nástroje se stávají schopnějšími, jak se tempo útoků zrychluje.

Co pro mě skutečně potvrzuje tuto změnu, jsou rozhovory, které vedu s vedoucími bezpečnosti. Již nehovorí o riziku třetích stran jako o něčem, co lze řešit roční revizí a znovu posoudit při obnovení. Cítí se vystaveni v měsících mezi těmito revizemi, protože jejich dodavatelé, softwarové závislosti a podřízené dodavatelé se neustále mění.

To je pro mě podstata éry Mythos. Okno pro pochopení a reakci na riziko se zužuje, zatímco potenciální dopad jednoho kompromitovaného dodavatele se rozšiřuje. Periodický proces shody prostě nebyl pro takové prostředí navržen.

Mnoho podniků rychle nasazuje AI agenty po celé své organizaci. Jak by měli vedoucí bezpečnosti přehodnotit správu, když tito agenti stále více interagují s externími dodavateli, API a podřízenými závislostmi?

První věc, kterou musí vedoucí bezpečnosti uznat, je, že i AI agent vytvořený uvnitř společnosti nemusí být zcela interní. Může se spoléhat na externí platformu, dovednost třetí strany přes MCP, službu jako Google Drive nebo jinou technologii, kterou organizace přímo neřídí. A každý z těchto poskytovatelů může mít své vlastní dodavatele.

Není již dostačující schválit jen samotného agenta. Vedoucí musí pochopit, k jakým informacím má přístup, jaké akce může provádět, na jaké externí služby je závislý a kdy je vyžadováno lidské schválení. Také musí rozumět tomu, jak se tyto závislosti mohou v čase měnit, jak agent získává nové schopnosti, připojuje se k novým systémům nebo začíná spoléhat na další podřízené poskytovatele. Tyto kontroly nelze nastavit jednou a zapomenout na ně. Jakmile agent získá nové schopnosti nebo spojení, jeho správa se musí příslušně přizpůsobit.

Cílem by nemělo být zpomalování adopce AI. Mělo by jít o poskytnutí firmám dostatečné přehlednosti, aby mohly agenty používat s jistotou. Správa musí být kontinuální bezpečnostní praxí, nikoli jednorázové schválení provedené při zavedení nového nástroje.

Řízení rizik třetích stran se tradičně opíralo o dotazníky a periodické revize. Proč se domníváte, že tento model v prostředí řízeném AI zásadně selhává? 

Problém tradičního modelu TPRM spočívá v tom, že poskytuje okamžitý snímek toho, co dodavatel v daném okamžiku tvrdil jako pravdu. Společnost může vyplnit dotazník při první schválení a poté už není znovu přezkoumána až do obnovení, což může být o několik let později. Mezitím se může změnit její technologie, bezpečnostní postupy, AI modely, využití dat i dodavatelé. Sotva dokážeme předpovědět, co se změní během několika následujících týdnů, takže spoléhat se na několik let staré hodnocení již nedává smysl.

Existuje také otázka důvěryhodnosti informací. Odpověď zaznamenaná někým, kdo se snaží posunout obchod, není stejná jako fakt podložený nezávislým auditem, podepsaným podáním společnosti nebo jiným ověřitelným zdrojem. Vedoucí bezpečnosti potřebují vědět nejen, jaká je odpověď, ale odkud pochází a zda je stále aktuální.

Nakonec se dotazníky obvykle zastavují u přímého dodavatele. Zřídka ukazují N-té strany, ačkoliv ty skryté vztahy čtvrtých a pátých stran mohou vytvořit skutečnou zranitelnost. Útočníci nyní vědí, že nejslabším článkem podniku není samotný podnik, ale jeden z těchto podřízených dodavatelů. Útok na tyto dodavatele může nakonec poskytnout přístup k podniku. Je to prostě levnější a jednodušší.

Proto si nemyslím, že odpovědí je jen použít AI k rychlejšímu vyplňování dotazníků. V tomto modelu budou vždy mezery. Model samotný se musí změnit z periodických, samohlášených snímků na kontinuální, real‑time, na důkazech založené pochopení rizika tak hlubokého, jak sahá dodavatelský řetězec společnosti.

Magnitude představuje koncept autonomní AI pracovní síly pro bezpečnostní týmy. Kde vidíte rovnováhu mezi rozhodováním řízeným AI a lidským dohledem, zejména u vysoce dopadových bezpečnostních rozhodnutí? 

Autonomní nemusí znamenat neodpovědný. Jak to vidím, AI by měla řešit kritickou, ale opakující se práci, která spotřebovává tolik času bezpečnostního týmu, zatímco lidé zůstávají zapojeni, když rozhodnutí vyžaduje úsudek, kontext nebo má významné obchodní důsledky. Faktem je, že žádný bezpečnostní tým dnes nemá dostatek zdrojů na zvládnutí současného úkolu. AI může pomoci tuto mezeru zaplnit.

Kvalita AI má obrovský význam. Když je dobře implementována, AI je násobičem síly. Poskytuje týmu větší kapacitu a pomáhá lidem soustředit se na práci s vyšší hodnotou. Když je špatně prováděna, má opačný efekt, protože někdo musí každé výstup dvakrát ověřovat. Pro vysoce dopadová bezpečnostní rozhodnutí by měl být systém vysoce kvalitní a schopný ukázat, jaké důkazy použil a jak dospěl k doporučení, čímž vytvoří auditovatelný záznam.

Správná úroveň dohledu se bude lišit podle organizace. Velká společnost s etablovaným bezpečnostním týmem může AI využívat spíše jako autopilota, přičemž lidé dohlížejí na práci a zasahují při výjimkách. Menší organizace si může zvolit automatizaci větší části programu, protože postrádá personál nebo rozpočet na vybudování velkého týmu. V obou případech by měly existovat jasné body, kde se problém eskaluje k člověku.

Nakonec by organizace měla být schopna rozhodnout, kolik lidského zapojení si přeje, na základě důležitosti rozhodnutí. Cílem není odstranit lidi ze zabezpečení. Jde o to jim pomoci lépe využívat jejich čas, činit rychlejší obchodní rozhodnutí a vyhradit lidskou pozornost pro rozhodnutí, kde přináší největší hodnotu.

Váš tým spojuje odborné znalosti z AI, kybernetické bezpečnosti a platform určených pro spotřebitele. Jaký vliv měla tato kombinace na způsob, jakým jste navrhli Magnitude ve srovnání s tradičními produkty kybernetické bezpečnosti? 

Každé z našich zázemí nás naučilo něco jiného o tom, co musí AI produkt pro zabezpečení dobře zvládat. V kybernetické bezpečnosti je odpověď užitečná jen tehdy, pokud jí můžete důvěřovat, zpětně ji prověřit důkazy a jednat na jejím základě. Z naší práce v oblasti AI a strojového učení jsme zjistili, že skutečná příležitost nespočívá jen v shrnutí informací, ale v převodu odborné práce do systému, který tuto práci dokáže vykonávat konzistentně. Budování platforem jako Alexa a Pandora nás naučilo uvažovat o spolehlivosti a použitelnosti v obrovském měřítku.

Tyto poznatky nás odvedly od tradičního modelu kybernetické bezpečnosti, který vytváří další řídicí panel nebo další tok upozornění, které musí už tak přetížený tým zkoumat. Navrhli jsme Magnitude tak, aby vykonávalo práci: shromažďovalo a ověřovalo informace, hodnotilo dodavatele, sledovalo změny, propojovalo nové informace s obchodním rizikem a pomáhalo posouvat problémy k řešení.

V zákulisí to zahrnuje více specializovaných AI agentů pracujících společně. Avšak zákaznická zkušenost by měla zůstat jednoduchá. Týmy zabezpečení by se neměly muset stát AI odborníky, aby pochopily, co systém našel, proč je to důležité, nebo jaký krok je třeba podniknout.

Výsledkem je produkt navržený tak, aby fungoval nepřetržitě napříč tisíci dodavateli a přitom splňoval standardy vyžadované pro rozhodnutí s vysokým dopadem na bezpečnost. Nejedná se o AI přidanou k staršímu pracovního postupu. Byl vytvořen od samého začátku s myšlenkou, že AI může vykonávat velkou část pracovního postupu sama, a zároveň poskytovat lidem potřebné důkazy, přehled a kontrolu.

Jedním z největších obav ohledně AI v kybernetické bezpečnosti je, že posiluje jak obránce, tak útočníky. Domníváte se, že výhoda v současnosti leží na straně obránců nebo protivníků, a co určí, kdo bude mít náskok v nadcházejících letech?

Myslím, že dnešní výhoda se naklání k protivníkům, zejména u útoků na dodavatelský řetězec. Neřekl bych, že obránci jsou beznadějně pozadu. Výzvou pro obránce je přestat považovat toto za budoucí problém a jednat rychleji již nyní. Obě strany mají přístup k mnoha stejným AI nástrojům, ale ekonomika a čas do uvedení na trh v současnosti upřednostňují útočníka.

AI zlevňuje a usnadňuje testování více útočných cest, spouštění více pokusů na N úrovních hloubky a opakování tohoto procesu v rozsahu. Když útočník kompromituje široce používaného dodavatele nebo softwarovou komponentu, jeden úspěšný útok se může rozšířit na stovky či dokonce tisíce firem.

Obránci mají těžší úkol, protože musí rozumět a chránit rozsáhlou síť dodavatelů, softwarových komponent a podřízených dodavatelů, a také trvá, než podniky zareagují, zakoupí pomocný software a uvedou tyto nástroje do provozu, což vytváří časové okno, které útočníci mohou využít.

Rozhodující bude, zda obránci dokážou tuto rovnici změnit. Musí přejít od občasných revizí a ručních následných kroků k nepřetržitému monitorování a rychlejšímu jednání. Automatizované systémy správy a obrany, které neustále sledují změny, spojují je s obchodním rizikem a dokážou rychle reagovat, ztíží útočníkům škálování útoků a zvýší náklady na jejich opakování.

Kybernetická bezpečnost byla vždy hrou kočka a myš. AI to nezmění, ale zvýší rychlost i sázky. Obránci potřebují systémy, které se dokážou učit, přizpůsobovat a jednat stejným tempem, jakým útočníci začínají operovat.

Řetězce dodávek AI se stávají stále složitějšími, přičemž organizace se spoléhají na řadu základních modelů, SaaS poskytovatelů a autonomních agentů. Jaká nově vznikající rizika podle vás podniky stále podceňují?

Nejvíce podceňované riziko je technologie, která stojí za produktem, o jehož schválení firma věří. I interně vytvořený agent může záviset na externích platformách, pluginech, dodavatelích nebo softwarových komponentách. Tyto skryté vztahy vytvářejí riziko N-té strany, tedy dodavatele za přímým dodavatelem.

Většina podniků má stále jen velmi omezený přehled o této hlubší vrstvě. Mohou vědět, s kým uzavřeli smlouvu, ale ne každou externí službu, softwarovou komponentu nebo subdodavatele, který nakonec produkt podporuje.

Dalším problémem je, jak propojené tyto systémy jsou. Slabina v jednom pluginu nebo podpůrné službě nemusí zůstat izolovaná u daného poskytovatele. Může vytvořit cestu do větší platformy a následně ovlivnit mnoho organizací, které na ní závisí. To znamená, že relativně malý dodavatel se může stát mnohem větším zdrojem zranitelnosti.

Riziko, o kterém by měli lídři v oblasti rizik klást otázku, není jen „Jaký AI model používáme?“, ale „Na čem tento systém závisí, na čem závisí tito poskytovatelé a jak by nás mohl problém kdekoli v tomto řetězci zasáhnout?“ Dokud společnosti nebudou na tyto otázky schopny odpovědět, budou nadále přebírat rizika, která nevidí.

Přesahovat dnešní velké jazykové modely, jaké technologické vývoje během příštích pěti let očekáváte, že nejvíce přetvoří podnikovou kybernetickou bezpečnost a řízení rizik? 

Nemyslím si, že definující změna bude jeden nový model. Bude to přechod od AI, která odpovídá na otázky, k AI systémům, které dokážou kontinuálně sledovat, co se děje, propojit informace z různých zdrojů a jednat.

Další generace modelů nebude jen o něco lepší; budou mnohem schopnější. Skutečná změna však přijde od specializovaných agentů spolupracujících napříč bezpečnostními operacemi. Dnes jsou recenze dodavatelů, informace o hrozbách, obchodní rizika a nápravy často řízeny v oddělených nástrojích a různými týmy. Postupem času se tyto funkce začnou spojovat.

Očekávám, že bezpečnostní systémy budou mnohem propojenější, přičemž informace o hrozbách, obchodní kontext, firemní politiky a reakční akce budou spojeny místo toho, aby byly spravovány v oddělených nástrojích. Může rozpoznat, že dodavatel byl vystaven nové hrozbě, pochopit, které části podniku mohou být zasaženy, a pomoci zahájit reakci, aniž by čekala na několik manuálních předání.

To změní řízení rizik z řady periodických cvičení na kontinuální provozní schopnost. Nejsilnější programy řízení rizik budou postaveny kolem podnikové kontextu, spolehlivých důkazů a schopnosti převést informace na důvěryhodné akce.

Kdybyste mohl nabídnout jednu radu CISO a podnikovým lídrům připravujícím se na další generaci hrozeb poháněných AI, co by to bylo a jaké kroky by měli dnes upřednostnit?

Moje rada je přestat řídit riziko dodavatelského řetězce jako jednorázové roční cvičení. Riziko se mění neustále a váš přístup musí držet krok. Prostředí je živé a dýchá. Je příliš propojené a mění se tak rychle, že řada oddělených revizí a nástrojů to nezvládne.

Jak chráníte tuto vznikající útočnou plochu, je pomocí jediného AI‑nativního řídícího plánu pro kontinuální, autonomní správu a obranu všech vašich externích rizik.

Začít byste měli u částí podniku, které jsou nejdůležitější. Identifikujte dodavatele a externí služby podporující tyto kritické operace, pochopte, kde jsou skryté závislosti, a stanovte jasnou odpovědnost za to, co se stane, když se riziko objeví. Pak automatizujte co nejvíce průběžného monitorování a rutinní reakce, přičemž lidi zapojte do rozhodnutí s významnými obchodními dopady.

Cílem není jen shromažďovat více informací. Jde o to neustále propojit to, co víte, rozhodnout, co je podstatné, a jednat dříve, než se problém s dodavatelem promění v celopodnikovou krizi.

Děkujeme za skvělý rozhovor, čtenáři, kteří chtějí vědět více, by měli navštívit Magnitude.