Vibhuti Sinha, Chief Product Officer ve společnosti Saviynt – Interview Series

Vibhuti Sinha, Chief Product Officer ve společnosti Saviynt, vede vizi, inovace a strategický směr portfolia identity a inteligence společnosti, zatímco také dohlíží na úspěch produktu a partnerství. S téměř dvěma desetiletími zkušeností v oblasti identity a přístupového řízení (IAM) sehrál ústřední roli při formování velkých bezpečnostních architektur pro organizace Fortune 500. Před svým současným postem působil jako Chief Cloud Officer ve společnosti Saviynt, kde řídil vývoj řešení pro cloudovou bezpečnost nové generace, která zajišťuje bezpečnost komplexních multi-cloudových prostředí. Jeho odbornost zahrnuje rámce dodržování předpisů, jako je FFIEC, založenou na riziku autentizaci a správu životního cyklu přístupu, což ho staví na rozhraní podnikové bezpečnosti, cloudové infrastruktury a AI řízené správy identity.

Saviynt je cloudově nativní platforma pro bezpečnost identity zaměřená na pomoc podnikům spravovat a zabezpečovat přístup napříč uživateli, aplikacemi, daty a stále více i systémy AI. Jeho vlajková loď, Identity Cloud, poskytuje sjednocenou správu a řízení identity (IGA), řízení přístupu s vyššími oprávněními a správu přístupu k aplikacím v rámci jediné platformy, umožňující organizacím vynucovat zabezpečení, dodržování předpisů a principy Zero Trust v měřítku. Platforma využívá AI k automatizaci rozhodnutí o přístupu, monitorování rizik a správě nejen lidských uživatelů, ale i ne-lidských identit, jako jsou účty služeb a agenti AI, odrážející rostoucí složitost moderních podnikových prostředí. Konsolidací bezpečnostních identit do jediné kontrolní vrstvy si Saviynt klade za cíl snížit provozní režii, zatímco zlepšuje viditelnost a dodržování předpisů napříč cloudovými, hybridními a místními systémy.

Máte za sebou více než deset let ve společnosti Saviynt, kde jste pomáhal rozšiřovat společnost od její počáteční cloudové orientace na globální platformu pro bezpečnost identity. Jak tato cesta ovlivnila váš pohled na identitu jako základ pro zabezpečení podniků poháněných umělou inteligencí?

Když jsem nastoupil do Saviyntu, identita nebyla něco, o čem většina správních rad nebo CEO mluvila. Byla často považována za pouhé zřizování účtů a běh certifikací. Během let, jak se společnosti přesouvaly do cloudu a SaaS explodoval, identita se tiše stala vrstvou, která spojila vše: lidi, aplikace, infrastrukturu a data.

Být součástí této cesty změnil můj pohled. Začal jsem vidět identitu ne jako kategorii produktů, ale jako kontrolní vrstvu pro to, jak se ve společnosti skutečně pracuje. Každé rozhodnutí o přístupu, každý schvalovací proces, každý automatizovaný proces — vše se vrací k identitě.

Nyní s umělou inteligencí vidíme stejnou změnu znovu. Agenti AI jsou v podstatě digitální pracovníci, kteří mohou jednat jménem lidí nebo podniků. Pokud jim nedáme identitu, vlastnictví a správu, skončíme s automatizací bez odpovědnosti. Proto věřím, že identita bude základem pro zabezpečení podniků poháněných umělou inteligencí. Identita je to, co přináší odpovědnost, správu a kontrolu nad autonomními systémy.

Saviynt spustil dedikovanou kontrolní rovinu identity pro agenty AI, z hlediska korporace, jaká mezera v dnešních architekturách identity a zabezpečení vedla k tomuto rozhodnutí?

Stávající nástroje pro identitu a zabezpečení nebyly navrženy pro autonomní akční subjekty. Byly navrženy pro zaměstnance a aplikace, ne pro software entity, které mohou rozhodovat, jednat a fungovat nezávisle.

Většina systémů identity dnes je velmi dobrá v odpovědi na otázky “Kdo jsi?” a “Jaký přístup ti byl dán?” Ale ve světě agentů AI se důležitějším otázkou stává “Co děláš právě teď a měl bys to dělat?”

Byla tam také mezera ve správě. Společnosti začínají nasazovat stovky nebo tisíce agentů napříč platformami, jako je Copilot, Vertex AI a Bedrock, ale mnoho organizací neví, kolik agentů mají, kde běží, jaký data mohou přístup, nebo co se stane, když vlastník opustí společnost. To vytváří více než jen bezpečnostní problém. Je to problém správy a odpovědnosti.

To nás vedlo k myšlence na kontrolní rovinu identity pro agenty AI: centralizovaný způsob, jak objevit, spravovat, kontrolovat a audovat identity AI napříč jejich celým životním cyklem a jejich runtime akcemi.

Jak se liší správa autonomních agentů AI od správy tradičních ne-lidských identit, jako jsou účty služeb nebo boti?

Správa agentů AI je velmi odlišná od správy tradičních ne-lidských identit (NHIs), protože tyto identity jsou obvykle deterministické a předvídatelné. Účet služby běží specifický úkol. Bot provádí definovaný úkol. Jejich chování se opravdu nemění, pokud někdo nezmění kód.

Agenti AI jsou odlišní, protože jsou autonomní, adaptivní a cíleně orientovaní. Nejen vykonávají fixní skript. Tito agenti rozhodují, jak dokončit úkol, které nástroje použít, jaký data přístup, a někdy i s jakými jinými agenty spolupracovat. Jejich chování se může vyvíjet s časem, jak se mění modely, podněty nebo integrace.

To znamená, že poskytování přístupu jednou a jeho přezkoumání jednou za čtvrt roku není udržitelným modelem správy. Potřebujete kontinuální správu, včetně objevování, vlastnictví, správy životního cyklu a nejimportnější, runtime kontrol, aby vyhodnotily, co agent dělá v daném okamžiku.

Posun je v tom, že s tradičními NHIs spravujete přístup. S agenty AI musíte spravovat chování a akce v reálném čase. Autorizace neznamená vhodnost. Zabezpečení AI bude postaveno na této myšlence.

Jak důležité je pro podniky mít sjednocenou viditelnost napříč prostředími, jako jsou Amazon Bedrock, Google Vertex AI a Microsoft Copilot Studio?

Nemůžete chránit to, co nevidíte.

Sjednocená viditelnost napříč platformami, jako jsou Amazon Bedrock, Google Vertex AI a Microsoft Copilot Studio, je extrémně důležitá a upřímně, je to tam, kde většina organizací právě teď bojuje. Adopce AI probíhá velmi rychle a probíhá napříč několika platformami současně.

Jedna obchodní jednotka nebo tým může stavět agenty v Copilot Studio, jiný tým experimentuje s Bedrock a další skupina používá Vertex AI. Velmi rychle skončíte s agenty AI rozprostřenými napříč podnikem bez centrálního inventáře.

První výzvou, které čelí společnosti, je velmi jednoduchá: ve skutečnosti neví, kolik agentů AI mají, kde běží, jaký data mohou přístup, nebo kdo je vlastní. Bez viditelnosti nemůžete spravovat a pokud nemůžete spravovat, určitě nemůžete zabezpečit.

Sjednocená viditelnost se stává základem. Před správou životního cyklu, před runtime kontrolami, před zásadami je prvním krokem objevování a inventarizace napříč všemi platformami AI. Ve světě AI je viditelnost provozní, bezpečnostní a správní požadavkem.

Co vypadá celý životní cyklus agenta AI z hlediska identity a správy, od vytvoření po vyřazení?

Rád vysvětluji životní cyklus agenta AI stejným způsobem, jakým vysvětluji životní cyklus zaměstnance.

Nejdříve je agent vytvořen a nařízen. Někdo (vývojář, kodér nebo obchodní analytik) staví agenta v Bedrock nebo Copilot Studio. V tomto okamžiku bychom měli položit základní otázky identity: Kdo vlastní tohoto agenta? Jaký je jeho úkol? Které systémy potřebuje přístup?

Poté agent začne pracovat. Přístupuje systémy, čte nebo zapisuje data prostřednictvím API, volání nástrojů, spouští pracovní postupy a možná i komunikuje s jinými agenty. Během této fáze potřebujeme nepřetržitě monitorovat, co dělá, a zajistit, aby zůstal v rámci svého zamýšleného účelu a oprávnění. Monitorování a pochopení záměru je nejimportnější aspekt, který organizace dosud dobře nechápou.

S časem se agent mění. Možná přidáme nové nástroje, aktualizujeme model, rozšíříme jeho přístup nebo změníme jeho roli. To je podobné jako událost pohybu pro lidskou identitu a vyžaduje správu a schválení.

A nakonec, když agent již není potřebný, měl by být vyřazen — přístup odvolán, přihlašovací údaje odstraněny, integrace ukončeny a auditní protokoly zachovány.

Jednoduše řečeno, životní cyklus je: Vytvořit → přiřadit vlastníka a účel → udělit přístup s nejmenšími oprávněními → monitorovat a spravovat → spravovat změny → vyřadit čistě.

Jak by měly organizace uvažovat o zabezpečení interakcí mezi agenty, když systémy AI začínají operovat a spolupracovat nezávisle?

Myslím, že interakce mezi agenty se stanou jednou z největších bezpečnostních výzev v příštích letech.

Dnes se většinou obáváme, zda by měl člověk mít přístup k systému. V budoucnu se budeme muset zabývat tisíci agenty, kteří mluví s jinými agenty, spouští pracovní postupy, přístupují data a činí rozhodnutí bez lidského zásahu.

Riziko není pouze to, co může jeden agent udělat, ale co mohou udělat společně mnozí agenti. Můžete skončit v situacích, kdy žádný jeden agent nemá příliš mnoho přístupu, ale když spolupracují, mohou provádět velmi silné akce.

Organizace by měly zvážit několik věcí:

• Každý agent musí mít jedinečnou identitu.
• Bezpečnostní kontroly v době návrhu nejsou dostatečné. Runtime ochrany jsou imperativní.
• Volání mezi agenty musí být autentizována.
• Akce musí být autorizovány v reálném čase.
• Delegace musí být omezena a časově omezena.
• Vše musí být protokolováno pro audit.

Mnohými způsoby se přesouváme do velmi odlišného bezpečnostního modelu: od správy lidského přístupu ke správě strojové spolupráce v bezprecedentním měřítku.

Jaké jsou nejokázalejší rizika, kterým čelí společnosti dnes, když nasazují agenty AI bez řádné správy identity?

Největší riziko není nějaká futuristická scénář převzetí AI. Je to mnohem základní a již se děje ve většině organizací, které experimentují s agenty AI. Společnosti vytvářejí agenty všude, ale nemají centralizovaný způsob, jak je sledovat, spravovat nebo řídit, co mohou přístup.

Adopce byla prioritou až dosud a to je pochopitelné. Každá nová technologie prochází touto fází, ale zabezpečení a správa potřebují rychle dohánět.

Pokud ne, podniky riskují agenty bez jasných vlastníků a s příliš mnoha daty. Tyto agenty mohou úniknout citlivých informací a pokračovat v běhu i po skončení projektu – vše bez jasných auditních stop.

Viděli jsme to dříve u účtů služeb a cloudových zdrojů. Nejprve přijde adopce, pak rozptyl, pak problémy se zabezpečením a správou. AI sleduje stejný vzorec, jen mnohem rychleji a s více autonomií a agenturou.

Bez správy identity se agenti AI vlastně stávají nespravovanými privilegovanými identitami. To je riskantní pro jakoukoli organizaci. To není inovace, ale spíše další institucionální riziko.

Jak se vznášející agenti AI mění definici identity uvnitř podnikových systémů?

Myslím, že definice identity uvnitř podniků se rozšiřuje velkým způsobem. Dříve to byly většinou zaměstnanci, pak se to rozšířilo na externí identity s explozí dodavatelských pracovníků, vzdálených pracovníků atd. Pandemie to urychlila, když jsme začali spravovat účty služeb a boty jako ne-lidské identity. Nyní agenti AI jdou o krok dále.

Agenti AI nejsou jen účty nebo skripty. Činí rozhodnutí, přístupují systémy, generují obsah, spouští pracovní postupy a spolupracují s jinými agenty. Dotýkají se vašich dat, činí rozhodnutí a mění výsledky. Začínají se chovat více jako digitální pracovníci než jako software účty.

To znamená, že identita je nyní o více než jen o tom, kdo se může přihlásit. Je to o tom, kdo nebo co jedná uvnitř podniku, co jsou povolena dělat, kdo je vlastní a jak sledujeme a spravujeme jejich akce.

Identita se vyvíjí z něčeho, co reprezentuje uživatele, na něco, co reprezentuje jakékoli akční subjekty – lidské nebo strojové – které mohou jednat a měnit výsledky uvnitř organizace.

Když vyhodnocujete zakladatele nebo týmy, kteří staví v oblasti zabezpečení AI nebo identity, jaké signály ukazují, že skutečně chápou složitost tohoto prostoru?

Ti, kteří skutečně chápou tento prostor, nevedou s technologií. Vede je problém. Mohou vysvětlit nejen to, co staví, ale proč je současný přístup rozbitý a kdo kvůli němu nemůže spát.

Pro mě je to konkrétnost. Kdokoli může říci “AI představuje nové identifikační rizika.” Ale mohou vás provést přesně tím, jak se zneužije OAuth token v agentic workflow? Chápou, proč ne-lidské identity jsou fundamentálně odlišné od lidských, nejen ve velikosti, ale v chování, životním cyklu a blast radius?

Také se zaměřuji na to, jak mluví o zákaznících. Nejlepší zakladatelé v tomto prostoru buď sami prožili bolest jako CISO, architekt, vedoucí compliance, nebo strávili tolik času s praktiky, že mohou téměř dokončit jejich věty. Nenabízejí kategorii. Řeší specifický, obtížný problém, o kterém nemohli přestat přemýšlet.

A pak je tu regulační a ekosystémová zdatnost. Identita a zabezpečení AI neexistují v vakuum. Zakladatelé, kteří mě nejvíce ohromují, chápou, jak jejich produkt sedí v rámci širšího compliance postoje – NIST, SOC 2, vznikající rámce pro správu AI – a hluboce přemýšleli o tom, kde se zapojují do stacku versus kde to vlastní.

Pro mě jsou červené vlajky týmy, které jednoduše honí narativ AI. Mohou krásně popsat trh, ale když je tlačíte na konkrétní detaily, narativ oslabuje.

Chcete-li vidět identitu jako primární kontrolní vrstvu pro systémy AI, podobně jako síťová bezpečnost kdysi definovala podnikové hranice, a jak by se měly bezpečnostní týmy připravit na tento posun?

Ano, a myslím, že jsme blíž k tomuto zlomovému bodu, než si většina bezpečnostních týmů uvědomuje.

Síťový perimetr měl smysl, když aktiva byla fyzická, jako servery v datovém centru, zaměstnanci v kancelářích nebo provoz na okraji. Ale cloud rozpuustil tuto hranici a my jsme se spoléhali na identitu, aby zaplnila mezeru. Zero Trust nebyl jen marketingový termín; byl to uznání, že perimetr zmizel a že identita záleží více než kdykoli předtím.

Agenti AI jsou na cestě k ovlivnění identity stejným způsobem, jakým cloud ovlivnil síť. Tyto systémy přístupují zdroje, činí rozhodnutí, vyvolávají API, řetězí akce napříč nástroji a platformami a dělají to vše autonomně na strojové rychlosti. Otázka “je tohle povoleno?” již nemůže být zodpovězena na firewallu. Musí být zodpovězena na vrstvě identity, v reálném čase, s plným kontextem toho, co se agent snaží udělat a proč.

Identita se stává kontrolní rovinou. Ale je to fundamentálně složitější verze identity, než tu, kterou jsme dříve stavěli. Není to jen autentizace. Je to autorizace, která je vědomá záměru, kontextu a řetězce akcí, které agent již provedl. To je jiný problém než vydávání certifikátu nebo rotace přihlašovacích údajů.

Pro bezpečnostní týmy začíná příprava změnou myšlení. Přestat思考 o systémech AI jako o aplikacích, které je třeba zabezpečit na perimetru, a začít思考 o nich jako o principech – entitách s identitami, s oprávněními, s životním cyklem, který potřebuje být spravován od konce do konce. Kdo zřídil tohoto agenta? Co je povoleno dělat? Kdo je zodpovědný, když něco neočekávaného udělá?

Týmy, které se dostanou před tuto změnu, nebudou ty, které budou zabezpečení AI přidávat jako dopočet. Budou to ty, které rozšíří svou pozici správy identity, aby pokryla ne-lidské identity a agenty AI, než tyto identity budou dělat rozhodnutí s významnými důsledky.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Saviynt.