Jeff Margolies, Chief Product and Strategy Officer ve společnosti Saviynt – Interview Series

Jeff Margolies, Chief Product and Strategy Officer ve společnosti Saviynt, vede produktový management, firemní strategii, technologické partnerství a firemní rozvoj, pracuje s zákazníky, partnery a týmy napříč organizací, aby formoval dlouhodobou vizi produktu a růstové plány společnosti. Přináší více než 25 let zkušeností v oblasti identity a kybernetické bezpečnosti, dříve působil jako Chief Strategy Officer ve společnosti Saviynt a zastával seniorní vedoucí pozice ve společnostech Mandiant, Deloitte a Accenture. Ve společnosti Mandiant dohlížel na strategii, strategická partnerství a firemní rozvoj, zatímco jeho dřívější kariéra zahrnovala pomoc při založení a rozvoji praxe identity a přístupového managementu ve společnosti Accenture do globální organizace s více než 700 profesionály. Margolies získal bakalářský titul v oboru optického inženýrství na University of Rochester a magisterský titul v oboru elektrotechnického inženýrství na University of California, Berkeley.

Saviynt je společnost pro bezpečnost identity s využitím umělé inteligence, zaměřená na pomoc podnikům při správě a zabezpečení přístupu napříč lidskými uživateli, ne-lidskými identitami, stroji, aplikacemi, infrastrukturou a agenty umělé inteligence. Saviynt Identity Platform spojuje správu identity, řízení přístupu s vyššími oprávněními, správu přístupu k aplikacím, externí správu identity, bezpečnost ne-lidských identit a správu bezpečnostní pozice identity v jednotné cloudové platformě navržené pro cloud, on-premises, SaaS, IaaS a hybridní prostředí. Společnost se stále více zaměřuje na potřeby éry umělé inteligence, včetně nástrojů pro zabezpečení agentů umělé inteligence, správu pracovních postupů agentů a umožnění přirozeného jazykového provozu identity prostřednictvím nabídek, jako je Saviynt MCP Server v AWS Marketplace.

Jako Chief Product and Strategy Officer máte přední místo, odkud můžete sledovat, jak se mění požadavky na bezpečnost identity ve velkých organizacích. Jak změnil vzestup agentů umělé inteligence způsob, jakým organizace musí uvažovat o identitě, přístupu a správě, a jak tyto posuny ovlivnily vývoj Agent Access Gateway a Intent-Aware Runtime Authorization ve společnosti Saviynt?

Agenty umělé inteligence mění bezpečnost identity, protože lidské a strojové identity fungují velmi odlišně. Už nejde pouze o správu lidí, kteří se přihlašují do aplikací. Organizace spravují software, který může rozumět, rozhodovat a jednat autonomně napříč systémy. Považuji agenty za další generaci aplikací. Po mainframe, client-server, webu a SaaS aplikacích nyní vstupujeme do éry aplikací s agenty.

Základy zůstávají stejné. Organizace potřebují vědět, kdo vlastní agenta, kdo ho může použít, které systémy může přístup a jak je jeho činnost řízena. Strojové identity mění rychlost a rozsah. Obchodní uživatel může nyní vytvořit agenta během několika minut, což znamená, že správa musí být stejně rychlá. To nás vedlo k vývoji Agent Access Gateway a Intent-Aware Runtime Authorization — aby pomohly podnikům adoptovat agenty s odpovídajícími kontrolami přístupu, odpovědností a bezpečnostními prvky od začátku.

Agenty umělé inteligence se rychle přesouvají z experimentálního stadia do produkčních prostředí. Jak autonomní agenti mění tradiční model identity a přístupového managementu, na který se podniky spoléhaly desetiletí?

Tradiční správa identity a přístupu byla postavena kolem lidí a předvídatelného softwaru. Uživatel se autentizoval, vyžádal přístup a provedl konkrétní akce v definovaných systémech. Dobře rozumíme životnímu cyklu lidské identity v tomto kontextu, včetně toho, jak zřídit přístup. Agenty umělé inteligence představují jiný životní cyklus. Mohou být vytvořeny rychle, jednat nepřetržitě, přizpůsobovat se napříč pracovními postupy a interagovat s mnoha aplikacemi, API a zdroji dat s mnohem větší autonomií.

Základní principy identity stále platí: každá identita potřebuje autentizaci, autorizaci, správu a odpovědnost. Rychlost je velmi odlišná. Místo několika podnikových aplikací postavených centralizovanými týmy mohou organizace mít tisíce agentů vytvořených obchodními uživateli. Skutečně, 92% ředitelů kybernetické bezpečnosti postrádá úplnou viditelnost do identit umělé inteligence a 95% pochybuje, zda by mohli detekovat nebo omezit zneužití, kdyby k němu došlo. Bezpečnost identity musí evolucí, aby byla zajištěna vlastníka, kontrol přístupu, schválení a monitorování, a to automaticky, jakmile jsou agenti vytvořeni.

Mnohé organizace stále používají oprávnění a kontroly přístupu, které byly navrženy pro lidské zaměstnance a konvenční software aplikace. Proč jsou tyto přístupy nedostatečné, když se jedná o agenty umělé inteligence, které mohou rozumět, přizpůsobovat se a vykonávat akce nezávisle?

Tradiční autorizace obvykle klade otázku: „Je tato identita oprávněna provést tuto akci?“ To již nestačí pro agenty umělé inteligence, protože agent může mít technicky povolení provést něco, ale přitom jednat mimo záměr uživatele.

Například, pokud uživatel požádá agenta, aby „vyčistil“ databázi, agent by mohl interpretovat to jako smazání záznamů. Může mít povolení smazat tyto záznamy, ale to nemusí být to, co uživatel myslel. U agentů organizace potřebují vyhodnotit nejen, zda je akce povolena, ale zda se shoduje s původním plánem a záměrem za úkolem.

Společnost Saviynt nedávno představila Intent-Aware Runtime Authorization™. Co přesně znamená „intent-aware“ autorizace a jak se liší od tradičních modelů autentizace a autorizace?

Intent-aware autorizace znamená vyhodnocení, zda akce agenta odpovídají tomu, co měl uživatel v úmyslu. Každý agent je vytvořen nebo odeslán k provedení úkolu, a tento úkol vytváří kontext pro to, co by agent měl a neměl dělat.

Tradiční autorizace činí binární rozhodnutí: je tato akce povolena nebo ne? Intent-aware autorizace přidává další vrstvu tím, že se ptá, zda akce dává smysl v kontextu původního úkolu. Pokud by agent byl požádán, aby archivoval stará data, ale začal mazat aktivní záznamy, to by mohlo být technicky povolené, ale nebylo by to v souladu se záměrem uživatele. Cílem intent-aware runtime autorizace je řídit akce agenta v reálném čase na základě kontextu úkolu, zásad a zamýšlených výsledků.

Jak mohou podniky určit, zda by měl agent umělé inteligence být povolen provést konkrétní akci, i když technicky má povolení přístup k základnímu systému?

Začíná to plánováním. Předtím, než agent provede akci, organizace potřebují definovat, co má agent provést, které systémy by měl přístup, jaké bezpečnostní prvky se aplikují a které zásady musí dodržovat. Tento plán se stává základnou pro vyhodnocení chování agenta.

Klíčová otázka není pouze, zda agent má přístup, ale zda jeho akce je konzistentní s úkolem, pro který byl vytvořen. Mnohé stávající aplikace a API nebyly postaveny tak, aby vynutily tento level kontextu, což je důvod, proč je model brány důležitý. Agent Access Gateway poskytuje další kontrolní vrstvu pro vyhodnocení plánů versus akcí a pomáhá spravovat nadbytečné oprávnění nebo mezery v legacy systémech.

Jedním z největších obav kolem agentů umělé inteligence je, že mohou jednat napříč mnoha aplikacemi a zdroji dat v sekundách. Jaké nové rizika to vytváří pro bezpečnostní týmy a která rizika jsou v současnosti podceňována?

Agenty umělé inteligence nemusí vždy vytvářet zcela nová rizika. Ve mnoha případech zvyšují pravděpodobnost, že stávající rizika budou využita. Pokud organizace již má nadbytečně oprávněné účty, slabé kontroly nebo systémy, které spoléhají na utajení, agenti mohou najít a využít tyto slabosti mnohem rychleji než lidé, škálovat riziko.

Několikrát jsem to srovnal s tím, jako když necháte zadní dveře odemčené. Zranitelnost již existuje, ale pravděpodobnost, že ji někdo najde, může být nízká. Představte si nyní agenta, který kontroluje každou zadní dveře napříč tisíci prostředími v sekundách. To je důvod, proč organizace potřebují mít základy správné: vědět, které agenty existují, rozumět tomu, co mohou přístup, omezovat zbytečná oprávnění a řídit jejich činnost nepřetržitě.

Jak by měly organizace spravovat, kdo může interagovat s těmito agenty a jaké informace nebo systémy tito agenti mohou přístup, když nasazují multiple agenty umělé inteligence napříč odděleními?

Užitečný způsob, jak uvažovat o agentovi umělé inteligence, je jako o aplikaci. Podniky již znají, jak spravovat aplikace: kdo je vlastní, kdo je může použít, které systémy se k nim mohou připojit, jaké údaje mohou přístup a jak je jejich přístup přezkoumáván. Stejné otázky se vztahují na agenty.

Rozdíl je v tom, že agenti mohou být vytvořeni během několika minut obchodními uživateli, nikoli během měsíců velkými vývojářskými týmy a pouze 5% ředitelů kybernetické bezpečnosti se domnívá, že by mohli omezit ohrožený agent umělé inteligence. Správa potřebuje být součástí procesu vytváření, aby byla zajištěna vlastníka, přístup, schválení, oprávnění a pravidelné přezkumy od začátku, nikoli až poté, co je agent již v provozu.

Stínová umělá inteligence se stala rostoucí obavou, protože zaměstnanci přijímají nástroje umělé inteligence mimo oficiální dohled IT. Jak agenti umělé inteligence zvyšují tuto výzvu a jaké praktické kroky mohou podniky podniknout, aby znovu získali viditelnost a kontrolu?

Agenty umělé inteligence zvyšují stínovou umělou inteligenci, protože jsou snadno vytvářeny a mohou jednat napříč systémy. To však neznamená, že by organizace měly snažit se zastavit lidi v jejich používání. Produktivita zisků je reálná a podniky je budou sledovat.

Praktické řešení spočívá ve viditelnosti a bezpečnostních prvcích. Organizace potřebují vědět, které agenty existují, kdo je vlastní, co mají provést a které systémy nebo údaje mohou přístup. Každý agent by měl mít identitu, definovaná oprávnění a nepřetržitý monitoring. Mnohé podniky jsou stále ve fairly raných fázích experimentování, takže je stále čas na vybudování správy, než se adopce agentů dostane do mnohem většího rozsahu. Ale tento čas rychle ubíhá.

Pohledem do budoucna, věříte, že každý agent umělé inteligence bude nakonec vyžadovat svou vlastní digitální identitu, rámec správy a auditní stopu podobně jako lidský zaměstnanec? Jak vypadá tento budoucí model?

Každý agent umělé inteligence by bezpochyby měl svou vlastní identitu, aby organizace věděly, co to je, kdo ho vlastní, co může přístup a co dělá. Lidské identity a ne-lidské identity, včetně agentů umělé inteligence, musí být všechny řízeny prostřednictvím jednotného modelu bezpečnostní identity.

Koncepty jsou známé: autentizace, autorizace, vlastnictví, oprávnění, sledování aktivity a správa. Co se mění, je rozsah. Podniky mohou brzy vytvářet stovky agentů týdně, což nakonec povede k desítkám tisíc nebo dokonce milionům aplikací s agenty. Budoucnost spočívá v aplikaci bezpečnostních principů identity na každý typ identity ve veel větším rozsahu a rychlosti. Nyní je čas začít implementovat.

Jako podniky závodí s nasazením agentickej umělé inteligence, jaké jsou nejčastější chyby, kterých se dopouštějí, a co by měli bezpečnostní a technologičtí lídři prioritizovat v příštích 12 až 24 měsících, aby zajistili, že agenti umělé inteligence zůstanou produktivní a důvěryhodní?

Bylo by velkou chybou ponechat bezpečnost v této éře náhodě. Produktivita spojená s agentickej umělou inteligencí je reálná a podniky potřebují ji zachytit. Největším rizikem je, že bezpečnost a správa nedrží krok.

V příštích 12 až 24 měsících by lídři měli zaměřit na viditelnost a základní prvky správy: udržovat inventář agentů, přiřazovat vlastnictví, dát každému agentovi identitu, rozumět tomu, co může přístup, a dělat správu součástí procesu vytváření. To je příležitost postavit bezpečnost do velké platformové změny od začátku, místo aby se snažili dodatečně opravovat později.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Saviynt.