Jacob Ideskog, CTO společnosti Curity – Interview Series

Jacob Ideskog je specialist na identitu a CTO ve společnosti Curity. Nejvíce času stráví prací na bezpečnostních řešeních v oblasti API a webu. Pracoval na navrhování a implementaci řešení OAuth a OpenID Connect pro velké podnikové nasazení i malé startupy.

Curity je moderní platforma pro správu identit a přístupu (IAM), postavená kolem Curity Identity Server, standardního řešení navrženého pro zabezpečení autentizace a autorizace aplikací, API a digitálních služeb ve velkém měřítku. Podporuje protokoly jako OAuth 2.0 a OpenID Connect pro centralizaci přihlašovacích toků, vynucování jemnozrnných přístupových politik a vydávání zabezpečených tokenů pro lidské uživatele i strojové klienty, včetně API a služeb. Platforma je navržena pro flexibilitu a škálovatelnost, což umožňuje organizacím nasazovat ji napříč cloudy, hybridními nebo místními prostředími, integrovat s existujícími systémy a poskytovat zabezpečené a plynulé uživatelské zkušenosti bez závislosti na vlastních bezpečnostních infrastrukturách.

Ve své kariéře jste se hodně věnoval budování systémů identity a bezpečnostních systémů API, od spoluzaložení Curity až po vedení jako CTO během vzestupu cloudu a nyní AI. Jak vás tato cesta utvořila ve vašem pohledu, že by AI agenti měli být léčeni jako první třídy digitální identity, a ne jen jako další kus softwaru?

Přes každý obor technologií, ve kterém jsem pracoval, se objevuje jedna otázka. Bez ohledu na to, zda se jedná o cloud computing nebo nyní AI, pokud software jedná jménem osoby nebo jiného systému, máte problém s identitou.

S masivním přijetím agentic AI se tento problém zhoršuje. Jejich chování již není těsně naprogramováno a fungují s úrovní autonomie, kterou podniky dosud neviděly. AI agenti činí rozhodnutí, volají API a řetězí akce napříč systémy – často bez přímého lidského dohledu. Toto chování vytváří identifikační a přístupové výzvy, které jsou fundamentálně odlišné od tradičního softwaru.

Léčba AI agentů jako první třídy digitálních identit je jediný způsob, jak tento problém řešit. Pokud organizace pohlížejí na ně jako na další proces nebo službu, ztrácí přehled a kontrolu velmi rychle – a to je recept na bezpečnostní krizi.”

Mnohé podniky jsou nadšené z agentic AI, ale zůstávají uvězněné v experimentech. Z toho, co vidíte v reálných nasazeních, jaké jsou nejčastější identifikační a vládní mezery, které brání organizacím v bezpečném škálování agentů?

Nejvíce experimentů probíhá v izolovaných pískovištích, které ignorují, co se děje ve velkém měřítku. Během raných pilotů týmy často poskytují agentům široké API klíče, sdílené přihlašovací údaje nebo obecná oprávnění cloudu, pouze aby věci rozjely.

Tento přístup se rozpadá okamžitě, jakmile jsou agenti nasazeni za piloty. To je proto, že bezpečnostní týmy nemohou vidět, jaké údaje agent získal, jeho akce nebo zda překročil své zamýšlené rozpětí; buď náhodou nebo úmyslně. Tyto slepé skvrny činí nemožným bezpečné řízení agentů, a proto mnohé organizace bojují s přechodem za piloty.”

Argumentoval jste, že přísná ochranná opatření jsou nezbytná pro agentic AI. Co vypadá “dobré” identifikační návrh pro AI agenty v praxi, a kde se společnosti obvykle pletou?

Dobrý identifikační návrh začíná principem minimálních oprávnění a oprávnění vázaných na explicitní záměr. Každý AI agent by měl mít svou vlastní identitu, úzce zaměřená oprávnění a jasně definované důvěryhodné vztahy (explicitní pravidla pro systémy, se kterými je povoleno interagovat). Základní přístup by měl být účelově vázaný, časově omezený a snadno zrušitelný.

Kde se společnosti pletou, je, když opakují existující službu nebo předpokládají, že interní agenti jsou bezpeční samy o sobě. Tento předpoklad se nezdrží proti reálným hrozbám. Zlomyslní aktéři aktivně hledají přesně tyto slabá místa, a AI agenti dramaticky zvyšují potenciální dopad, když je identifikační návrh nedbalý.”

Curity dlouhodobě pracuje se standardy, jako je OAuth a OpenID Connect. Jak jsou otevřené identifikační standardy kritické pro agentic AI, aby byly interoperabilní a zabezpečené napříč komplexními podnikovými prostředími?

Otevřené standardy jsou absolutně kritické. Podniky již běží komplexní identifikační tkaniny pokrývající cloudové platformy, služby SaaS a interní API. Agentic AI přidává další složitost.

Bez standardů se každý agent stává samostatnou integrací a trvalou bezpečnostní výjimkou. Se standardy, jako je OAuth a OpenID Connect, mohou být agenti autentizováni, autorizováni a auditovali stejně jako jakékoli jiné pracovní zatížení. Tento přístup je jediný, který může usnadnit bezpečné škálování napříč skutečnými podnikovými prostředími.”

Co dělá AI agenty zásadně odlišnými od předchozích nehumánních identit z hlediska bezpečnosti?

Klíčový rozdíl mezi moderními AI agenty a staršími nehumánními identitami (NHIs) je autonomie. Tradiční služba provádí přesně to, co jí říká kód, vázaný přísně na jeho úkol. AI agent interpretuje instrukce, přizpůsobuje své chování a činí akce, které nebyly nikdy explicitně naprogramovány – všechny zvyšují potenciální nebezpečí, pokud nejsou vhodné ochranná opatření.

Malá identifikační nebo přístupová chyba se může rychle proměnit v katastrofu, protože agent může jednat rychlostí a napříč několika systémy. Z hlediska bezpečnosti představuje toto riziko majoritní riziko.

Jak jsou důležité auditní stopy a identifikační protokolování pro vládnutí agentic AI, zejména v regulovaných odvětvích?

Auditní stopy by neměly být “hezké mít”. Musí být vestavěny od začátku. V regulovaných prostředích se od organizací očekává, že zodpoví jednoduché, ale kritické otázky: co tento agent získal, kdy se to stalo, a kdo to autorizoval?

Identifikační protokolování je jediný spolehlivý způsob, jak získat tuto úroveň odpovědnosti. Hraje také klíčovou roli v reakci na incidenty. Bez jasných identifikačních kontextů je téměř nemožné vědět, zda problém pocházel z nesprávně se chovajícího agenta, kompromitované identity nebo prostě špatného podnětu.

Jaká skutečná rizika vidíte, když organizace nasazují nadměrně privilegované nebo špatně monitorované AI agenty v produkci?

Jedno běžné riziko je tichá agregace dat. Nadměrně privilegovaný agent může získat citlivé informace z několika systémů (záznamy zákazníků, interní dokumenty, protokoly) a poté tyto údaje odhalit prostřednictvím podnětů, souhrnů nebo externích integrací.

Jiné riziko je, že agenti s administrativním přístupem činí významné změny rychlostí strojů, způsobují mnohem více škody, než by mohl člověk za krátkou dobu. To může zahrnovat modifikaci cloudových zdrojů, zakázání bezpečnostních kontrol nebo spuštění automatizovaných pracovních postupů bez dohledu.

Tito incidenti mohou být zlomyslní, ale nemusí být. Nadměrně privilegovaný nebo špatně monitorovaný agent by mohl jednoduše fungovat na zastaralých nebo nesprávných předpokladech, zesilující chyby napříč několika systémy, než si někdo všimne.

Ale z pohledu útočníka je kompromitovaná identita agenta extrémně cenná. Umožňuje laterální pohyb napříč API a službami, často s úrovní přístupu, kterou by žádný lidský uživatel nikdy neměl. Bez silných identifikačních kontrol a monitorování organizace často objevují tyto selhání až po skutečné škodě.”

Pro společnosti, které přecházejí z pilotů do skutečných agentic nasazení, jaké identifikační a přístupové rozhodnutí by měly být učiněna brzy, aby se zabránilo nákladným přestavbám později?

Organizace by měly rozhodnout brzy, jak jsou agentům vydávány identity, jak jsou schvalována oprávnění a jak je přístup přezkoumáván v průběhu času, definující identifikační hranice dopředu.

Přinášet identifikační kontroly retroaktivně je téměř vždy problematické. Agenti jsou často hluboce zabudováni do pracovních postupů pomocí sdílených přihlašovacích údajů nebo širokých rolí, takže zpřísnění přístupu poté, co to rozbití předpokladů, na kterých systém závisí. To nakonec způsobí, že pracovní postupy selžou a podkopává důvěru v technologii. Je mnohem levnější, ne-li bezpečnější, navrhnout správné identity, rozsahy a přístupové hranice od začátku.

Kde se identifikační integrace nejčastěji stává uzlem, když se nasazuje agentic AI, a jaké nejlepší postupy pomáhají snižovat tření?

Identifikační správa se může stát uzlem, ale pouze když je považována za následnou myšlenku. Týmy se nejprve soustředí na budování působivých schopností agentů a později si uvědomí, že je třeba je integrovat s IAM systémy, API bránami a protokolovacími platformami, aby byly skutečně zabezpečeny.

Nejlepší přístup je začít s jasným pochopením a správnou implementací identifikačních platforem a poté navrhnout agenty, aby se vešly do nich. Organizace by měly znovu použít existující standardy a infrastrukturu, místo aby je obcházely; krátké spojení bude nevyhnutelně způsobovat problémy později. Když je identita vestavěna od začátku, urychluje nasazení místo zpomalení.

Pro bezpečnostní a inženýrské lídry, kteří chtějí přijmout agentic AI, ale jsou znepokojeni vládnutím a rizikem, co byste jim poradil, zatímco plánují svou roadmapu?

Pomalu stačí, abyste získali správné základy. AI agenti musí být léčeni jako identity a proto musíte aplikovat stejná vládnutí, jaká očekáváte od lidí, a trvat na viditelnosti od začátku. Pokud organizace udělají toto, pak škálování agentic AI se stává cvičením v bezpečnosti, ne slepou a riskantní vírou.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Curity.