Sean Roche, vrchní ředitel produktového marketingu a analýzy hodnoty v Obsidian Security – série rozhovorů

Sean Roche, vrchní ředitel produktového marketingu a analýzy hodnoty ve společnosti Obsidian Security, vede mezioborové iniciativy zaměřené na zabezpečení SaaS, bezpečnost AI a strategii uvádění produktů na trh. Významně se podílel na vytvoření prvního jednotného rámce pro případy použití, který propojuje prodej, marketing a péči o úspěch zákazníků kolem měřitelných obchodních výsledků. Zároveň dohlížel na uvedení bezpečnostních řešení pro generativní AI a AI agenty. Dříve zastával vedoucí pozice ve společnostech Forter, Aviatrix a Okta, kde se věnoval poradenství v oblasti obchodní hodnoty, cenové strategii, analýze hodnoty pro zákazníky a analýzám návratnosti investic pro vrcholové vedení. Jeho zkušenosti propojují kybernetickou bezpečnost, strategii podnikového softwaru a finanční výzkum. Má tak rozsáhlou praxi s převáděním technických schopností na měřitelné obchodní výsledky pro podnikové zákazníky.

Obsidian Security je společnost zaměřená na kybernetickou bezpečnost, která zabezpečuje aplikace SaaS, AI agenty, identity a podnikové integrace v moderních cloudových prostředích. Její jednotná platforma pomáhá organizacím odhalovat hrozby, spravovat stav zabezpečení SaaS, řídit přístup k datům a sledovat rizikové aktivity v obchodně kritických aplikacích, jako jsou Microsoft 365, Salesforce (CRM ), Slack a další cloudové služby. V posledních letech Obsidian rozšířila své působení o zabezpečení AI agentů a pomáhá podnikům získat přehled o tom, jak autonomní AI systémy v reálném čase pracují s platformami SaaS, daty a pracovními postupy. Společnost založili bezpečnostní manažeři se zkušenostmi z firem CrowdStrike (CRWD ), Okta, Cylance a Carbon Black. Obsidian se profiluje jako komplexní platforma pro zabezpečení SaaS a AI, která řeší rostoucí složitost cloudových prostředí a prostředí s autonomními AI agenty.

Svou kariéru jste vybudoval na pomezí obchodní hodnoty, rizikové strategie a zabezpečení SaaS. Nyní v Obsidian Security vedete analýzu hodnoty a produktový marketing. Co vás přivedlo k zabezpečení ekosystémů SaaS využívajících AI a čím se přístup společnosti Obsidian liší v případě nových technologií autonomních agentů, jako je OpenClaws?

Po celou mou kariéru představovala největší nedostatek místa, do nichž bezpečnostní týmy nevidí, protože právě tam dochází k bezpečnostním incidentům. Viděli jsme případy, kdy odpojené nebo nespravované systémy vytvořily rizika, která tradiční ochranná opatření nezachytila. Stejnou situaci jsem osobně zažil u moderních propojení s velkými platformami nebo u konektorů, které byly mimo běžný dohled bezpečnostních týmů, někdy dokonce i poté, co se IT tým domníval, že je deaktivoval. Ukázalo mi to, kolik rizika se skrývá na rozhraních mezi systémy, nejen uvnitř systémů, které považujeme za zabezpečené.

Tato situace se nyní posouvá od stínového IT ke stínové AI. Nové nástroje a pracovní postupy využívající agenty mohou vznikat a šířit se rychleji, než na ně dokážou reagovat strategie řízení. Mnohé bezpečnostní přístupy se snaží všechno centralizovat a podřídit jediné řídicí vrstvě. Tento model však v distribuovaných prostředích selhává, zejména pokud se kritická data a aktivity nacházejí uvnitř aplikací třetích stran, které nevlastníte a nemůžete plně ovládat.

Právě to mě přivedlo k zabezpečení ekosystémů SaaS využívajících AI a vysvětluje to i přesvědčivost přístupu společnosti Obsidian. Počet bezpečnostních průniků do SaaS vzrostl o 300 %, a přesto většina organizací stále nemá dostatečný přehled o používání těchto aplikací. Zaměřujeme se na tuto mezeru, abyste rozuměli tomu, co se v podniku skutečně děje a kde vznikají rizika. S dalším rozvojem technologií agentů, jako je OpenClaws, nabývá tento přístup na významu: nejde jen o to, zda má agent přístup k určitým datům, ale také o to, k čemu všemu může přistupovat a jak rychle může jednat.

Systémy autonomních AI agentů, jako je OpenClaws, přitahují po konferenci NVIDIA (NVDA ) GTC velkou pozornost. Čím se podle vás z hlediska bezpečnostního rizika zásadně liší od dřívějších nástrojů AI?

Pro bezpečnostní týmy je zásadní rozumět nelidským identitám a jejich zabezpečení, protože 68 % incidentů IT bezpečnosti dnes zahrnuje strojové identity a polovina dotázaných podniků zažila bezpečnostní průnik kvůli nespravovaným nelidským identitám. Bezpečnostní odvětví se soustředilo především na správu stavu zabezpečení SaaS a řízení lidských identit, zatímco nelidské identity se na pozadí množily. S rozsáhlým nasazováním AI agentů s administrátorskými oprávněními se tento nedostatek řízení stal kritickým problémem.

Systémy agentů, jako je OpenClaws, ukazují přísliby i rizika skutečně autonomní AI. Jde o jeden z prvních případů, kdy vidíme AI vypuštěnou do běžného prostředí se skutečnou autonomií, mimo úzce vymezený a dozorovaný pracovní postup.

S rostoucí dostupností těchto schopností se bezpečnostní riziko rychle mění. Snižuje se bariéra, která neodborníkům bránila pracovat s kritickými systémy a případně je zneužít. Lidé už připojují AI agenty ke svým prostředím SaaS a rozšiřují prostor pro hrozby pomocí API klíčů, integrovaných propojení i aplikací třetích stran. Každý nový pracovní postup s agenty však násobí počet přístupových cest.

Nedávný bezpečnostní průnik do Vercelu ilustruje tuto rostoucí hrozbu. Když autorizujete aplikaci třetí strany, implicitně důvěřujete všem, kdo zasahují do její infrastruktury: poskytovateli cloudu, vývojářům i jejich dalším připojeným službám. Většina organizací neví, k čemu vlastně dala souhlas, a nekontrolované rozšiřování autonomní AI tento problém ještě zesiluje.

Mnozí AI agenti fungují bez skutečného technického rámce, který by držel jejich chování pod kontrolou. Pokud chybějí identifikovatelné stopy jejich činnosti nebo jsou bezpečnostní mantinely slabé, lze jen obtížně zjistit, co agent udělal, čeho se dotkl a co změnil, jinak než zpětně. Právě tato kombinace zásadně odlišuje jejich rizikový profil od dřívějších nástrojů AI.

OpenClaws jste popsal jako technologii, která může kvůli širokým oprávněním a autonomii otevřít nové možnosti útoku. Můžete uvést konkrétní scénář, v němž se toto riziko projeví v podniku? 

Riziko OpenClaws se stává konkrétním ve chvíli, kdy se agenti přesunou od izolovaných úkolů do skutečných produkčních prostředí. To se již děje.

Většina organizací řeší, aby měl k agentovi přístup správný člověk a aby se agent choval podle očekávání. Jen málokterá však přemýšlí o tom, co se stane, když jeden agent začne komunikovat s jiným.

Právě tehdy se možnosti útoku dramaticky rozšiřují. Výstupy jednoho systému, například zprávy ve Slacku nebo úkoly v Jiře, spouštějí akce v jiném systému. Vedení ztrácí kontrolu nad těmito interakcemi a nedokáže udržet soustavný přehled ani auditní stopu. Agenti se navíc současně připojují přes API SaaS, z nichž mnohá dosud postrádají odpovídající brány a ochranná opatření.

Průměrný podnik už provozuje stovky agentů; jejich počet za poslední rok vzrostl téměř stonásobně. Při skutečném prověření týmy zjistí, že 38 % agentů vykazuje střední, vysoké nebo kritické riziko. Většina nemá zdokumentovaného vlastníka, některé vytvořily účty, které již neexistují, a přitom mají aktivní konektory do produkčních systémů a nulovou historii spuštění.

Uzavření této mezery vyžaduje důkladný přehled uvnitř samotných aplikací: jaké úkony dané přístupové údaje umožňují v každém systému, vůči jednotlivým datovým sadám a pro kohokoli, kdo je může použít k vyvolání akce. Bez tohoto kontextu vidíte jen polovinu obrazu. Vedení musí také přejít od pouhé detekce k vynucování pravidel za běhu a blokovat akce přímo při jejich vykonávání, ještě před dokončením, nikoli až po vzniku škody.

Mnohé organizace se domnívají, že SaaS už mají dostatečně zabezpečené. Kde tyto předpoklady selhávají, když do hry vstoupí autonomní AI?

Mnohé organizace si myslí, že zabezpečení SaaS už „vyřešily“. Rychlejší zavádění autonomní AI však tento předpoklad zpochybňuje. Zabezpečení SaaS často vnímají jako položku k odškrtnutí: rozpočet je schválen, nástroj nasazen a problém považován za vyřešený. API, na nichž tato prostředí stojí, však ve skutečnosti nikdy nemají plně pod kontrolou. Podniky totiž mají velmi omezený přehled o tom, co se děje na úrovni API a které prostředky SaaS spolu komunikují.

Vzniká tak strukturální slepé místo. Podniky mohou zabezpečit identity a koncová zařízení, ale často nevidí, jak se přes API přistupuje k datům SaaS a jaké úkony se nad nimi provádějí. Mnohé organizace tak nadále přistupují přes veřejný internet přímo ke kritickým systémům, aniž plně rozumějí rozsahu a chování podkladových interakcí přes API.

Autonomní AI tuto mezeru odhaluje a vytváří problémy rychleji, než je týmy dokážou řešit. Stává se tak impulzem pro debatu o API.

Jak by měly podniky přistupovat k řízení autonomních AI agentů, kteří mohou přistupovat k datům v několika systémech, přesouvat je a provádět nad nimi úkony?  

Žádný vedoucí pracovník dnes nechce brzdit zavádění AI, zvlášť když roste tlak na rychlost a měřitelné výsledky a při hodnocení se používá i spotřeba tokenů. Pokyny k zavádění AI často přicházejí přímo shora. Generální ředitelé vykazují pokrok představenstvům, nebo dokonce veřejným zainteresovaným stranám, což tlak na rychlé zavádění ještě zvyšuje. V prostředí, kde se výchozím postojem stává „AI za každou cenu“, nelze chybné konfigurace a nadměrná oprávnění realisticky napravovat dostatečně rychle prostřednictvím tradičních řídicích cyklů.

Systémy agentů ale na nápravu nečekají. Dokážou objevovat systémy, řetězit akce a provádět pracovní postupy napříč aplikacemi SaaS během několika sekund. Často dokončí deset nebo více kroků dříve, než člověk vůbec něco zaznamená, natož aby zasáhl.

Řízení proto už není jen otázkou včasného zachycení problémů ve vývojovém cyklu. Stále více jde o kontrolu v okamžiku, kdy agent skutečně jedná. Bezpečnostní vedení nemůže agenty účinně řídit, pokud kontrola přichází až po zneužití.

Ve světě autonomních rozhodnutí napříč systémy SaaS je jedinou životaschopnou ochranou před těmito hrozbami řízení za běhu. Je třeba překročit rámec detekce po provedení akce a odhalovat i blokovat eskalaci oprávnění, nadměrný přístup k datům a porušování pravidel dříve, než zasáhnou organizaci. Opatření musí odpovídat standardům OWASP a osvědčeným postupům odvětví, aby agenti pracovali v jasně stanovených a vymahatelných mezích. Týmy pak mohou držet krok se zaváděním autonomní AI, aniž ohrozí inovace.

Které technické zranitelnosti přinášené autonomní AI do prostředí SaaS se nejčastěji přehlížejí?

Po zavedení nového nástroje SaaS organizace často zjistí, že funkce AI byly nenápadně doplněny nebo jsou ve výchozím nastavení zapnuté. Často ale nenabízejí stejnou úroveň možností konfigurace a auditu, na jakou jsou bezpečnostní týmy zvyklé u tradičních funkcí SaaS. U provedené akce je pak obtížné rozlišit, zda ji zahájil člověk, nebo autonomní agent. Podniky v mnoha případech funkce AI ani nemohou vypnout, protože jsou zabudované přímo do aplikace SaaS.

Tato nejasnost představuje významné slepé místo pro bezpečnost i řízení. Pokud vestavěná funkce AI rozhoduje jménem uživatele, organizace často nemá jasnou možnost dohledat záměr, pochopit rozhodovací logiku nebo třeba jen ověřit, co určitou akci vyvolalo.

Riziko dále roste, vezmeme-li v úvahu dodavatelský řetězec AI uvnitř SaaS. Tyto vestavěné funkce často závisí na modelech, službách a integracích třetích stran v předchozích článcích řetězce. Je-li některý článek kompromitován, zhorší se jeho fungování nebo je zmanipulován, AI uvnitř SaaS může změnit důvěryhodné podnikové aplikace v aktivní součást útoku.

Vrstva AI uvnitř SaaS se fakticky stala vlastním dodavatelským řetězcem. Přináší nový druh rizika, který vyžaduje samostatné sledování a řízení. Bez přehledu o chování těchto vestavěných systémů a datech, na nichž závisí, organizace nevidí rostoucí část svého prostoru pro útoky v SaaS.

Ve velké míře se věnujete vyčíslování obchodní hodnoty a rizik. Jak by měly organizace měřit finanční a reputační riziko spojené s nezabezpečenými AI agenty?  

Je-li AI agent zneužit nebo způsobí bezpečnostní průnik, bezprostředním důsledkem není jen samotný incident, ale i následná reakce organizace. Tempo, jakým je podnik ochoten AI zavádět a rozšiřovat, se zpomalí, protože vedení začne být opatrnější. Jakmile se naruší důvěra, je podstatně těžší znovu rozběhnout inovační motor, který původně vytvářel hodnotu.

Nejde jen o interní týmy, ale i o vnější zainteresované strany. Představenstva, zákazníci a akcionáři očekávají odpovědné nasazení. Každé selhání spojené s autonomními agenty se rychle mění v otázku odpovědnosti při správě svěřených zájmů i pověsti. Pokud bezpečnost není součástí návrhu od začátku, organizace musí dodatečně a reaktivně řešit kontrolu a bezpečnost, což nevyhnutelně zpomaluje rozhodování v celém podniku.

Existuje také často přehlížené strukturální finanční riziko. S rostoucím vnímaným rozsahem možných škod způsobených AI agenty začínají podniky přidělovat kapitál opatrněji. Někdy zadržují prostředky nebo odkládají investice, aby se chránily před potenciálními incidenty.

Zabezpečení AI agentů se tak stává nejen otázkou snižování rizika, ale i tržeb a růstu. Organizace, které mohou AI nasazovat s důvěrou, že agenti podléhají řízení a drží se stanovených mezí, dokážou postupovat rychleji. Ty, které tuto důvěru nemají, přirozeně zpomalí. V roce 2026 se schopnost spojit rychlost s důvěrou stává mimořádnou výhodou.

Mezi rychlým zaváděním AI a odpovědným nasazením zjevně existuje napětí. Jak vypadá vyvážená strategie pro podniky, které chtějí inovovat bez zvýšení svého rizikového profilu?  

Jednou z největších mezer mezi zaváděním AI a odpovědným nasazením je nyní komunikace. Mnohé podniky aktivně používají AI v prostředích SaaS, ale navenek ne vždy jasně a soustavně vysvětlují, jak ji používají a jaká ochranná opatření zavedly. Nedostatek transparentnosti může riziko i zvýšit: zákazníci a partneři si místo pochopení skutečných opatření představují nejhorší scénář.

Vyváženější přístup chápe odpovědné používání AI jako součást hodnoty nabízené zákazníkům, nikoli jen jako interní úkol v oblasti dodržování pravidel. Podniky mohou jasněji vysvětlovat, jak AI řídí, co smí a nesmí dělat a jaké ochrany platí při práci s citlivými systémy. Tato srozumitelnost buduje důvěru a pomáhá bezpečně rozšiřovat využití AI.

Společnosti, které dokážou jasně popsat používání AI ve svých prostředích SaaS a prokázat, že je řízeno strukturovaným a sledovatelným způsobem, mohou inovovat rychleji bez zvýšení vnímaného rizika.

S autonomní AI experimentuje stále více podniků. Jaké okamžité kroky mají bezpečnostní týmy podniknout, aby se nestaly obětí dalšího bezpečnostního průniku v titulcích zpráv?  

Autonomní AI nepřináší jen nový druh rizika, ale také urychluje rizika, která organizace nevidí. Stínová AI například zvyšuje průměrné náklady na bezpečnostní průnik o dalších 670 tisíc dolarů. Základním problémem je přehled. Pokud organizace neví, kde se AI používá a jak pracuje se systémy, trvá déle incidenty odhalit a omezit jejich dopad. Tím přímo rostou finanční důsledky i důsledky v oblasti regulace.

Prvním krokem je získat přehled v celém podniku. Bezpečnostní týmy potřebují jasný obraz schváleného i neschváleného používání AI, nejen na úrovni aplikací, ale i v pracovních postupech, kde AI aktivně rozhoduje nebo rozhodnutí ovlivňuje.

Jakmile tento přehled mají, musí jej převést do vymahatelných pravidel a zabudovat je do systémů, v nichž práce skutečně probíhá. Je třeba se s podnikem dohodnout na způsobu používání AI a přejít od dokumentace k technickým kontrolám napříč koncovými zařízeními, platformami SaaS a systémy agentů. Čím dříve v průběhu vykonávání akcí tato opatření zasáhnou, tím nižší je pravděpodobnost nákladných incidentů stínové AI a autonomních agentů, jejichž dopad se obtížně omezuje.

Jak se podle vás bude bezpečnostní prostředí vyvíjet s hlubší integrací systémů autonomních AI agentů do podnikové infrastruktury?

Organizace budou potřebovat zabezpečení navržené přímo pro AI, aby zvládaly hrozby poháněné AI. Tyto systémy musí pracovat strojovou rychlostí, což zásadně promění bezpečnostní provoz. Lidé zůstanou součástí procesu, ale přesunou se ke strategickému dohledu a budou uplatňovat kontext a úsudek, které AI stále postrádá.

Změní se i uspořádání bezpečnostních týmů. Nemusí se nutně zmenšit, ale rozsah jejich práce výrazně vzroste: jediný bezpečnostní odborník bude díky automatizaci a nástrojům AI odpovídat za mnohem širší oblast.

V prostředích s agenty navíc nestačí sledování a detekce. Organizace musí zavést skutečné mechanismy vynucování pravidel. Potřebují systémy fungující jako přepínače: možnost zapínat či vypínat funkce, omezovat chování v reálném čase a izolovat systémy, které se chovají nevhodně nebo by mohly ohrozit zbytek podniku. Riziko dodavatelského řetězce AI je příliš velké na to, aby v architektuře chyběly mechanismy nouzového vypnutí.

AI bude dál zrychlovat, potenciálně až za hranice lidské rychlosti a schopností. Debata se ale nemůže soustředit jen na riziko; musí zahrnovat i příležitosti. Je to jako s výchovou dětí: AI bude růst a chybovat, ale také nás může překonat. Vítězit budou ti, kteří AI přijmou ve velkém a současně vybudují mechanismy umožňující její bezpečné a důvěryhodné nasazení.

Děkuji za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více, mohou navštívit Obsidian Security.