Craig Riddell, globální Field CISO ve společnosti Wallarm – rozhovor

Craig Riddell, globální Field CISO ve společnosti Wallarm, je zkušený cybersecurity manažer, který se zaměřuje na pomoc podnikům spravovat rostoucí rizika spojená s API a systémy poháněnými umělou inteligencí. Ve své současné roli úzce spolupracuje s CISO, CIO a vedoucími inženýry, aby přeložil reálné útoky a scénáře zneužití do akčních bezpečnostních strategií, se silným důrazem na pozorovatelnost – pochopení, jak se API a systémy umělé inteligence chovají v produkci napříč uživateli, aplikacemi a integračními prvky. Jeho kariéra zahrnuje vedoucí role v oblasti identity a přístupového řízení, architektury založené na důvěře a podnikové bezpečnosti ve společnostech, jako jsou Netwrix, Kron a HP, kde řídil rozsáhlé transformace IAM a modernizoval bezpečnostní rámce. Riddellův odborný zájem se soustředí na vznikající hrozby, jako jsou útoky na obchodní logiku, zneužívání API, posun systémů umělé inteligence a podvody, se stálým zaměřením na překlenutí mezery mezi vysokou úrovní bezpečnostní strategie a provozní realizací.

Wallarm je společnost pro kybernetickou bezpečnost, specializující se na ochranu API, aplikací a systémů poháněných umělou inteligencí v moderních cloudových prostředích. Jejich platforma poskytuje nepřetržité objevování, testování a ochranu v reálném čase proti hrozbám, jako je zneužívání API, útoky na obchodní logiku a automatizované útoky, a nabízí hlubokou viditelnost do chování systémů napříč složitými infrastrukturami. Navržená pro multi-cloud a cloud-native architektury, Wallarm se integruje do stávajících DevOps a bezpečnostních pracovních postupů, což umožňuje organizacím detekovat a blokovat útoky, zatímco se vyskytují, místo aby na ně reagovaly až po jejich spáchání. Kombinací inventarizace API, detekce hrozeb založených na umělém inteligenci a automatizovaných reakčních schopností platforma řeší rostoucí realitu, ve které se API a systémy umělé inteligence staly primární útočnou plochou pro moderní digitální podniky.

Začali jste svou kariéru prací přímo se systémy a infrastrukturou a od té doby jste se posunuli do vedoucích rolí zaměřených na identitu, přístup, API a bezpečnost umělé inteligence. Jaké byly hlavní posuny na této cestě, které vás vedly k závěru, že skutečné riziko se přesunulo od perimetru do API a systémů poháněných stroji?

Na počátku své kariéry se zaměřoval na ochranu okraje. Brány firewall, segmentace, zpevňování infrastruktury. Tento model fungoval, když systémy byly statické a hranice důvěry byly snazší definovat.

Co se změnilo, je způsob, jakým jsou aplikace postaveny a jak systémy interagují. API se staly spojovacím článkem všeho a umělá inteligence tuto změnu dále urychluje. Nyní systémy činí rozhodnutí, volají jiné systémy a provádějí akce v měřítku a rychlosti, které nezahrnují lidi do smyčky.

V tomto okamžiku se perimetr stává méně relevantním. Skutečné riziko se přesunuje tam, kde jsou učiněna rozhodnutí a prováděny akce, uvnitř API a strojově řízených pracovních postupů.

Pokud nemáte viditelnost a kontrolu tam, důvěřujete chování, které nelze plně vidět. To je místo, kde se objevuje obchodní riziko, od finančního ohrožení až po neočekávané výsledky a provozní narušení.

Vy jste popsali kybernetický potřásání rukou jako rozbité, odkazující na to, jak systémy navazují důvěru a vyměňují akce napříč stále složitějšími řetězci API a automatizovaných procesů. Jak vypadá tato rozbitost v reálném podnikovém prostředí dnes?

Ve většině prostředí důvěřují systémy jeden druhému na základě identity a autentizace. Platný token, dobře vytvořená žádost a interakce jsou povoleny.

Problém spočívá v tom, že se předpokládá, že platný znamená bezpečný. To již není pravda.

Autentizujeme identitu, ale neověřujeme záměr. Ověřujeme přístup, ale ne chování napříč řetězcem.

Služba může být autorizována k volání jiné služby, která spustí následné akce napříč několika API. Každý krok vypadá legitimně v izolaci, ale napříč celým řetězcem začnete vidět neočekávané chování nebo zneužívání logiky.

V prostředích poháněných umělou inteligencí je toto zesíleno. Agenti mohou řetězit akce a spouštět pracovní postupy bez lidské kontroly.

Potřásání rukou stále probíhá, ale nikdo se neptá, zda chování má smysl v kontextu. Důvěra je navázána, ale není průběžně ověřována.

Proč riziko umělé inteligence a API tak často padá mezi organizační hranice místo toho, aby jasně patřilo?

Protože systémy nejsou sladěny s tím, jak jsou organizace strukturovány.

Tým DevOps vlastní doručování. Tým zabezpečení vlastní politiku. Obchodní týmy vlastní výsledky. Týmy dat vlastní modely. Každá skupina vlastní kus, ale nikdo nevlastní systém, jak se chová v produkci.

API vykonávají obchodní logiku napříč systémy. Umělá inteligence zavádí nedeterministické rozhodování nad tímto. Společně překračují každou hranici.

Jsou postaveny jedním týmem, zabezpečeny jiným a konzumovány třetím, s nekonzistentním monitorováním napříč všemi.

Mezery, které toto vytváří, nejsou selháním týmů. Jsou selháním operačního modelu, aby odrážel, jak moderní systémy skutečně fungují.

Vaše zkušenosti ukazují, které týmy obvykle předpokládají, že vlastní riziko umělé inteligence, a kde jsou největší slepá místa mezi zabezpečením, DevOps a obchodními jednotkami?

Týmy zabezpečení se obvykle domnívají, že vlastní riziko umělé inteligence z hlediska řízení a dodržování předpisů. Tým DevOps vlastní nasazení a spolehlivost. Obchodní jednotky se zaměřují na výsledky.

Slepá místa se objevují mezi těmito oblastmi.

Tým zabezpečení definuje, co by se mělo stát. Tým DevOps zajišťuje, že systém běží. Obchodní jednotky se soustředí na výsledky. Ale velmi málo týmů se systematicky dívá na to, co systém skutečně dělá v reálném čase.

Tato mezera je místem, kde žije riziko, zejména když je chování technicky platné, ale kontextově špatné.

Mnohé moderní útoky vypadají jako platné a autentizované chování spíše než zjevné proniknutí. Jak by organizace měly přehodnotit detekci v této nové realitě?

Musíme se posunout za hranice identifikace „špatných“ žádostí.

Ve mnoha případech je žádost platná. Přihlašovací údaje jsou legitimní. Volání API je očekávané. Co není očekávané, je posloupnost akcí, objem nebo výsledek.

Detekce musí stát behaviorální a kontextuální. Je méně o blokování jediné žádosti a více o pochopení, jak systémy interagují v průběhu času.

Přístupy, které skutečně fungují v měřítku, jdou za hranice párování vzorů. Dekomponují žádosti strukturálně, zacházejí s každou interakcí jako s sadou behaviorálních tokenů, spíše než snažící se párovat s známými špatnými vzory.

To umožňuje pochopit, jak se chování vyvíjí a kde se odchyluje, i když na povrchu vše vypadá platně.

Pokud se spoléháte na statická pravidla nebo signatury, budete většinu toho, co je důležité, minout.

Vy jste zdůraznili důležitost pozorovatelnosti do reálného chování. Jak vypadá smysluplná pozorovatelnost pro API a systémy umělé inteligence v produkci?

Smysluplná pozorovatelnost není jen logy a metriky. Je to pochopení chování v kontextu.

Pro API to znamená úplnou viditelnost požadavků a odpovědí, použití koncových bodů a toho, jak interakce evolují v průběhu času.

Pro systémy umělé inteligence to znamená pochopení vstupů, rozhodnutí a výsledných akcí.

Nejdůležitější je propojit je napříč systémy do úplných pracovních postupů, ne izolovaných událostí.

Bez toho operujete na základě předpokladů o chování systému, místo reality.

Proč se tradiční modely lidské kontroly a schvalování stávají méně účinnými ve strojově řízených prostředích?

Protože se změnila rychlost a měřítko.

Systémy činí tisíce nebo miliony volání za minutu a útoky nebo neočekávané chování se mohou rozvinout v minutách nebo sekundách. Nemůžete realisticky umístit člověka do smyčky pro každé rozhodnutí, aniž byste narušili výkon.

Systémy umělé inteligence také nejsou vždy deterministické, což činí modely předchozího schvalování méně účinnými.

Lidská kontrola stále záleží, ale musí se posunout od schvalování jednotlivých akcí k definování ochranných opatření a monitorování výsledků.

Jaké jsou nejčastější provozní mezery, které vidíte, když společnosti snaží zabezpečit systémy umělé inteligence pomocí zastaralých bezpečnostních rámců?

Největší mezera je přehnaná závislost na kontrolách v době návrhu.

Organizace se soustředí na zabezpečení modelů, kontrolu kódu a definici politik před nasazením. To je důležité, ale předpokládá, že systémy se budou chovat, jak se očekává, jednou budou nasazeny.

Ve skutečnosti se systémy vyvíjejí. API se mění. Modely umělé inteligence interagují s novými daty a pracovními postupy. Chování se mění v průběhu času.

Bez průběžné validace chování v produkci jsou organizace efektivní slepé po nasazení.

Jak vypadá praktický provozní model, když více zúčastněných stran sdílí odpovědnost za riziko API a umělé inteligence?

Začíná to uznáním, že žádný tým nemůže vlastnit tuto cestu od začátku do konce.

Praktický model definuje sdílenou odpovědnost, ukotvenou kolem společného zdroje pravdy: chování v provozu.

Tým zabezpečení definuje riziko a politiku. Inženýrský tým buduje a provozuje systémy. Obchodní jednotky definují přijatelné výsledky.

Týmy, které jsou před touto výzvou, operují v uzavřené smyčce. Průběžné objevování, vynucování a úprava, řízené tím, co systémy skutečně dělají v produkci, ne tím, co bylo předpokládáno v době návrhu.

Všechny zúčastněné strany potřebují viditelnost do chování systémů v produkci. Odtud mohou týmy sladit, co „dobré“ vypadá, detekovat odchylky a reagovat.

Posun je ze samostatného vlastnictví k koordinované odpovědnosti, založené na poznatcích z provozu.

Při pohledu do budoucna očekáváte, že se bezpečnostní odpovědnost stane opět více centralizovanou, nebo bude pokračovat ve fragmentaci, jak systémy budou stále více autonomní?

Odpovědnost zůstane distribuovaná, protože to odráží, jak jsou systémy postaveny.

Co se změní, je způsob, jakým se tato odpovědnost koordinuje.

Uvidíme více ujednocených modelů řízení, kde týmy vlastní své domény, ale operují se sdílenou viditelností a kontextem.

Organizace, které uspějí, nebudou ty, které se budou snažit centralizovat vše. Budou to ty, které sladí zúčastněné strany kolem chování systémů v reálném světě.

Protože pokud nikdo nerozumí chování v provozu, nikdo skutečně nevlastní riziko.

Děkuji za skvělý rozhovor, čtenáři, kteří si chtějí přečíst více, by měli navštívit Wallarm.