Pascal Geenens, VP kybernetické hrozby, Radware – Interview Series

Pascal Geenens, VP kybernetické hrozby, Radware, je bezpečnostní výzkumník a technologický lídr s více než dvěma desetiletími zkušeností v oblasti informačních technologií, sítě a kybernetické bezpečnosti. V Radware pomáhá vést výzkum a myšlenkové vedení společnosti na poli kybernetických hrozeb, se zvláštním zaměřením na distribuované útoky na odepření služby, malware pro Internet věcí, automatizované hrozby a rostoucí používání umělé inteligence jak útočníky, tak obránci. Geenens vyvíjí a udržuje honeypoty pro Internet věcí jako součást bezpečnostního výzkumného týmu Radware a provedl rozsáhlý výzkum hrozeb, jako je BrickerBot a Hajime. Předtím, než se připojil k Radware, pracoval jako poradenský inženýr v Juniper Networks , kde radil majoritním cloudovým a komunikačním službám v Evropě, na Blízkém východě a v Africe o strategiích softwarově definovaných sítí, virtualizace síťových funkcí a automatizace datových center.

Radware je veřejně obchodovaná společnost pro kybernetickou bezpečnost a doručování aplikací, která pomáhá podnikům chránit sítě, webové stránky, aplikace a rozhraní API napříč fyzickými, cloudovými, hybridními a softwarově definovanými prostředími. Jeho portfolio zahrnuje ochranu proti útokům na odepření služby s využitím umělé inteligence, webové aplikační brány, správu botů, zabezpečení API, aplikační doručovací řadiče a spravované nouzové služby. Kombinací behaviorální analýzy, strojového učení, cloudové inteligence hrozeb a automatizované mitigace je technologie Radware navržena tak, aby identifikovala škodlivou činnost v reálném čase, zatímco zachovává přístup pro legální uživatele a udržuje dostupnost a výkon kritických digitálních služeb.

Vy jste strávil téměř tři desetiletí v kybernetické bezpečnosti, od podpory jadra IBM AIX a inženýrství infrastruktury až po objevování botnetů, jako je BrickerBot, JenX a Demonbot, a nyní vedete kybernetickou hrozbu v Radware. Ohlédnutím se zpět, jaké jsou největší posuny, které jste viděl v inovacích útočníků, a jak umělá inteligence změnila vaše očekávání pro budoucí kybernetické hrozby?

Kybernetická krajina prošla fundamentální změnou od osamělých hackerů, kteří byli vysoce technicky zdatní nadšenci, do kybernetických zločinců, kteří jsou vysoce organizovaní a sofistikovaní podnikatelé. V minulosti byl hacker obvykle motivován technickou výzvou samotnou. Dnes kombinace digitální akcelerace a generativní umělé inteligence komercializovala整个 operaci, pohánějící zavedenou ekonomiku zločinu jako služby (CaaS). Škodlivé aktéři zrcadlily korporátní model softwaru jako služby (SaaS), prodávají pokročilé nástroje komukoli. To umožňuje úplným začátečníkům spustit sofistikované útoky ve velkém měřítku. Jak se naše digitální stopa expanduje každý rok, dostupná útočná plocha a příležitosti pro finanční exploataci rostou s ní.

Umělá inteligence pohání další kapitolu této evoluce dvěma odlišnými způsoby.

První, demokratizuje kybernetický zločin. Poskytuje amatérským útočníkům okamžitou schopnost a pomáhá majoritním syndikátům streamovat jejich operace, vylepšit uživatelské rozhraní a efektivněji prodávat své škodlivé služby.

Druhý, a kritičtější, vzestup agentic umělé inteligence v kombinaci s nejnovějšími modely pohraničí automatizuje životní cyklus zranitelnosti. Pohybujeme se směrem k operační realitě, kde stroje mohou autonomně skenovat sítě, objevovat zranitelnosti a zbranit exploit téměř úplně sami, pracují 24/7 a vykonávají akce řádově rychleji než jakýkoli lidský obránce.

Umělá inteligence dramaticky snižuje technickou bariéru pro útočníky. Které ofenzivní schopnosti umělé inteligence vás nejvíce znepokojují v příštích třech až pěti letech, a které si myslíte, že aktuálně dostávají více pozornosti, než si zaslouží?

Oblast, která vyžaduje nejbližší pozornost, je umělá inteligence asistovaná objevování zranitelností a exploatace. Okamžik, kdy je odhalena slabina, začíná závod. Útočníci využívají umělou inteligenci k okamžité analýze slabiny, mapování, kde se uplatňuje, a generování a testování variant exploitů. To úplně komprimuje časový horizont exploatace, který byl již příliš rychlý pro většinu procesů správy oprav podniků.

Současně vidíme významný posun směrem k lokálním, kontinuálním systémům umělé inteligence. Konkrétně vzestup “lokálních agentů s pulzem”. Příkladem je OpenClaw a nedávné oznámení Microsoftu (MSFT ), že budou integrovat OpenClaw do každé lišty zaměstnance. Na rozdíl od standardních cloudových asistentů běží tyto lokální agenti neustále na pozadí, přímo na stroji zaměstnance. Provozují se prostřednictvím kontinuálních smyček a napodobují lidské akce, jako je psaní a navigace prostřednictvím automatizace prohlížeče. To činí prakticky nemožným pro standardní systémy zabezpečení koncových bodů rozlišit mezi zaměstnancem a agentem umělé inteligence. Protože uživatelé budou nevyhnutelně poskytovat těmto agentům široká oprávnění k přístupu k systému, aby mohli vykonávat svou práci, mohou agenti obejít zabezpečené API konektory jednoduše pomocí místních prohlížečů pro kliknutí na odkazy a tlačítka. Pokud jsou tyto autonomní lokální agenti zasaženi přímým nebo nepřímým injekčním útokem, může útočník manipulovat s nimi, aby extrahovali, měnili nebo ničili firemní data bez tradiční stopy.

Okno mezi odhalením zranitelnosti a aktivní exploatací se zmenšuje. O kolik umělá inteligence urychlila tento časový horizont, a jaké změny by měly podnikové bezpečnostní týmy provést, aby zůstaly vpředu?

Jde o dvojí závod: na jedné straně máte závod k objevení, opravě a odhalení nových zranitelností před tím, než je učiní špatní chlapci, na druhé straně máte závod k opravě zranitelného softwaru předtím, než útočníci spustí exploit. Umělá inteligence je v centru obou závodů.

Obránci musí zvládnout rostoucí počet zranitelností a mají stále méně času na reakci. Jakmile je zranitelnost veřejná, útočníci se rychle pohybují skrze základy. Co je ovlivněno? Je to dosažitelné z internetu? Může být exploit reprodukován a adaptován pro fungování v dalších prostředích? Umělá inteligence pomáhá s každým z těchto kroků, shrnuje slabinu, přezkoumává kód proof-of-concept, navrhuje úpravy a automatizuje skenování, exploataci a zpracování výsledků.

Opravy nemohou být jediným časem, který bezpečnostní týmy sledují. Je to nezbytné, ale obvykle je to pomalejší než časový horizont útočníka, zejména pro aplikaci a API, které jsou vystaveny internetu. Týmy potřebují vědět, co je vystaveno, co je prakticky využitelné a které podnikové služby a zdroje budou ovlivněny, když budou zasaženy.

Abyste uzavřeli toto kritické vystavení, obránci musí přejít z reaktivního, patch-first myšlení na automatizované, protect-first model implementací prostředí-specifických reálných obran. Místo toho, aby se spoléhali na obecné, univerzální podpisy nebo nutili operační týmy spěchat neověřené softwarové aktualizace do produkce, by organizace měly začít spoléhat se na kontinuální, automatizované objevování koncových bodů API a online aplikací, spolu s automatizovaným softwarem pro materiály (SBOM), kombinovaným s hrozbami inteligence o nejnovějších zranitelnostech a hrozbách, aby dynamicky generovaly přizpůsobené virtuální opravy. Nasazení těchto kontextově-aware ochran napříč webovými aplikacemi a koncovými body API blokuje pokusy o exploataci na úrovni runtime, než mohou dosáhnout zranitelné aplikační logiky. Tento typ automatizovaného zásahu poskytuje bezpečnostním týmům okno pro opravu, umožňující jim důkladně otestovat a bezpečně nasadit softwarové aktualizace v_manageablem čase, aniž by vystavovali podnik riziku nebo prostoji.

Organizace jsou stále více nasazují aplikace a agenty umělé inteligence, které silně závisí na rozhraních API. Podceňují podniky bezpečnostní rizika, která to vytváří, a jaké jsou největší chyby, které vidíte dnes?

Ano, mnoho podniků stále podceňuje rizika, protože je stále považují za aplikace, které je třeba zabezpečit, a bezpečnost umělé inteligence jako otázku ochrany dat, spíše než operační hrozby. Problém, který vidíme nejčastěji, je zásadní nedorozumění agentovy agentury. Pro lokálního agenta umělé inteligence, aby byl skutečně efektivní a ušetřil zaměstnanci čas, musí uživatel přenést všechna svá oprávnění k přístupu k němu. To znamená, že agent efektivně dědí identitu a důvěryhodný přístup zaměstnance napříč firemními aplikacemi, relacemi prohlížeče a místními soubory. I když organizace aktivně monitorují a omezují konektory agenta umělé inteligence, mohou tyto lokální agenti interagovat se systémy napodobováním lidského chování, jako je psaní a navigace prostřednictvím automatizace prohlížeče. Firemní bezpečnostní systémy se stávají zcela neschopnými rozlišit mezi skutečným zaměstnancem a automatizovaným agentem.

Požádali jste roky výzkumu malware pro Internet věcí a botnetů, jak vidíte transformaci budoucí generace botnetů? Můžeme nakonec vidět autonomní botnety, které se přizpůsobují bez přímé lidské intervence?

Botnet herders nikdy nezůstali nečinní. Operátoři rotují payloady, implementují nové zranitelnosti, kontinuálně skenují zastaralá zařízení a mění svou velitelskou infrastrukturu, když obránci chytí. Agenti umělé inteligence mohou vážně urychlit tyto cykly, ať už jde o triáž zranitelností, generování exploitů nebo správu infrastruktury.

Autonomní botnety nejsou fikcí. Brickerbot byl jedním z prvních autonomních botů. Čekal tiše a čekal, až zařízení infikovaná Mirai budou pokoušet ohrozit jeho hostitelské zařízení, a poté útočil na útočící zařízení, využívaje fingerprintingu zařízení a výběru nejvhodnějších zranitelností k získání přístupu k zařízení. Nakonec Brickerbot zničil infikované zařízení. Bot fungoval jako pravidlový expertní systém, podobný raným systémům umělé inteligence. Další relevantní botnet, který udělal dojem na bezpečnostní komunitu před více než deseti lety, byl Hajime. Byl to jeden z prvních peer-to-peer botnetů. Díky využití decentralizovaných hash tabulekTorrentu mohl Hajime být ovládán a aktualizován decentralizovaně, bez potřeby centrální velitelské a kontrolní infrastruktury, a proto byl téměř nemožný k odstavení.

Existuje několik diskusí v bezpečnostní komunitě o potenciálu agentic botnetu postaveného na lokálních rámcích agenta umělé inteligence, jako je OpenClaw. Tyto nejsou tradičními botnetovými malware, ale botnety poháněnými zcela kontextem. Když lokální agenti zpracovávají externí data, útočníci nemusí hledat tradiční softwarovou slabinu, aby ukradli tyto stroje; stačí je oklamat základní model umělé inteligence. Takto získají přístup k silnému terminálovému spuštění, automatizaci prohlížeče a potenciálně dalším “schopnostem”.

Komunita konkrétně diskutuje o několika klíčových prvcích, které činí široce rozšířený “OpenClaw botnet” životaschopným:

• Protože OpenClaw neustále přijímá externí data (jako monitorování problémů GitHub, čtení příchozích zpráv Slack/Telegram nebo shrnutí webových stránek), útočníci mohou vložit škodlivé instrukce do veřejných dat. Pokud uživatelův lokální agent zpracuje tato data, vložená prompt injekce může přepsat systémové instrukce a přikázat agentovi, aby se spojil s útočníkem ovládaným C2 serverem.
• Bezpečnostní výzkumníci si všimli, že agenti OpenClaw mají schopnost využívat peer-to-peer nebo agent-to-agent šifrované komunikační kanály (jako komunitně postavené dovednosti, jako je ClaudeConnect). Kybernetičtí zločinci si uvědomují, že mohou tyto komunikační kanály využít k tomu, aby ukradené agenty koordinovali mezi sebou, zcela obejití tradiční síťové firewally a koncové body.
• Bezpečnostní skenování odhalila, že desítky tisíc nezkušených uživatelů spouští instance OpenClaw na cloud serverech a náhodně vystavují HTTP management rozhraní přímo na internet. Tento obrovský pool vystavených, vysoce privilegovaných prostředí poskytuje útočníkům obrovskou, předem existující stopu k cílení.
• Protože OpenClaw silně závisí na “dovednostech” stažených z veřejných repozitářů, jako je ClawHub, útočníci nahrávají zdánlivě neškodné dovednosti (jako “Co by udělal Elon”), které obsahují skryté instrukce. Jakmile jsou nainstalovány, agent je tiše instruován, aby spustil shell příkazy nebo nainstaloval malware, efektivně rekrutuje hostitelský stroj do botnetu, aniž by uživatel viděl podezřelou soubor.

Nakonec je v komunitě konsenzus, že OpenClaw je primárním cílem pro první skutečný agentic botnet. Na rozdíl od botnetu složeného z kompromitovaných routerů nebo zařízení Internetu věcí, běžících skriptů DDoS, by OpenClaw botnet sestával z vysoce schopných, plně autentizovaných strojů, které útočníci mohou přikázat, aby ukradli přihlašovací údaje, změnili data nebo provedli masivní útoky na dodavatelský řetězec ve strojovém tempu.

Hacktivistické kampaně a rozsáhlé útoky DDoS se staly stále častějšími. Stávají se tyto skupiny sofistikovanějšími, nebo umělá inteligence a snadno dostupné útočné nástroje činí pokročilé útoky dostupnějšími širšímu publiku?

Obojí. Některé hacktivistické skupiny se skutečně staly více organizovanými. Některé skupiny, jako ikonická NoName057(16), aktivně provádějí útoky DDoS denně od února 2022. Měli čas vylepšit své nástroje, vybudovat loajální následovníky a naučit se, jak vybrat cíle, které přitahují pozornost, časovat své útoky kolem politických událostí a používat veřejné nároky, aby vyvinuli tlak. Pro hacktivisty je důležitější zpráva než samotné narušení.

Současně se nástroje staly snazšími na získání, než bývaly. Služby DDoS-for-hire, botnety, proxy sítě, uniklé skripty a tutoriály umožnily komukoli s omezenými schopnostmi se připojit ke kampani a cítit se jako součást něčeho většího. Umělá inteligence přidává kodérskou asistenci, výzkum cílů, překlad, kampaně a základní automatizaci.

Cíle pociťují dopad stejně, ať už útok pochází od sofistikované skupiny poháněné ideologií nebo od osamělého vlka najatého konkurentem, který si pronajímá infrastrukturu útoků DDoS. Vypadlý web ovlivňuje zákazníky. Nedostupná veřejná služba je zpozorována občany. Dostatečný hluk a výkonní a komunikační týmy musí reagovat, bez ohledu na to, kdo je za klávesnicí.

Jak podniky integrují generativní umělou inteligenci do svých operací, jaké nové útočné plochy vznikají, které bezpečnostní lídři možná dosud plně neocenili?

Odpověď je definována tím, co může agent umělé inteligence dosáhnout. Jakmile má přístup k interním dokumentům, kódu, CI/CD kanálům, API klíčům nebo devops nástrojům, útočná plocha se rychle rozšiřuje. Aby byl agent užitečný, potřebuje agenturu, jinak je to jen zdokonalený chatbot. Otázka se stává, co je agentovi dovoleno dělat. Jaké důvěrné informace může číst? Může měnit lístek nebo bankovní účet zákazníka v CRM? Může spouštět kód? Může volat externí službu? Může vystavovat data prostřednictvím volání nástrojů?

Ne přímá injekční útok se stává vážnějším v takovém prostředí. Pokud agent zpracuje nedůvěryhodný obsah a poté jedná, prompt může se stát cestou do workflow. To je jiné než chatbot, který odpovídá na otázku.

Umělá inteligence je nyní používána jak útočníky, tak obránci. Věříte, že obranná umělá inteligence nakonec udrží krok s útočnou umělou inteligencí, nebo budou organizace čelit stále více asymetrické bitvě v příštích letech?

Umělá inteligence vytváří nerovnováhu, která favors útočníka. To není proto, že modely obranné umělé inteligence jsou inferiorní. Ve skutečnosti je použití umělé inteligence v obraně vysoce efektivní při filtrování denního hluku a urychlování reakce na incidenty. Problém je strukturální mezera v operační rychlosti a omezeních.

Historicky, když byla objevena zranitelnost, bezpečnostní týmy měly malý časový okno, aby nasadily opravu, než útočníci zbranili exploit. Dnes agentic umělá inteligence komprimovala toto okno na téměř nulu. Automatizované nástroje mohou najít slabinu a okamžitě vygenerovat cílený exploit. Tradiční, lidsky vedený proces správy oprav nemůže konkurovat automatizovanému potrubí, které běží kontinuální útočné smyčky.

Konečně, bezpečnostní vedení nebude definováno tím, kdo má “chytrější” umělou inteligenci, ale tím, kdo vyřeší tuto architektonickou rychlostní mezeru. Organizace, které pohlížejí na umělou inteligenci jako na standardní bezpečnostní nástroj, budou přemoženy rychlostí moderních hrozeb. Úspěch vyžaduje přepracování infrastruktury, aby umožnila obranné umělou inteligenci izolovat a obsahovat hrozby autonomně.

Mnohé bezpečnostní týmy stále spoléhají na tradiční bezpečnostní metriky a detekční metody. Jak útoky rostou rychleji a stávají se více automatizovanými, které indikátory nebo chování by organizace měly prioritizovat?

Většina bezpečnostních metrik se stále soustředí na aktivitu: spuštěná upozornění, blokování útoků nebo nalezená zranitelnost. Zatímco tato čísla jsou užitečná pro měření reakce na incidenty, neposkytují vhled do skutečného vystavení organizace. Říkají obráncům, co chytili, ale neukazují jim slepá místa, která zůstávají otevřená, dokud útočník nevyužije.

V éře automatizovaných hrozeb není reaktivní metrika již životaschopná. Jakmile je organizace cílená, rychlost útoků vyžaduje proaktivní správu. Reálná správa útočné plochy je nyní nezbytná. Obránci potřebují kontinuální viditelnost do specifických operačních rizik: Které kritické aplikace a API jsou vystaveny internetu? Jaké zranitelnosti existují v nich?

Skutečná odolnost pochází z propojení tohoto kontextu útočné plochy s behaviorální detekcí a hrozbami inteligence. Porozuměním tomu, co je vystaveno a jak se chová, mohou bezpečnostní týmy předpovídat a blokovat dříve neznámé útoky.

Konečně, operační rychlost zůstává kritickým indikátorem úspěchu, ale obránci musí měřit správné časové okno: Jak rychle identifikujeme, že nová zranitelnost ovlivňuje vystavený systém, a jak rychle můžeme umístit kompenzační kontrolu, aby ho chránila? Tato konkrétní rychlost je nejpravdivějším měřítkem, zda bezpečnostní program může odolat rychlostním útokům ve velkém měřítku.

Pohledem na příštích pět let, co budete považovat za definující kybernetickou výzvu éry umělé inteligence, a co by měli CISO a bezpečnostní týmy začít dělat dnes, aby se na ni připravili?

Pohledem na příštích pět let, definující kybernetickou výzvou éry umělé inteligence bude vládnutí a zabezpečení autonomních ne-lidských vztahů. Jak organizace přecházejí od samostatných chatbotů k propojeným, multi-agentním systémům, které mají agenturu pro provedení finančních transakcí, úpravu zdrojového kódu a změnu cloudové infrastruktury, tradiční bezpečnostní hranice se zhroutí. Za pět let nebude podnik spravovat pouze lidské zaměstnance a statický software; bude dohlížet na tisíce autonomních agentů umělé inteligence, které interagují mezi sebou, firemními daty a externími třetími stranami.

Viditelnost do agentic systémů napříč organizací bude nezbytná. Předtím, než agenti proliferují, by měli CISO zřídit centralizovaný registr, který definuje jasnou vlastnictví pro každého nasazeného agenta, datové modely a repozitáře, které agent je oprávněn číst, a nástroje, API a systémové příkazy, které je oprávněn volat. CISO by také měli nařídit, aby každá nasazení agentic technologie využívala standardizované, ověřitelné protokoly pro konektivitu, aby zajistily, že všechny integrace nástrojů jsou přísně zaznamenány.

Za pět let bude obrana proti rozhraním API a online aplikacím jiná než správa konfigurací, blokování známých signatur a oprav zranitelností; bude to automatizovaná válka logiky proti logice. Jak útočníci nasazují plně automatizované, kontextově-aware agentic potrubí, které mohou reverzní inženýrství aplikační obchodní logiky do sekund od objevu, tradiční webové aplikační brány (WAF) se stanou zastaralými. Obrana tohoto krajiny bude vyžadovat posun k autonomním, kontextově-driven architekturám.

Útočníci budou využívat frontier modely k úplnému automatizování cyklu objevování a exploatace logických chyb API (jako Broken Object Level Authorization, nebo BOLA). Místo hledání známých softwarových bugů budou automatizované útočné boty mapovat celou aplikační API schéma, pochopí, jak data proudí, a dynamicky generovat přesné, vysoce přizpůsobené sekvence payloadů, aby manipulovaly obchodní logikou. Protože tyto útoky využívají platnou syntaxi a legitivní API volání, standardní prahová rychlostní omezení a detekce signatur budou na nich zcela slepé.

Abyste čelili automatizovanému objevování, obránci musí dosáhnout reálné, kontinuální viditelnosti do své vlastní vystavené architektury. Bezpečnostní týmy nemohou spoléhat se na statickou dokumentaci nebo zastaralé API katalogy. Obranná umělá inteligence musí kontinuálně skenovat a mapovat každý aktivní koncový bod API, mikroslužební vztah a online aplikační workflow napříč hybridními cloudovými prostředími. Tato automatizovaná viditelnost musí být spárována s dynamickým softwarem pro materiály (SBOM), aby okamžitě spojila novou globální zranitelnost s konkrétními interními řádky kódu, které jsou vystaveny internetu.

Protože automatizované útoky se budou mísit s legitivní uživatelskou dopravou, obrana musí posunout zcela na kontextově-aware behaviorální analýzu. Obranná umělá inteligence bude profilovat standardní chování každého API klienta, tokenu a uživatelské identity. Monitoruje intent a sekvenci API volání, spíše než pouze vstupní data. Pokud útočníkův automatizovaný skript začne spojovat legitivní API volání v anomální sekvenci, aby extrahoval data nebo otestoval logickou chybu, systém musí rozpoznat strukturální deviaci v intentu a zasáhnout okamžitě.

Skutečné měřítko odolnosti bude, jak rychle organizace může komprimovat okno mezi vystavením zranitelnosti a její opravou. Čekání na vývojáře, aby napsali, otestovali a nasadili aktualizace kódu do produkce, bude fatální strategie. Skutečná ochrana bude záviset na automatizovaném, kontextově-aware virtuálním patchingu na úrovni runtime. Krměním reálné hrozby inteligence a objevování API dat přímo do defensive AI engine na okraji, infrastruktura automaticky vygeneruje a nasadí přizpůsobené virtuální opravy, aby zablokovala a odrazila pokusy o exploataci, než vůbec dosáhnou zranitelné aplikační logiky. Děkuji vám za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Radware.