Thorsten Delbrouck, Group CSO ve společnosti Giesecke+Devrient – rozhovor

Thorsten Delbrouck, skupinový ředitel bezpečnosti společnosti Giesecke+Devrient, je zkušený manažer kybernetické bezpečnosti s více než dvacetiletou praxí v zabezpečování podnikové infrastruktury, digitálních identit a kritických systémů. Od nástupu do Giesecke+Devrient (G+D) v roce 2011 na pozici podnikového ředitele informační bezpečnosti vede globální bezpečnostní strategii společnosti ve vysoce regulovaných odvětvích včetně financí, telekomunikací a vládní infrastruktury. V roce 2020 rozšířil svou roli na skupinového viceprezidenta, vedoucího bezpečnosti a CISO. Delbrouck je také předsedou Information Security Forum (ISF), přední světové autority v oblasti kybernetické bezpečnosti a řízení rizik, a zastával vedoucí bezpečnostní pozice ve společnostech Infineon Technologies (IFX.SW ), COMLINE a TÜV Secure iT.

Giesecke+Devrient (G+D) je globální mnichovská společnost SecurityTech, která se z historické tiskárny bankovek založené v roce 1852 vyvinula ve významného poskytovatele řešení pro digitální bezpečnost, finanční technologie a měnovou infrastrukturu. Působí ve třech hlavních segmentech: digitální bezpečnosti, finančních platformách a měnových technologiích. Dodává technologie zabezpečující mobilní konektivitu, digitální identity, bankovní systémy, platební platformy i fyzické a digitální měny. G+D spolupracuje s vládami, centrálními bankami, finančními institucemi a podniky po celém světě a nabízí mimo jiné řešení pro eSIM, ověřovací systémy, digitální platby, kybernetickou bezpečnost a digitální měny centrálních bank (CBDC). S více než 14 000 zaměstnanci a desítkami let zkušeností se zabezpečením kritických systémů a finančních ekosystémů se společnost profiluje jako důvěryhodný poskytovatel infrastruktury pro digitální ekonomiku.

Téměř tři desetiletí působíte ve vedoucích funkcích v kybernetické bezpečnosti — od TÜV Secure iT přes Infineon až po více než 15 let v Giesecke+Devrient. Jak se prostředí hrozeb posunulo od tradičních podnikových rizik k dnešním kybernetickým výzvám poháněným umělou inteligencí a co vás na současném vývoji odvětví znepokojuje nejvíce?

Myslím, že hlavní změnou během mé kariéry je rychlost a dopad. Když jsem koncem 90. let začínal s řízením bezpečnosti, vážný problém znamenal chybně nastavený firewall nebo neopravený server a rozsah škod byl obvykle poměrně omezený. Za poslední tři desetiletí jsem viděl, jak se důsledky jediného narušení změnily z provozní nepříjemnosti na systémové riziko.

A všechno je rychlejší. Pracujeme s větším počtem systémů a vyššími přenosovými rychlostmi. Dnes lidé vytvářejí sotva polovinu veškerého internetového provozu a podle některých odhadů tvoří zhruba 40 % celkového provozu škodlivé aktivity, například skenování, malware a DDoS.

Současně se prostředí výrazně konsolidovalo a koncentrovalo. Původní filozofie internetu založená na redundanci a decentralizaci se vytratila. Útoky zaměřené jen na několik centrálních bodů selhání proto mají mnohem ničivější následky než dříve. Při zavádění a provozu moderních IT systémů tak prakticky nezbývá prostor pro chybu. Umělá inteligence navíc útočníkům jejich časové rámce dále zkracuje.

Nedávná vyjádření Daria Amodeie znovu rozdmýchala obavy, že pokročilé systémy AI budou ve velkém odhalovat softwarové zranitelnosti. Podceňují podle vás podniky, jak rychle může vývoj podporovaný AI zahltit stávající bezpečnostní procesy?

Ano, myslím, že mnoho podniků rychlost tohoto posunu podceňuje. Zpočátku se zdálo, že AI bude přibližně stejnou měrou prospívat útočníkům i obráncům. Objevuje se však znepokojivá skutečnost: AI nevynalezla zcela nové kategorie kybernetické kriminality, ale demokratizovala sofistikované útočné schopnosti. Umožňuje útočníkům automatizovat průzkum, odstranit jazykové bariéry při phishingu a odhalovat softwarové zranitelnosti rychlostí a v rozsahu, který lidští obránci jen těžko zvládají.

Problém spočívá v tom, že zatímco AI vyvolala obrovský nárůst vyhledávání zranitelností, v procesu jejich nápravy se dosud nenasazuje ve stejné míře. Vzniká tak nebezpečná nerovnováha. Vyhledávání zranitelností s pomocí AI jednoduše produkuje více práce, než obránci zvládnou. Za několik let se to může zlepšit, až AI pro nápravu dožene náskok, nyní však problém narůstá.

Je také ironické, že stejné společnosti, které představují své nejnovější modely jako záchranu před kybernetickými hrozbami, zároveň část problému přiživují. Nástroje pro programování s AI urychlují tvorbu softwaru, ale často produkují nedbalý a zranitelný kód, čímž rozšiřují přesně tu útočnou plochu, kterou jejich bezpečnostní produkty slibují zmenšit. Z ekonomického hlediska je to skvělé. Z bezpečnostního už méně.

V G+D posuzujeme případy použití AI strukturovaně prostřednictvím rady pro AI a nerozšiřujeme je nekontrolovaně. Problémem není AI sama o sobě, ale nedostatečné řízení jejího nasazení. To odpovídá principu, který G+D uplatňuje i interně: AI vyžaduje nejen inovace, ale také institucionalizované procesy hodnocení a schvalování.

Mnoho organizací vnímá AI především jako obranný nástroj kybernetické bezpečnosti. Kde podle vás AI v současnosti uvnitř podniků vytváří více rizika než ochrany?

Většina týmů kybernetické bezpečnosti již AI v různé míře používá k detekci, klasifikaci, posuzování a třídění bezpečnostních událostí — a funguje to pozoruhodně dobře.

Vedle těchto výhod se však objevují zcela nová rizika. Zranitelnosti vlastní samotné architektuře AI se již široce probírají a z velké části jim rozumíme. Už nezabezpečujeme pouze statický kód, ale nedeterministické systémy. To přináší zcela nové vektory hrozeb: prompt injection, kdy škodlivá data přimějí LLM ignorovat ochranná pravidla; otravu dat, která během tréninku naruší logiku modelu; a únik dat, kdy se v jeho výstupech nechtěně objeví proprietární podniková data. Zásadně se tím mění definice zneužití.

Přizpůsobit se ale musí i naše tradiční, dobře nacvičené obrany. Pro mnoho organizací jsou analýzy chování uživatelů a entit (UEBA) stále poměrně novým konceptem. Řada společností tento přístup dosud plně nepřijala kvůli přísným pravidlům ochrany osobních údajů, pracovním zákonům a právům zaměstnaneckých rad na spolurozhodování. Výchozí podmínky se nyní změnily a není jisté, jak účinná UEBA zůstane ve světě, kde se AI dokáže bezchybně naučit lidské chování a napodobit je.

Dokáže UEBA v budoucnu vůbec odlišit lidské chování od automatizovaných útoků nebo rozeznat neškodného agenta AI od škodlivého? Produkty, které to slibují, již existují, ale od marketingových příslibů ke skutečnému a spolehlivému výkonu v praxi obvykle vede delší cesta. Budeme potřebovat nové koncepty a moderní bezpečnostní architektury.

Jako předseda Information Security Forum jednáte s bezpečnostními lídry velkých světových podniků. Mají CISO větší obavy z kvality kódu generovaného AI, nebo z provozní zátěže při zabezpečování exponenciálně rostoucích kódových základen?

Oba problémy jsou skutečné, ale dopadají odlišně. Kvalita kódu generovaného AI je oprávněná obava. Takový kód často vypadá čistě, ale může obsahovat nenápadné logické chyby, nezabezpečená výchozí nastavení nebo nesprávně použité knihovny, které se hůře odhalují právě proto, že působí věrohodně. CISO to právem znepokojuje.

V mých rozhovorech s bezpečnostními odborníky z členských organizací ISF je však hlasitějším poplachem provozní problém: samotné množství kódu, který může obsahovat zranitelnosti a musí být prověřen.

Od kolegů napříč odvětvími opakovaně slýchám, že určující zátěží se stal problém závislostí. Silné spoléhání na externí komponenty a knihovny třetích stran znamená, že každou závislost je nutné pečlivě sledovat, spravovat a průběžně opravovat. Nejen v kódu, ale také v řetězci nástrojů, případně napříč různými cloudovými prostředími. Už dříve to byla značná výzva. Vývoj s podporou AI ji nyní zesiluje — ne proto, že by se změnila podstata problému, ale protože explodoval jeho rozsah. Více kódu vzniká rychleji, s více závislostmi a ve více repozitářích.

Pokud bych tedy měl stanovit priority, kvalita kódu je řešitelný technický problém: lepší nástroje, přísnější kontroly a pevnější ochranná pravidla ve vývojovém procesu. Provozní zátěž spojená se zabezpečením exponenciálně rostoucího kódu a jeho rozsáhlých řetězců závislostí je strukturálnější a trvalejší výzvou. Právě tam leží skutečný tlak a právě to se opakovaně objevuje v debatách vedoucích CISO.

Giesecke+Devrient působí ve vysoce citlivých oblastech včetně digitální identity, plateb, bankovní infrastruktury, technologie eSIM a digitálních měn centrálních bank. V čem se zabezpečení kritické infrastruktury v éře AI liší od ochrany tradičních podnikových systémů?

V G+D máme stejné základní povinnosti jako každá organizace, která bere bezpečnost vážně. Naše standardy jsou však mimořádně vysoké a prostor pro chybu velmi malý. Dobře si uvědomujeme, že bezpečnostní incident v naší infrastruktuře by měl mnohem širší důsledky než narušení běžného podniku, a proto máme mimořádně nízkou toleranci ke kybernetickému riziku.

AI nám přidává zvláštní vrstvu složitosti přímo v provozní architektuře. Mnoho našich vysoce zabezpečených komponent, zejména těch spojených s platebními systémy, digitálními identitami nebo produkty pro centrální banky, představuje velmi hodnotná aktiva a podléhá přísným certifikačním a bezpečnostním požadavkům. Tyto komponenty musejí být vyvíjeny, testovány a provozovány v oddělených prostředích — od čistě logického oddělení až po zcela izolované sítě bez jakéhokoli vnějšího připojení.

To bylo náročné už před nástupem AI, ale organizace nyní všude začleňují nástroje s podporou AI do vývojových a provozních postupů. Tyto nástroje obvykle závisejí na cloudovém připojení, rozsáhlém přístupu k datům a průběžných aktualizacích modelů. Sladit je s prostředím, kde by i síťový kabel zapojený do nesprávného portu znamenal závažné porušení pravidel, je velmi reálnou technickou a řídicí výzvou.

Nutí nás to přistupovat k integraci AI s mimořádnou rozvahou. Nevybíráme jen správný model AI, ale na úrovni infrastruktury činíme strategická rozhodnutí, zda mají být tyto nástroje nasazeny lokálně, nebo mohou být používány prostřednictvím cloudu.

Sledujeme rychlé přijímání programovacích kopilotů a autonomních vývojových agentů. Očekáváte, že podniky budou nakonec před nasazením požadovat samostatné ověřování a certifikaci kódu generovaného AI?

Nemyslím si, že rozhodujícím kritériem má být, zda kód napsal člověk nebo AI. Rozhodujícím kritériem je riziko. Kód generovaný AI však v regulovaných nebo vysoce zabezpečených prostředích jistě bude potřebovat doložený původ, sledovatelnost a přísnější kontrolu.

Modelování hrozeb, zásady bezpečného programování a začlenění nástrojů SAST do vývojového řetězce jsou již dnes standardní praxí a tyto nástroje jsou přirozeně posilovány umělou inteligencí. Vývojové týmy musejí navíc pečlivě sledovat, které funkce jsou bezpečnostně kritické nebo patří k regulovaným a velmi citlivým komponentám. Vedle toho je nutné důkladně rozumět základním závislostem a průběžně je testovat.

Ekonomika bude nevyhnutelně hrát stále důležitější roli. Současné ceny tokenů velkých poskytovatelů AI nepokrývají náklady. Aby získali podíl na trhu, absorbují obrovské schodky infrastruktury a inference. Jde o dotovaný model, který je dlouhodobě ekonomicky neudržitelný. Jakmile se komerční náklady na zavedení AI do podnikových postupů zvýší tak, aby odpovídaly skutečným výdajům na infrastrukturu, nastane problém. Odvětví se pak bude muset posunout k malým, lokálním a účelově vytvořeným modelům. Trénování těchto menších modelů pro cílené případy použití se stane zásadní strategií ke zmírnění prudkého růstu nákladů.

V kategoriích s nejvyššími bezpečnostními nároky zůstane lidský dohled povinný. A právě zde spočívá výzva: využít omezenou lidskou kapacitu co nejefektivněji.

Systémy AI dnes dokážou odhalovat zranitelnosti mnohem rychleji než lidští analytici, ale náprava stále silně závisí na lidských postupech. Blíží se podniky k bodu, kdy se musí autonomním stát i samotné řízení oprav?

Ano, autonomní správa oprav už není luxus, ale provozní nutnost. Samotné množství dnešních zranitelností jednoduše přesahuje lidskou kapacitu pro jejich třídění.

Skutečné nasazení však podle mě musí následovat odstupňovaný a pragmatický přístup. Ve standardních, nekritických prostředích by úplná automatizace měla být při vhodných ochranných pravidlech zcela dosažitelná. Plně autonomní náprava v kritických systémech s vysokým dopadem bude sice bezpochyby nutná, ale v dohledné době zůstane její zavedení nejspíš velmi obtížné.

Právě zde skutečně záleží na základech. Rozlišení těchto dvou kategorií zní jednoduše, ale čistý a automatizovaný provoz složitého prostředí s tak odlišnými přístupy vyžaduje v praxi obrovské množství přesné, podrobné a soustavné správy. Tuto práci lze snadno podcenit.

Skutečnou výzvou, jako obvykle, není mechanické provedení samotného procesu, ale širší systém. Inteligentní rozhodování je možné pouze tehdy, když je podporuje celý systém. Správa oprav musí být nejen automatizovanější, ale výrazně chytřejší a rychlejší.

A jako vždy platí, že ve vysoce citlivých prostředích musejí řízená stabilita a vysoká rychlost kráčet ruku v ruce. Právě toto napětí je obtížnou částí — a částí, na kterou většina organizací ještě není připravena.

Vlády po celém světě se předhánějí v zavádění systémů digitální identity, CBDC a propojené infrastruktury. Nakolik se obáváte, že kybernetické hrozby poháněné AI předstihnou připravenost regulátorů a národní bezpečnosti?

Regulační rámce jako NIS2 a Akt o kybernetické odolnosti posouvají věci správným směrem, ale regulace je nakonec jen jednou částí skládačky. Pro celý systém je důležitá, nemůžeme však předpokládat, že vydání pravidla problém okamžitě vyřeší. Společnosti stále musejí pokyny zavést, udržovat své systémy trvale bezpečné, dobře rozumět prostředí hrozeb a cílům ochrany, neustále je zpřesňovat a udržovat ve vzájemném souladu.

Jsem opatrně optimistický, pokud organizace nebudou považovat soulad s předpisy za náhradu skutečné bezpečnosti. Moderní řízení bezpečnosti na regulaci nečeká. Spíše by to mělo být obráceně: nejlepší reálné postupy mají přecházet do regulace, nikoli naopak.

V oblastech s vysokými bezpečnostními nároky, jako jsou digitální identity a platební infrastruktura, není provozní připravenost samozřejmostí. G+D zde není jen dodavatelem, ale také partnerem pro dialog s centrálními bankami a vládami po celém světě. Aktivně se rovněž podílí na ochraně kritické digitální infrastruktury, například prostřednictvím společnosti Secunet jako partnera Spolkové republiky Německo pro IT bezpečnost.

Někteří odborníci označují pokročilé modely AI za „kybernetické zbraně“, jiní považují takové rámování za přehnané. Co podle vás lidé chápou nesprávně na reálných rizicích špičkových systémů AI?

Chybou je předpoklad, že kybernetické konflikty sledují logiku fyzické války — že dostatečně silná zbraň nevyhnutelně prorazí každou obranu. Velká část rámování „kybernetické zbraně“ přebírá tento kinetický způsob myšlení: větší dělo překoná silnější zeď, chytřejší raketa rychlejší letadlo. Kyberprostor ale takto nefunguje.

Úspěšný kybernetický útok téměř nikdy neuspěje hrubou silou. Uspěje využitím mezery: chybné konfigurace, neopravené zranitelnosti, lidské chyby nebo slabého článku dodavatelského řetězce. AI tuto základní dynamiku nemění. Hledání těchto mezer zrychluje a zlevňuje a snižuje úroveň dovedností potřebnou k jejich zneužití. Je to vážný problém, ale velmi odlišný od příběhu o „nezastavitelné zbrani“.

Skutečné riziko nespočívá v tom, že AI vytvoří všemocnou útočnou schopnost, které žádná obrana neodolá. Jde o to, že urychlí a rozšíří zneužívání běžných slabin — stejných, které se snažíme opravovat už desítky let — tempem přesahujícím naši schopnost je uzavírat.

Rámování AI jako kybernetické zbraně od toho odvádí pozornost. Podporuje mentalitu závodů ve zbrojení, přestože ve skutečnosti potřebujeme lepší provozní hygienu, rychlejší nápravu a odolnější architektury. Hrozbou není nová superzbraň, ale staré mezery zneužívané novou rychlostí. Ano, označovat AI za kybernetickou zbraň je výrazné zveličení.

Když se podíváte dopředu, bude podle vás největší kybernetická hrozba spojená s AI pocházet ze sofistikovaných útoků států, autonomního zneužívání ve velkém, zneužití zevnitř, zranitelností dodavatelského řetězce, nebo z něčeho, čemu odvětví dosud nevěnuje dost pozornosti?

Předvídat budoucnost bezpečnosti je vždy mimořádně obtížné. Útoky států, autonomní zneužívání, vnitřní zneužití a kompromitace dodavatelského řetězce jsou skutečné a rostoucí hrozby a žádnou z nich bych neodmítal. Tvrdil bych však, že jsou následky, nikoli kořenovými příčinami. Uspějí, když obránci přestanou stíhat, bez ohledu na důvod: zranitelnost ještě nemusí být veřejně známa, oprava nemusí být k dispozici nebo může být pracovní zátěž příliš vysoká.

A právě v posledním bodě vidím při výhledu na dva až tři roky největší riziko: bezpečnostní týmy zahlcené samotným objemem práce.

Všechna současná i nově vznikající témata — regulace, suverenita, složité cloudové infrastruktury a vše, co s nimi souvisí — dopadají na týmy už nyní přetížené tříděním upozornění, reakcí na incidenty, analýzou phishingu, správou zranitelností a oprav, dokumentací, audity a výkaznictvím. Práce přidaná vším, co přináší AI, by mohla být pověstnou poslední kapkou. Jenže je to mnohem, mnohem více než jediná kapka.

A vzhledem k současné globální ekonomické situaci toto vše dopadá na organizace pod skutečným tlakem na náklady, a to ve všech oblastech. Nebude-li to mimořádně dobře řízeno, nakonec toho bude příliš.

Děkujeme za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více, mohou navštívit Giesecke+Devrient.