Thorsten Delbrouck, Group CSO hos Giesecke+Devrient – Intervieserie

Thorsten Delbrouck, Group CSO hos Giesecke+Devrient, er en veteran cybersecurity-ekspert med mere end to årtiers erfaring med at sikre virksomhedsinfrastruktur, digitale identiteter og kritiske systemer. Siden han tiltrådte Giesecke+Devrient (G+D) i 2011 som Corporate Chief Information Security Officer, har han ledet virksomhedens globale sikkerhedsstrategi på tværs af højt regulerede sektorer, herunder finans, telekommunikation og regeringsinfrastruktur. I 2020 udvidede han sin rolle til Group Vice President, Head of Security and CISO. Delbrouck fungerer også som formand for Information Security Forum (ISF), en førende global autoritet på cybersecurity og risikostyring, og har haft seniort sikkerhedslederroller hos Infineon Technologies (IFX.SW ), COMLINE og TÜV Secure iT.

Giesecke+Devrient (G+D) er et München-baseret globalt SecurityTech-selskab, der er udviklet fra en historisk banknotes-trykkeri grundlagt i 1852 til en større leverandør af digitale sikkerheds-, finansteknologi- og valuta-infrastrukturløsninger. Selskabet opererer på tværs af tre kerneområder: Digital Sikkerhed, Finansielle Platforme og Valutateknologi, og leverer teknologier, der sikrer mobil tilslutning, digitale identiteter, banksystemer, betalingsplatforme og både fysiske og digitale valutaer. G+D samarbejder med regeringer, centralbanker, finansielle institutioner og virksomheder på verdensplan, herunder løsninger til eSIM’er, autentificeringssystemer, digitale betalinger, cybersecurity og Central Bank Digital Currencies (CBDC’er). Selskabet positionerer sig som en pålidelig infrastrukturleverandør for den digitale økonomi, med mere end 14.000 medarbejdere på verdensplan og årtiers erfaring med at sikre kritiske systemer og finansielle økosystemer.

De har tilbragt næsten tre årtier i cybersecurity-lederroller, der spænder fra TÜV Secure iT, Infineon og nu over 15 år hos Giesecke+Devrient. Hvordan er trusselslandskabet udviklet sig fra traditionelle virksomhedssikkerhedsrisici til i dagens AI-drevne cyberrisici, og hvad bekymrer dig mest om den nuværende retning for industrien?

Jeg synes, den største ændring over min egen karriere er hastighed og impact. Da jeg startede med sikkerhedsstyring i slutningen af 1990’erne, betød en alvorlig sikkerhedsproblematik en miskonfigureret firewall eller en upatchet server, og skadens omfang var typisk ret begrænset. Over de sidste tre årtier har jeg set, hvordan konsekvenserne af et enkelt sikkerhedsbrud er gået fra operativ ulempe til systemisk risiko.

Og alt er hurtigere. Vi har at gøre med flere systemer og højere båndbredder. I dag genererer kun omkring halvdelen af alle internettets trafik mennesker – og ifølge visse estimeringer udgør omkring 40% af den samlede trafik ondsindet aktivitet som ondsindet scanning, malware og DDoS.

På samme tid er landskabet blevet kraftigt konsolideret og koncentreret. Internettets oprindelige designfilosofi om redundans og decentralisering er gået tabt. Som følge heraf har angreb, der rammer kun få centrale fejl, langt mere ødelæggende konsekvenser, end de havde tidligere. Dette efterlader næsten ingen plads til fejl i opstilling og drift af moderne IT-systemer. Og nu komprimerer AI angribernes tidsrammer endnu mere.

Seneste kommentarer fra Dario Amodei har genantændt frygten for avancerede AI-systemer, der kan identificere software-sårbarheder i stor målestok. Tror du, at virksomheder undervurderer, hvor hurtigt AI-assisteret udvikling kunne overvælde eksisterende sikkerhedsprocesser?

Ja, jeg tror, at mange virksomheder undervurderer hastigheden af denne ændring. Til at begynde med syntes det, som om AI ville gavne både angribere og forsvarere omtrent lige meget. Men en bekymrende realitet er ved at opstå: AI har ikke opfundet helt nye kategorier af cyberkriminalitet; i stedet har den demokratiseret sofistikerede angrebsmuligheder, således at trusler kan automatisere rekognoskering, eliminere sprogbarrierer i phishing og opdage software-sårbarheder i en hastighed og omfang, som menneskelige forsvarere kæmper for at absorbere.

Problemet er, at mens AI har fremkaldt en massiv øgning i sårbarhedsidentifikation, er det endnu ikke blevet udrullet i samme omfang i retningsprocessen. Dette skaber en farlig ubalance. AI-assisteret sårbarhedsopdagelse producerer blot mere arbejde, end forsvarerne kan klare. Dette kan forbedres i løbet af få år, når AI til retning kommer i gang, men lige nu er det et voksende problem.

Og det er ikke uden ironi, at de samme selskaber, der præsenterer deres seneste modeller som en løsning på cyberrisici, samtidig er med til at skabe en del af problemet. AI-assisterede kodningsværktøjer accelererer softwareproduktion, men de producerer ofte sløjt, sårbar kode – og udvider dermed den angrebsflade, som deres sikkerhedsprodukter lover at reducere. Fra et økonomisk synspunkt er dette briliant. Fra et sikkerhedssynspunkt er det ikke så godt.

Hos G+D vurderer vi AI-anvendelser på en struktureret måde gennem et AI-råd og skalerer dem ikke på en ukontrolleret måde. Problemet er ikke AI i sig selv – det er manglen på styring i dens udrulning. Dette er i overensstemmelse med principperne, som G+D også anvender internt: AI kræver ikke kun innovation, men også institutionelle vurderings- og godkendelsesprocesser.

Mange organisationer ser på AI primært som et defensivt cybersecurity-værktøj. I din mening, hvor skaber AI i øjeblikket mere risiko end beskyttelse inden for virksomhedsomgivelser?

De fleste cybersecurity-teams anvender allerede AI i varierende grad til at opdage, klassificere, vurdere og triage sikkerhedsbegivenheder – og det virker bemærkelsesværdigt godt.

Alligevel opstår helt nye risici sammen med disse fordele. Sårbarhederne, der er indbygget i AI-arkitekturen i sig selv, er allerede bredt diskuteret og for størstedelens vedkommende forstået. Vi sikrer ikke længere kun statisk kode; vi sikrer ikke-deterministiske systemer. Dette introducerer helt nye trusselsvektorer, såsom prompt-injektion (hvor ondsindet data trickser en LLM til at ignorere sine guardrails), dataforgiftning til at korrumpere en models logik under træning og dataleakage, hvor virksomhedens ejendomsdata ufrivilligt eksponeres gennem modeloutput. Det ændrer grundlæggende definitionen af en eksploitation.

Men vores traditionelle, velindøvede forsvar må også tilpasse sig. For mange organisationer er User and Entity Behavior Analytics (UEBA) stadig et relativt nyt begreb. Faktisk har mange virksomheder ikke fuldt ud antaget denne tilgang på grund af strenge databeskyttelsesregler, strenge arbejdsløglove og arbejdsgiverrettigheder. Nu er baseline ændret, og det er usikkert, hvor effektivt UEBA vil forblive i en fremtid, hvor AI kan lære og efterligne menneskeligt adfærd perfekt.

I fremtiden vil UEBA være i stand til at skelne mellem menneskelig adfærd og automatiserede angreb, eller skelne mellem en harmløs AI-agent og en ondsindet? Der er allerede produkter, der lover dette, men det tager normalt noget tid at gå fra marketingløfter til reel, fungerende, virkelig præstation. Vi har brug for nye koncepter med moderne sikkerhedsarkitekturer for at imødegå dette.

Som formand for Information Security Forum engagerer du dig med sikkerhedsledere på tværs af store globale virksomheder. Er CISO’er blevet mere bekymrede for AI-genereret kodekvalitet, eller er det større problem det operationelle byrde af at sikre eksponentielt større kodebaser?

Begge problemer er reelle, men de rammer forskelligt. AI-genereret kodekvalitet er en ægte bekymring. Koden, som AI producerer, ser ofte ren ud, men kan indeholde subtile logiske fejl, usikre standarder eller misbrugte biblioteker, der er sværere at fange præcis, fordi de ser plausibelt ud. CISO’er er berettiget bekymrede for dette.

Men i mine samtaler med sikkerhedseksperter på tværs af ISF-medlemsorganisationer er den højere alarm operationel: det er den rene mængde af kode, der kan indeholde sårbarheder og derfor kræver at blive kontrolleret.

Hvad jeg konsekvent hører fra mine kolleger på tværs af brancher er, at afhængighedsproblemet er blevet den definerende byrde. Den kraftige afhængighed af eksterne komponenter og tredjepartsbiblioteker betyder, at hver enkelt afhængighed skal spores, styres og løbende patches. I koden, men også i værktøjskæden, potentielt på tværs af forskellige cloud-miljøer. Dette var allerede et betydeligt problem. AI-assisteret udvikling forstærker det nu. Ikke fordi problemets natur er ændret, men fordi skalaen er eksploderet. Mere kode, produceret hurtigere, med flere afhængigheder, på tværs af flere repositorier.

Så hvis jeg skal prioritere: kodekvalitet er et løseligt ingeniørproblem – bedre værktøjer, strengere gennemgang, strammere guardrails i udviklingsprocessen. Den operationelle byrde af at sikre en eksponentielt voksende kodebase og dens udbredte afhængighedskæder er den mere strukturerede, mere vedvarende udfordring. Det er der, hvor den virkelige pres ligger, og det er, hvad der kommer op igen og igen i senior CISO-samtaler.

Giesecke+Devrient opererer på tværs af højt sensible sektorer, herunder digital identitet, betalinger, banksystemer, eSIM-teknologi og centralbankdigitalvalutaer. Hvordan adskiller sikring af kritisk infrastruktur sig i AI-æraen sammenlignet med beskyttelse af traditionelle virksomhedssystemer?

Hos G+D har vi de samme grundlæggende ansvar som ethvert selskab, der tager sikkerhed alvorligt. Dog er vores standarder exceptionelt høje, og fejlmarginen er meget lille. Vi er meget bevidste om, at et sikkerhedsincident i vores infrastruktur har langt videre reachinge konsekvenser end et brud i en typisk virksomhed – og det er derfor, vores appetit på cybersikkerhedsrisiko er exceptionelt lav.

Hvor AI dog tilføjer en distinkt lag af kompleksitet for os er i den operationelle arkitektur selv. Mange af vores højsikkerhedskomponenter, især de, der er knyttet til betalingssystemer, digitale identiteter eller produkter til centralbanker, er højværdiaktiver og underlagt strenge certificerings- og sikkerheds krav. Disse komponenter skal udvikles, testes og opereres i separate miljøer, der spænder fra rent logisk adskillelse til fuldstændigt luftafskårne netværk med ingen ekstern tilslutning overhovedet.

Dette var allerede krævende før AI, men nu integrerer organisationer overalt AI-assisterede værktøjer i deres udviklings- og operations workflows. Værktøjer, der typisk afhænger af cloudtilslutning, stor skala dataadgang og kontinuerlige modelopdateringer. At forlige dette med miljøer, hvor selv en netkabel, der er tilsluttet den forkerte port, ville være en alvorlig politikovertrædelse, er en meget reel ingeniør- og styringsudfordring.

Dette tvinger os til at være meget bevidste om vores AI-integration. Vi vælger ikke kun den rette AI-model, vi tager strategiske beslutninger på infrastrukturniveau om, hvorvidt disse værktøjer skal deployes lokalt eller kan bruges via cloud.

Vi ser en hurtig tilpasning af AI-kodningscopiloter og autonome udviklingsagenter. Forventer du, at virksomheder til sidst vil kræve, at AI-genereret kode skal gennemgå separate validerings- og certificeringsprocesser, før de deployes?

Jeg tror ikke, at den afgørende kriterium skal være, om koden er skrevet af en menneske eller AI. Den afgørende kriterium er risiko. Men AI-genereret kode vil sandsynligvis kræve proveniens, sporbarehed og strengere gennemgang i regulerede eller højsikkerheds miljøer.

Trusselsmodellering, sikker kodningspolitik og integration af SAST-værktøjer i udviklingsværktøjskæden er allerede standardpraksis i dag, og værktøjerne bliver naturligvis AI-forbedret. Udover dette skal udviklingsteams nøje spore, hvilke funktioner er sikkerheds-kritiske eller tilhører regulerede, højt sensible komponenter. Underliggende afhængigheder skal også nøje forstås og løbende testes.

Økonomien vil uundgåeligt spille en stadig mere kritisk rolle. Lige nu er tokenpriser fra store AI-udbydere ikke omkostningsdækkende. De store AI-udbydere absorberer enorme infrastruktur- og inferensunderskud for at sikre markedsshare. En subsidiær model, der ikke er økonomisk bæredygtig på længere sigt. Når de kommercielle omkostninger ved at deployere AI i virksomhedens workflows justeres opad for at reflektere disse sande infrastruktur-omkostninger, vil vi have et problem. På det tidspunkt vil industrien være nødt til at skifte til små, lokale og formål-byggede modeller. Træning af disse små modeller til målrettede brugsområder vil blive en vital strategi for at mildne en alvorlig omkostningsstigning.

Og for kategorier med de højeste sikkerheds krav vil menneskelig oversigt blive obligatorisk, og det er præcis, hvor udfordringen ligger: at udnytte den endelige menneskelige kapacitet så effektivt som muligt.

AI-systemer kan nu identificere sårbarheder langt hurtigere end menneskelige analytikere, men retning afhænger stadig kraftigt af menneskelige workflows. Er virksomheder på vej mod et punkt, hvor patchstyring selv må blive autonom?

Ja, autonom patchstyring er ikke længere en luksus – det er en operationel nødvendighed. Den rene mængde af sårbarheder i dag overstiger simpelthen menneskelig triagekapacitet.

Det sagde, tror jeg, at den faktiske implementering skal følge en pragmatisk, trinvis tilgang. For standard, ikke-kritiske miljøer skal fuld automation være fuldstændigt opnåelig, forudsat at de rette guardrails er på plads. Fuld autonom retning i kritiske, høj-impact systemer, mens det stadig er nødvendigt, vil sandsynligvis forblive ret svært at implementere i den nærmeste fremtid.

Dette er, hvor grundlæggende tingene virkelig betyder noget. Forskellen mellem disse to kategorier lyder let, men i praksis kræver det en enorm mængde præcis, detaljeret og vedvarende husarbejde for at operere et komplekst miljø med så forskellige tilgange på en ren og automatiseret måde. Det arbejde er let at undervurdere.

Den virkelige udfordring, som så ofte, er ikke den mekaniske udførelse af processen selv – det er det bredere system. Intelligent beslutningstagning er kun mulig, når hele systemet understøtter det. Patchstyring behøver at blive betydeligt smartere og hurtigere, ikke kun mere automatiseret.

Og, som altid: i højt sensible sammenhænge må kontrolleret stabilitet og høj hastighed gå hånd i hånd. Den spænding er det svære – og det, som de fleste organisationer endnu ikke er klar til.

Regeringer på verdensplan er ved at implementere digitale identitetssystemer, CBDC’er og tilknyttet infrastruktur. Hvordan bekymrer du dig om, at AI-drevne cyberrisici kunne overgå regulerings- og national sikkerhedsberedskab?

Reguleringsrammer som NIS2 og Cyber Resilience Act er ved at skubbe tingene i den rigtige retning, men regulering er ultimativt kun et stykke af puslespillet. Regulering betyder noget for det samlede system, men vi kan ikke antage, at udstedelse af en regel straks løser problemet. Virksomheder må stadig implementere retningslinjerne, holde deres systemer permanent sikre og opretholde en solid forståelse af deres trusselslandskab og beskyttelsesmål, løbende finpudse dem og holde dem i trit med.

Jeg er forsigtigt optimistisk, forudsat organisationer ikke behandler reguleringsoverholdelse som en erstatning for reel sikkerhed. Og moderne sikkerhedsstyring venter ikke på regulering. Hvis noget, skal det være den anden vej rundt: Den bedste virkelige praksis skal flyde ind i regulering, ikke omvendt.

I højsikkerhedsdomæner som digital identitet og betalingsinfrastruktur er operationel beredskab ikke en given. G+D er ikke kun en leverandør her, men også en dialogpartner for centralbanker og regeringer på verdensplan. G+D er også aktivt engageret i beskyttelsen af kritisk digital infrastruktur – f.eks. gennem Secunet som IT-sikkerheds partner for Forbundsrepublikken Tyskland.

Nogle eksperter beskriver avancerede AI-modeller som “cyber-våben”, mens andre mener, at denne ramme er overdrivet. Fra din synsvinkel, hvad gør folk forkert, når det kommer til de virkelige risici, som fremme AI-systemer?

Hvad folk gør forkert, er antagelsen af, at cyberkonflikter følger logikken i fysisk krigsførelse. At et tilstrækkeligt kraftfuldt våben vil uundgåeligt bryde enhver forsvar. Meget af “cyber-våben”-rammen låner fra denne kinetiske mindset: en større kanon slår en tykkere mur, en smartere missil slår en hurtigere fly. Men cyber fungerer ikke på den måde.

En succesfuld cyber-angreb lykkes næsten aldrig gennem brutalt overmagt. Det lykkes gennem at udnytte en åbning: en miskonfiguration, en upatchet sårbarhed, en menneskelig fejl, en svag kæde i forsyningskæden. AI ændrer ikke denne grundlæggende dynamik. Det gør søgningen efter disse åbninger hurtigere og billigere, og det sænker den nødvendige færdighedstrøskel for at udnytte dem. Det er et alvorligt problem, men det er et meget andet problem end den “uovervindelige våben”-narrativ.

Den virkelige risiko er ikke, at AI skaber en almagtfuld offensiv kapacitet, som ingen forsvar kan modstå. Den virkelige risiko er, at AI accelererer og skalerer udnyttelsen af almindelige svagheder – de samme, som vi har kæmpet for at løse i årtier – i en hastighed, som overstiger vores evne til at lukke dem.

Ramningen af AI som et cyber-våben distraherer fra dette. Det opmuntrer til en våbenkapløb-mentalitet, når det, der virkelig er nødvendigt, er bedre operationel hygiejne, hurtigere retning og mere robuste arkitekturer. Truslen er ikke et nyt super-våben. Det er de gamle åbninger, udnyttet i en ny hastighed. Så ja, ramningen af AI som et cyber-våben er en betydelig overdrivelse.

At se fremad, tror du, at den største cybersikkerheds-trussel fra AI kommer fra sofistikerede nationale angreb, autonom udnyttelse i stor målestok, insider-misbrug, forsyningskæde-sårbarheder eller noget, som industrien endnu ikke er tilstrækkeligt opmærksom på?

At forudsige fremtidens sikkerhed er altid særligt svært. Nationale angreb, autonom udnyttelse, insider-misbrug, forsyningskæde-kompromittering – alle disse er reelle og voksende trusler, og jeg ville ikke afvise nogen af dem. Men jeg ville argumentere for, at de alle er konsekvenser, ikke rodårsager. De lykkes, når forsvarerne ikke længere kan holde trit, uanset årsagen: En sårbarhed kan endnu ikke være offentligt kendt, en patch kan endnu ikke være tilgængelig, eller arbejdsbyrden kan være for høj.

Og det sidste aspekt er, hvor jeg ser den største risiko, når man ser to til tre år frem: sikkerheds-teamene bliver overvældet af den rene arbejdsbyrde.

Alle de nuværende og fremvoksende emner – regulering, suverænitet, komplekse cloud-infrastrukturer og alt, der følger med – lander på hold, der allerede er strakt tyndt af alert-triage, incident-svar, phishing-analyse, sårbarheds- og patch-styring, dokumentation, audits og rapportering. Arbejdsbyrden, som AI tilføjer, kan være den strå, der brækker kamelens ryg. Undtagen det er langt mere end bare en strå.

Og givet den nuværende globale økonomiske situation, rammer alt dette virksomheder under reel omkostningspres, på tværs af brættet. Hvis det ikke håndteres ekstremt godt, vil det til sidst blive for meget.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge Giesecke+Devrient.