Thorsten Delbrouck, konsernsikkerhetsdirektør i Giesecke+Devrient – Intervju-serie

Thorsten Delbrouck, konsernsikkerhetsdirektør i Giesecke+Devrient, er en erfaren cybersecurity-ekspert med mer enn to tiår med erfaring i å sikre bedriftsinfrastruktur, digitale identiteter og kritiske systemer. Siden han ble medlem av Giesecke+Devrient (G+D) i 2011 som konsernsikkerhetsdirektør, har han ledet selskapets globale sikkerhetsstrategi over høyt regulerte sektorer, inkludert finansielle tjenester, telekommunikasjon og regjeringsinfrastruktur. I 2020 utvidet han sin rolle til konserndirektør, leder for sikkerhet og CISO. Delbrouck fungerer også som styreleder for Information Security Forum (ISF), en ledende global myndighet på cybersecurity og risikostyring, og har hatt senior sikkerhetslederroller i Infineon Technologies (IFX.SW ), COMLINE og TÜV Secure iT.

Giesecke+Devrient (G+D) er et München-basert globalt SecurityTech-selskap som har utviklet seg fra et historisk banknoteselskap grunnlagt i 1852 til en stor leverandør av digitale sikkerhets-, finansteknologi- og valuta-infrastrukturløsninger. Selskapet opererer over tre kjerneområder: Digital Sikkerhet, Finansielle Plaster og Valuta-teknologi, og leverer teknologier som sikrer mobil tilkobling, digitale identiteter, bank-systemer, betalingsplattformer og både fysiske og digitale valutaer. G+D samarbeider med regjeringer, sentralbanker, finansielle institusjoner og bedrifter verden over, inkludert løsninger for eSIM, autentiseringssystemer, digitale betalinger, cybersecurity og sentralbankens digitale valutaer (CBDC). Selskapet stiller seg som en pålitelig infrastruktur-leverandør for den digitale økonomien, med over 14 000 ansatte globalt og tiår med ekspertise i å sikre kritiske systemer og finansielle økosystemer.

De har tilbragt nesten tre tiår i cybersecurity-lederroller som omfatter TÜV Secure iT, Infineon og nå over 15 år i Giesecke+Devrient. Hvordan har trussel-landskapet utviklet seg fra tradisjonelle bedriftssikkerhetsrisiko til dagens AI-drevne cyber-utfordringer, og hva bekymrer deg mest om den nåværende retningen i bransjen?

Jeg tror hovedendringen over min egen karriere er hastighet og påvirkning. Da jeg startet sikkerhetsledelse på slutten av 1990-tallet, betydde en alvorlig sikkerhetsproblematikk en feilkonfigurert brannmur eller en upatcha server, og skadeområdet var vanligvis ganske begrenset. Over de siste tre tiår har jeg sett at konsekvensene av et enkelt brudd har økt fra operasjonell ulemper til systemisk risiko.

Og alt er raskere. Vi håndterer flere systemer og høyere båndbredde. I dag genererer bare halvparten av all internett-trafikk mennesker – og ifølge noen estimater består omtrent 40% av all trafikk av skadelig aktivitet som skadelig scanning, malware og DDoS.

Samtidig har landskapet blitt konsolidert og konsentrert. Internettets opprinnelige designfilosofi om redundans og desentralisering er tapt. Som et resultat har angrep som rammer bare noen få sentrale feilpunkter langt mer ødeleggende konsekvenser enn de tidligere. Dette lar nesten ingen rom for feil i oppsett og drift av moderne IT-systemer. Og nå komprimerer AI angripernes tidsplaner enda mer.

Senere kommentarer fra Dario Amodei har gjenoppretta frykten rundt avanserte AI-systemer som identifiserer programvare-sårbarheter i stor skala. Tror du at bedrifter undervurderer hvor raskt AI-assistert utvikling kan overvelde eksisterende sikkerhetsprosesser?

Ja, jeg tror mange bedrifter undervurderer hastigheten på denne endringen. Først syntes det som om AI ville være til fordel for både angripere og forsvarere, omtrent like mye. Men en bekymringsverdig realitet er i ferd med å oppstå: AI har ikke oppfunnet helt nye kategorier av cyberkriminalitet; i stedet har det demokratisert sofistikerte angrepskapasiteter, som å automatisere rekognosering, eliminere språkbarrierer i phishing og oppdage programvare-sårbarheter i en hastighet og skala som menneskelige forsvarere sliter med å absorbere.

Problemet er at mens AI har utløst en massiv økning i sårbarhetsidentifisering, er det ikke ennå blitt deployert i samme omfang i rettingsprosessen. Dette skaper en farlig ubalanse. AI-assistert sårbarhetsidentifisering produserer bare mer arbeid enn forsvarere kan håndtere. Dette kan forbedres i noen år når AI for retting fanger opp, men nå er det et voksende problem.

I tillegg er det ikke uten ironi at de samme selskapene som presenterer sine siste modeller som en løsning på cyber-trusler, samtidig driver en del av problemet. AI-assisterte kodeverktøy akselerer programvareproduksjon, men de produserer ofte slapp, sårbar kode – og utvider angrepsflaten som deres sikkerhetsprodukter lover å redusere. Fra et økonomisk synspunkt er dette genialt. Fra et sikkerhetssynspunkt, ikke så mye.

Ved G+D vurderer vi AI-anvendelser på en strukturert måte gjennom et AI-styre og skalerer dem ikke på en ukontrollert måte. Problemet er ikke AI i seg selv – det er mangelen på styring i dens deployering. Dette stemmer overens med prinsippet G+D også anvender internt: AI krever ikke bare innovasjon, men også institusjonalisert evaluering og godkjenningsprosesser.

Mange organisasjoner ser på AI primært som et defensivt cybersecurity-verktøy. I din mening, hvor skaper AI nå mer risiko enn beskyttelse innenfor bedriftsmiljøer?

De fleste cybersecurity-team deployer AI i varierende grad for å detektere, klassifisere, vurdere og triage sikkerhetshendelser – og det fungerer bemerkelsesverdig godt.

Likevel oppstår helt nye risikoer sammen med disse fordelene. Sårbarhetene som er innebygget i AI-arkitekturen i seg selv er allerede bredt diskutert og for det meste forstått. Vi er ikke lenger bare sikker på statisk kode; vi sikrer ikke-deterministiske systemer. Dette introduserer helt nye trusselvektorer, som prompt-injeksjon (der skadelig data lurter en LLM til å ignorere sine retningslinjer), data-forgiftning for å korrumpere en modells logikk under trening, og data-lekkasje, der proprietær bedriftsdata blir utilsiktet eksponert gjennom modell-utganger. Det endrer fundamentalt definisjonen av en eksploitasjon.

Men våre tradisjonelle, vel-repeterte forsvar må også tilpasse seg. For mange organisasjoner er Bruker- og Entitets-atferdsanalyse (UEBA) fortsatt et relativt nytt konsept. Faktisk har mange selskaper ikke fullt ut adoptert denne tilnærmingen på grunn av strenge datavern-regler, strenge arbeidslover og arbeidstaker-representasjon. Nå har baseline skiftet, og det er usikkert hvor effektiv UEBA vil forbli i en fremtid hvor AI kan lære og mime menneskelig atferd uten feil.

I fremtiden, vil UEBA være i stand til å skille menneskelig atferd fra automatiserte angrep, eller å skille en harmløs AI-agent fra en skadelig? Det finnes allerede produkter som lover nettopp det, men vanligvis tar det noen tid å gå fra markedsføringsløfter til faktisk, fungerende, virkelig ytelse. Vi trenger nye konsepter med moderne sikkerhetsarkitektur for å håndtere det.

Som styreleder for Information Security Forum, engasjerer du deg med sikkerhetsledere over store globale bedrifter. Er CISO-er blir mer bekymret for AI-generert kodekvalitet, eller er det større problemet den operative byrden av å sikre eksponentielt større kodebasen?

Begge problemene er reelle, men de lander forskjellig. AI-generert kodekvalitet er en ekte bekymring. Koden AI produserer ser ofte ren ut, men kan bære subtile logiske feil, usikre standarder eller misbrukte biblioteker som er vanskeligere å fange fordi de ser plausibelt ut. CISO-er er rettferdig bekymret for det.

Men i mine samtaler med sikkerhetsekspertene over ISF-medlemsorganisasjoner er den høyeste alarmen operativ: det er den rene volumet av kode som kan bære sårbarheter og som derfor må sjekkes.

Hva jeg hører jevnt over fra kolleger over industrier er at avhengighetsproblemet har blitt den avgjørende byrden. Den tunge avhengigheten av eksterne komponenter og tredjepartsbiblioteker betyr at hver enkelt avhengighet må spores nøye, håndteres og kontinuerlig patchet. I koden, men også i verktøykjeden, potensielt over flere sky-miljøer. Det var allerede en betydelig utfordring. AI-assistert utvikling forsterker det nå. Ikke fordi problemets natur har endret seg, men fordi skalaen har eksplodert. Mer kode, produsert raskere, med flere avhengigheter, over flere repositoryer.

Så hvis jeg må prioritere: kodekvalitet er et løsbart ingeniørproblem – bedre verktøy, strengere gjennomgang, strammere retningslinjer i utviklingspipeline. Den operative byrden av å sikre en eksponentielt voksende kodebase og dens utbredte avhengighetskjeder er den mer strukturelle, mer varige utfordringen. Det er der den virkelige pressen ligger, og det er hva som kommer opp gjentakende i senior CISO-samtaler.

Giesecke+Devrient opererer over høyt sensitive sektorer, inkludert digital identitet, betalinger, bank-infrastruktur, eSIM-teknologi og sentralbankens digitale valutaer. Hvordan sikrer kritisk infrastruktur seg i AI-æraen sammenlignet med å beskytte tradisjonelle bedriftssystemer?

Ved G+D har vi de samme grunnleggende ansvar som ethvert selskap som tar sikkerhet alvorlig. Likevel er våre standarder usedvanlig høye, og feilmarginen er svært liten. Vi er akutt klar over at en sikkerhetshendelse i vår infrastruktur har langt vidtrekkende implikasjoner enn et brudd i et typisk bedriftsmiljø – og det er derfor vår appetitt på sikkerhetsrisiko er usedvanlig lav.

Hvor AI nå legger til en distinkt lag av kompleksitet for oss er i den operative arkitekturen i seg selv. Mange av våre høysikkerhetskomponenter, spesielt de som er knyttet til betalingssystemer, digitale identiteter eller produkter for sentralbanker, er høyverdige aktiva og underlagt strenge sertifiserings- og sikkerhetskrav. Disse komponentene må utvikles, testes og opereres i separate miljøer, fra ren logisk adskillelse til fullstendig luftgap med ingen ekstern tilkobling.

Dette var allerede krevende før AI, men nå integrerer organisasjoner overalt AI-assisterte verktøy i sine utviklings- og operative arbeidsflyter. Verktøy som vanligvis avhenger av sky-tilkobling, stor skala data-tilgang og kontinuerlig modell-oppdatering. Å forlike dette med miljøer hvor selv en nettverkskabel plugget inn i feil port ville være en alvorlig policy-brudd, er en meget reell ingeniør- og styringsutfordring.

Dette tvinger oss til å være svært intensjonelle om vår AI-integrasjon. Vi velger ikke bare riktig AI-modell, vi tar strategiske beslutninger på et infrastruktur-nivå om hvorvidt disse verktøyene må deployeres lokalt eller kan brukes via skyen.

Vi ser en rask adopsjon av AI-kode-kopiloter og autonome utviklingsagenter. Forventer du at bedrifter til slutt vil kreve at AI-generert kode må gjennomgå separate validerings- og sertifiseringsprosesser før deploy?

Jeg tror ikke at det avgjørende kriteriet bør være om koden ble skrevet av en menneske eller AI. Det avgjørende kriteriet er risiko. Men AI-generert kode vil sannsynligvis trenge proveniens, sporing og strengere gjennomgang i regulerte eller høysikkerhetsmiljøer.

Trussel-modellering, sikker kodepolitikk og inkorporering av SAST-verktøy i utviklingsverktøykjeden er allerede standard praksis i dag, og verktøyene blir naturlig AI-forbedret. Utviklingsteam må også nøye spore hvilke funksjoner som er sikkerhetskritiske eller tilhører regulerte, høysensitive komponenter. Ut over det må underliggende avhengigheter være grundig forstått og kontinuerlig testet.

Økonomi vil uunngåelig spille en stadig mer kritisk rolle. Nå er token-prising fra store AI-leverandører ikke kostnads-dekkende. De store AI-leverandørene absorberer enorme infrastruktur- og inferens-underskudd for å sikre markedsshare. En subsidiert modell som er økonomisk ustabil på lang sikt. Når de kommersielle kostnadene ved å deploy AI i bedrifts-arbeidsflyter justeres oppover for å reflektere disse sanne infrastruktur-utgiftene, vil vi få et problem. Da vil industrien måtte skifte mot små, lokale og formål-bygde modeller. Trening av disse mindre modellene for målrettede brukssaker vil bli en vital strategi for å mildne alvorlig kostnadsøkning.

Og for kategorier med de høyeste sikkerhetskravene, vil menneskelig tilsyn forbli obligatorisk, og det er nettopp der utfordringen ligger: å utnytte begrenset menneskelig kapasitet så effektivt som mulig.

AI-systemer kan nå identifisere sårbarheter langt raskere enn menneskelige analytikere, men retting avhenger fortsatt sterkt av menneskelige arbeidsflyter. Er bedrifter nær et punkt hvor patch-håndtering selv må bli autonom?

Ja, autonom patch-håndtering er ikke lenger et luksus – det er en operativ nødvendighet. Den rene volumet av sårbarheter i dag overstiger simpelthen menneskelig triage-kapasitet.

Det sagt, tror jeg at den faktiske deployeringen må følge en pragmatisk, trinnvis tilnærming. For standard, ikke-kritiske miljøer, bør full automatisering være fullt mulig, forutsatt at riktige retningslinjer er på plass. Fullt autonom retting i kritiske, høy-impakt-systemer, mens det sannsynligvis vil forbli ganske vanskelig å implementere for den nærmeste fremtid.

Dette er der grunnleggende prinsippene virkelig teller. Skillelsen mellom disse to kategoriene lyder enkelt, men i praksis krever det en enorm mengde presis, detaljert og vedvarende husarbeid for å operere et komplekst miljø med så forskjellige tilnærminger på en ren og automatisert måte. Det arbeidet er lett å undervurdere.

Den virkelige utfordringen, som så ofte, er ikke den mekaniske utførelsen av prosessen i seg selv – det er det bredere systemet. Intelligente beslutninger er bare mulig når hele systemet støtter det. Patch-håndtering må bli betydelig smartere og raskere, ikke bare mer automatisert.

Og, som alltid: i høysensitive sammenhenger, må kontrollert stabilitet og høy hastighet gå hånd i hånd. Den spenningen er det vanskelige – og det delen er det mesteparten av organisasjonene ikke er klare for ennå.

Regjeringer verden over kappler for å implementere digitale identitetssystemer, CBDC-er og tilkoblede infrastrukturer. Hvordan bekymret er du for at AI-drevne cyber-trusler kan overgå regulatorisk og nasjonal sikkerhets-forberedhet?

Regulatoriske rammer som NIS2 og Cyber Resilience Act skyver ting i riktig retning, men regulering er ultimate bare ett stykke av puslespillet. Regulering teller for hele systemet, men vi kan ikke anta at å utstede en regel umiddelbart løser problemet. Selskaper må fortsatt implementere retningslinjene, holde sine systemer permanent sikre, og holde en solid forståelse av deres trussel-landskap og beskyttelsesmål, kontinuerlig finjustere dem, og holde dem justert.

Jeg er forsiktig optimistisk, forutsatt at organisasjoner ikke behandler regulatorisk overholdelse som en erstatning for faktisk sikkerhet. Og moderne sikkerhetsledelse venter ikke på regulering. Hvis noe, bør det være omvendt: Den beste virkelige praksis bør flyte inn i regulering, ikke omvendt.

I høysikkerhetsdomener som digital identitet og betalings-infrastruktur er operativ forberedhet ikke gitt. G+D er ikke bare en leverandør her, men også en dialog-partner for sentralbanker og regjeringer verden over. G+D er også aktivt engasjert i beskyttelsen av kritisk digital infrastruktur – for eksempel gjennom Secunet som IT-sikkerhets-partner for Forbundsrepublikken Tyskland.

Noen eksperter beskriver avanserte AI-modeller som “cyber-våpen”, mens andre argumenterer for at rammen er overdratt. Fra din perspektiv, hva får folk galt om de virkelige risikoene som fremme AI-grense-systemer?

Hva folk får galt er antagelsen at cyber-konflikter følger logikken til fysisk krigføring. At et tilstrekkelig kraftig våpen vil uunngåelig bryte noen forsvar. Mye av “cyber-våpen”-rammen låner fra denne kinetiske mentaliteten: større kanon slår tykkere vegg, smartere missil slår raskere fly. Men cyber fungerer ikke på den måten.

En vellykket cyber-angrep lykkes nesten aldri gjennom brutt overlegen kraft. Det lykkes gjennom å utnytte en åpning: en feilkonfigurert komponent, en upatcha sårbarhet, en menneskelig feil, en svak lenke i forsyningskjeden. AI endrer ikke denne grunnleggende dynamikken. Det gjør søket etter disse åpningene raskere og billigere, og det senker terskelen for å utnytte dem. Det er et alvorlig problem, men det er et helt annet problem enn den “uovervinnelige våpen”-narrativen.

Den virkelige risiken er ikke at AI skaper en all-mektig offensiv kapabilitet som ingen forsvar kan motstå. Den virkelige risiken er at AI akselererer og skalerer utnyttelsen av ordinære svakheter – de samme vi har slitt med å fikse i tiår – i en hastighet som overstiger vår evne til å lukke dem.

Rammen AI som et cyber-våpen distraherer fra det. Det oppmuntrer til en våpen-kappracing-mentalitet når hva som virkelig trengs er bedre operativ hygiene, raskere retting og mer resiliente arkitekturer. Truslen er ikke et nytt super-våpen. Det er de gamle åpningene, utnyttet i en ny hastighet. Så ja, å ramme AI som et cyber-våpen er en betydelig overdrivelse.

Ser fremover, tror du at den største cybersecurity-trusselen fra AI kommer fra sofistikerte nasjonalstat-angrep, autonom utnyttelse i stor skala, insider-misbruk, forsyningskjede-sårbarheter eller noe industrien ennå ikke er nok oppmerksom på?

Å forutsi fremtiden for sikkerhet er alltid særlig vanskelig. Nasjonalstat-angrep, autonom utnyttelse, insider-misbruk, forsyningskjede-kompromiss – alle disse er reelle og voksende trusler, og jeg ville ikke avvise noen av dem. Men jeg ville argumentere for at de alle er konsekvenser, ikke årsaker. De lykkes når forsvarere ikke lenger kan holde tritt, uansett årsaken: En sårbarhet må ikke ennå være offentlig kjent, en patch ikke ennå tilgjengelig eller arbeidsbelastningen for høyt.

Og det siste aspektet er der jeg ser den største risiken når vi ser to til tre år fremover: Sikkerhets-team blir overveldet av ren arbeidsbelastning.

Alle de nåværende og fremvoksende temaene – regulering, suverenitet, komplekse sky-infrastrukturer og alt som følger med dem – lander på team som allerede er strekt til det ytterste av deres evne av å håndtere varsling, hendelses-respons, phishing-analyse, sårbarhets- og patch-håndtering, dokumentasjon, auditor og rapportering. Arbeidsbelastningen lagt til av alt AI kunne være det strået som bryter kamelens rygg. Unntatt det er langt mer enn bare et strå.

Og gitt den nåværende globale økonomiske situasjonen, rammer all dette organisasjoner under virkelig kostnad-press, over hele bordet. Hvis det ikke håndteres ekstremt godt, vil det til slutt bli for mye.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Giesecke+Devrient.