Thorsten Delbrouck, Group CSO bij Giesecke+Devrient – Interviewreeks

Thorsten Delbrouck, Group CSO bij Giesecke+Devrient, is een veteraan cybersecurity-executive met meer dan twee decennia ervaring in het beveiligen van enterprise-infrastructuur, digitale identiteiten en kritieke systemen. Sinds hij in 2011 bij Giesecke+Devrient (G+D) kwam als Corporate Chief Information Security Officer, heeft hij de wereldwijde veiligheidsstrategie van het bedrijf geleid in hoog gereguleerde sectoren, waaronder financiën, telecommunicatie en overheidsinfrastructuur. In 2020 breidde hij zijn rol uit tot Group Vice President, Head of Security en CISO. Delbrouck is ook voorzitter van de Information Security Forum (ISF), een toonaangevende wereldwijde autoriteit op het gebied van cybersecurity en risicobeheer, en heeft senior veiligheidsleiderschapsrollen gehad bij Infineon Technologies (IFX.SW ), COMLINE en TÜV Secure iT.

Giesecke+Devrient (G+D) is een in München gevestigde wereldwijde SecurityTech-onderneming die is geëvolueerd van een historische bankbiljettenprinter, opgericht in 1852, tot een belangrijke aanbieder van digitale beveiliging, financiële technologie en valuta-infrastructuuropplossingen. Het bedrijf opereert in drie kernsegmenten: Digitale Beveiliging, Financiële Platforms en Valutatechnologie, en levert technologieën die mobiele connectiviteit, digitale identiteiten, banksystemen, betalingsplatforms en zowel fysieke als digitale valuta’s beveiligen. G+D werkt met overheden, centrale banken, financiële instellingen en ondernemingen wereldwijd, waaronder oplossingen voor eSIM’s, authenticatiesystemen, digitale betalingen, cybersecurity en Centrale Bank Digitale Valuta’s (CBDC’s). Het bedrijf profileert zich als een vertrouwd infrastructuuraanbieder voor de digitale economie, met meer dan 14.000 medewerkers wereldwijd en decennia ervaring in het beveiligen van kritieke systemen en financiële ecosystemen.

U hebt bijna drie decennia in cybersecurity-leiderschapsrollen doorgebracht, van TÜV Secure iT, Infineon, tot nu meer dan 15 jaar bij Giesecke+Devrient. Hoe is het dreigingslandschap geëvolueerd van traditionele enterprise-beveiligingsrisico’s naar de huidige AI-gedreven cyberuitdagingen, en wat baart u het meeste zorgen over de huidige richting van de industrie?

Ik denk dat de belangrijkste verandering in de loop van mijn carrière de snelheid en impact is. Toen ik in de late jaren 90 begon met beveiligingsbeheer, betekende een ernstig beveiligingsprobleem een misgeconfigureerde firewall of een ongepatchte server, en de blast radius was meestal vrij beperkt. In de afgelopen drie decennia heb ik gezien dat de gevolgen van een enkele inbreuk zijn gegroeid van operationeel ongemak tot systemisch risico.

En alles gaat sneller. We hebben te maken met meer systemen en hogere bandbreedtes. Tegenwoordig wordt minder dan de helft van alle internetverkeer gegenereerd door mensen – en naar schatting bestaat ongeveer 40% van het totale verkeer uit kwaadaardige activiteiten zoals kwaadaardige scans, malware en DDoS.

De landschap is ook sterk geconsolideerd en geconcentreerd. De oorspronkelijke ontwerpprincipes van het internet, zoals redundantie en decentralisatie, zijn verloren gegaan. Als gevolg hiervan hebben aanvallen op slechts een paar centrale punten van falen veel verwoestender gevolgen dan vroeger. Dit laat vrijwel geen ruimte voor fouten in de installatie en exploitatie van moderne IT-systemen. En nu comprimeert AI de tijdslijnen van aanvallers nog verder.

Recente opmerkingen van Dario Amodei hebben angsten aangewakkerd over geavanceerde AI-systemen die softwarekwetsbaarheden op grote schaal identificeren. Gelooft u dat ondernemingen de snelheid van AI-ondersteunde ontwikkeling onderschatten en dat deze de bestaande beveiligingsprocessen kan overweldigen?

Ja, ik geloof dat veel ondernemingen de snelheid van deze verschuiving onderschatten. Aanvankelijk leek het erop dat AI zowel aanvallers als verdedigers ongeveer gelijk zou bevoordelen. Maar een zorgwekkende realiteit ontstaat: AI heeft geen geheel nieuwe categorieën van cybercrime uitgevonden; in plaats daarvan heeft het geavanceerde aanvalsfunctionaliteiten gedemocratiseerd, waardoor dreigingsactoren automatisch verkenning kunnen uitvoeren, taalbarrières in phishing kunnen elimineren en softwarekwetsbaarheden op een snelheid en schaal kunnen ontdekken die menselijke verdedigers moeite hebben om te absorberen.

Het probleem is dat, terwijl AI een enorme toename van kwetsbaarheidsidentificatie heeft veroorzaakt, het nog niet in dezelfde mate wordt ingezet in het herstelproces. Dat creëert een gevaarlijk evenwicht. AI-ondersteunde kwetsbaarheidsdetectie produceert eenvoudigweg meer werk dan verdedigers aankunnen. Dit kan in een paar jaar verbeteren als AI voor herstel ingehaald wordt, maar op dit moment is het een groeiend probleem.

Bovendien is het niet ironisch dat de bedrijven die hun laatste modellen presenteren als redding van cyberdreigingen, tegelijkertijd een deel van het probleem aanwakkeren. AI-ondersteunde coderingsgereedschappen versnellen softwareproductie, maar ze produceren vaak slordige, kwetsbare code – waardoor de aanvalsoppervlakte wordt uitgebreid die hun beveiligingsproducten beloven te verminderen. Vanuit economisch oogpunt is dit briljant. Vanuit beveiligingsoogpunt niet zo veel.

Bij G+D evalueren we AI-gebruiksgevallen op een gestructureerde manier via een AI-Board en schalen we ze niet ongecontroleerd. Het probleem is niet AI an sich – het is het gebrek aan governance in de implementatie. Dit staat in overeenstemming met het principe dat G+D intern ook toepast: AI vereist niet alleen innovatie, maar ook geïnstitutionaliseerde evaluatie- en goedkeuringsprocessen.

Veel organisaties zien AI voornamelijk als een defensief cybersecurity-instrument. Vanuit uw perspectief, waar creëert AI op dit moment meer risico dan bescherming binnen enterprise-omgevingen?

De meeste cybersecurity-teams implementeren AI al in verschillende mate voor het detecteren, classificeren, beoordelen en triëren van beveiligingsgebeurtenissen – en het werkt opmerkelijk goed.

Toch ontstaan er geheel nieuwe risico’s naast deze voordelen. De kwetsbaarheden die inherent zijn aan de AI-architectuur zelf zijn al breed besproken en grotendeels begrepen. We zijn niet langer alleen statische code aan het beveiligen; we zijn non-deterministische systemen aan het beveiligen. Dit introduceert geheel nieuwe dreigingsvectoren, zoals prompt-injectie (waarbij kwaadaardige gegevens een LLM ertoe brengen zijn beveiligingsmechanismen te negeren), data-vergiftiging om de logica van een model te corrumperen tijdens de training, en data-lekkage, waarbij propriëtaire ondernemingsgegevens per ongeluk via modeluitvoer worden blootgesteld. Het verandert fundamenteel de definitie van een exploit.

Maar onze traditionele, goed ingestudeerde verdedigingen moeten zich ook aanpassen. Voor veel organisaties is User and Entity Behavior Analytics (UEBA) nog een relatief nieuw concept. In feite hebben veel bedrijven deze aanpak nog niet volledig geadopteerd vanwege strikte gegevensbeschermingsregels, strikte arbeidswetgeving en medezeggenschap van werknemers. Nu is de basis verschoven en het is onzeker hoe effectief UEBA zal blijven in een toekomst waarin AI menselijk gedrag feilloos kan leren en imiteren.

Naar de toekomst toe, zal UEBA in staat zijn om menselijk gedrag van geautomatiseerde aanvallen te onderscheiden, of een goedaardig AI-agent van een kwaadaardige te onderscheiden? Er zijn al producten die dat beloven, maar het duurt meestal even voordat marketingbeloften overgaan in daadwerkelijke, functionerende, real-life prestaties. We zullen nieuwe concepten met moderne beveiligingsarchitecturen nodig hebben om dat aan te pakken.

Als voorzitter van de Information Security Forum, bent u in contact met beveiligingsleiders bij grote wereldwijde ondernemingen. Zijn CISO’s steeds meer bezorgd over de kwaliteit van AI-gegenereerde code, of is het grotere probleem de operationele belasting van het beveiligen van exponentieel grotere codebases?

Beide problemen zijn reëel, maar ze landen anders. De kwaliteit van AI-gegenereerde code is een echte zorg. De code die AI produceert, ziet er vaak schoon uit, maar kan subtiele logische fouten, onveilige standaarden of misbruikte bibliotheken bevatten die moeilijker te detecteren zijn, juist omdat ze plausibel lijken. CISO’s zijn terecht bezorgd over dat.

Maar in mijn gesprekken met beveiligingsexperts bij ISF-lidorganisaties is de luider wordende alarm de operationele: het is het enorme volume aan code dat kwetsbaarheden kan bevatten en dus moet worden gecontroleerd.

Wat ik consistent hoor van collega’s uit verschillende branches is dat het afhankelijkheidsprobleem het definiërende probleem is geworden. De zware afhankelijkheid van externe componenten en derdepartijbibliotheken betekent dat elke enkele afhankelijkheid zorgvuldig moet worden bijgehouden, beheerd en voortdurend bijgewerkt. Zowel in de code als in de toolchain, mogelijk over verschillende cloudomgevingen. Dat was al een aanzienlijke uitdaging. AI-ondersteunde ontwikkeling versterkt dit nu. Niet omdat de aard van het probleem is veranderd, maar omdat de schaal is geëxplodeerd. Meer code, sneller geproduceerd, met meer afhankelijkheden, over meer repositories.

Dus als ik moet prioriteren: codekwaliteit is een oplosbaar ingenieursprobleem – betere tooling, striktere reviews, strakkere beveiligingsmechanismen in de ontwikkelingspijplijn. De operationele belasting van het beveiligen van een exponentieel groeiende codebase en de uitdijende afhankelijkheidsketens is de meer structurele, meer persistente uitdaging. Dat is waar de echte druk ligt, en dat is wat herhaaldelijk in senior CISO-discussies naar voren komt.

Giesecke+Devrient opereert in hooggevoelige sectoren, waaronder digitale identiteit, betalingen, bankinfrastructuur, eSIM-technologie en centrale bankdigitale valuta’s. Hoe verschilt het beveiligen van kritieke infrastructuur in de AI-tijdperk in vergelijking met het beveiligen van traditionele enterprise-systemen?

Bij G+D hebben we dezelfde fundamentele verantwoordelijkheden als elk bedrijf dat beveiliging serieus neemt. Onze standaarden zijn echter uitzonderlijk hoog, en de marge voor fouten is zeer klein. We zijn ons ervan bewust dat een beveiligingsincident binnen onze infrastructuur verdergaande gevolgen heeft dan een inbraak bij een typisch bedrijf – en dat is waarom onze tolerantie voor cybersecurity-risico’s uitzonderlijk laag is.

Waar AI een extra laag complexiteit toevoegt, is in de operationele architectuur zelf. Veel van onze high-security-componenten, met name die gekoppeld aan betalingssystemen, digitale identiteiten of producten voor centrale banken, zijn hoge waardeactiva en onderworpen aan strenge certificerings- en beveiligingseisen. Deze componenten moeten worden ontwikkeld, getest en geopereerd in afzonderlijke omgevingen, variërend van zuivere logische scheiding tot volledig air-gapped netwerken zonder enige externe connectiviteit.

Dat was al veeleisend voordat AI opkwam, maar nu integreren organisaties overal AI-ondersteunde tools in hun ontwikkelings- en operationele workflows. Tools die typisch afhankelijk zijn van cloudconnectiviteit, grootschalige gegevenstoegang en continue modelupdates. Het verzoenen van dit alles met omgevingen waarin zelfs een netwerkkabel die in de verkeerde poort is gestoken een ernstige beleidsovertreding zou zijn, is een zeer reële technische en governance-uitdaging.

Het dwingt ons om zeer intentioneel te zijn over onze AI-integratie. We kiezen niet alleen het juiste AI-model, we nemen strategische beslissingen op infrastructuurniveau over of deze tools lokaal moeten worden geïmplementeerd of via de cloud kunnen worden gebruikt.

Er is een snelle adoptie van AI-coderingscopiloten en autonome ontwikkelingsagenten. Verwacht u dat ondernemingen uiteindelijk zullen vereisen dat AI-gegenereerde code separate validatie- en certificeringsprocessen moet ondergaan voordat deze wordt geïmplementeerd?

Ik denk niet dat het beslissende criterium moet zijn of de code door een mens of AI is geschreven. Het beslissende criterium is risico. Maar AI-gegenereerde code zal zeker herkomst, traceerbaarheid en striktere controle nodig hebben in gereguleerde of high-security-omgevingen.

Bedreigingsmodellering, beveiligde coderingsbeleid en het integreren van SAST-hulpmiddelen in de ontwikkelingspijplijn is al standaardpraktijk vandaag, en de hulpmiddelen worden natuurlijk AI-verbeterd. Bovendien moeten ontwikkelteams zorgvuldig bijhouden welke functionaliteiten beveiligingskritiek zijn of behoren tot gereguleerde, hooggevoelige componenten. Bovendien moeten onderliggende afhankelijkheden grondig worden begrepen en voortdurend getest.

De economie zal onvermijdelijk een steeds belangrijkere rol spelen. Op dit moment is de tokenprijs van grote AI-aanbieders niet kostendekkend. De grote AI-aanbieders absorberen enorme infrastructuur- en inferentie-tekorten om marktaandeel te verzekeren. Een gesubsidieerd model dat op lange termijn economisch niet houdbaar is. Wanneer de commerciële kosten van het implementeren van AI in corporate workflows worden aangepast om de werkelijke infrastructuurkosten te weerspiegelen, zullen we een probleem hebben. Op dat moment zal de industrie moeten verschuiven naar kleine, lokale, purpose-built modellen. Het trainen van deze kleinere modellen voor gerichte use cases zal een vitale strategie worden om een ernstige kostenstijging te mitigeren.

En voor categorieën met de hoogste beveiligingseisen zal menselijke toezicht verplicht blijven en dat is precies waar de uitdaging ligt: het efficiënt gebruiken van de eindige menselijke capaciteit.

AI-systemen kunnen nu kwetsbaarheden veel sneller identificeren dan menselijke analisten, maar herstel hangt nog steeds sterk af van menselijke workflows. Naderen ondernemingen een punt waarop patchbeheer zelf autonoom moet worden?

Ja, autonoom patchbeheer is geen luxe meer – het is een operationele noodzaak. Het enorme volume aan kwetsbaarheden vandaag overschrijdt eenvoudigweg de menselijke triagecapaciteit.

Dat gezegd hebbende, geloof ik dat de daadwerkelijke implementatie een gestructureerde, pragmatische aanpak moet volgen. Voor standaard, niet-kritieke omgevingen moet volledige automatisering volledig haalbaar zijn, mits de juiste beveiligingsmechanismen op hun plaats zijn. Volledig autonome herstel in kritieke, hoge-impactsystemen, hoewel zeker noodzakelijk, zal waarschijnlijk nog steeds moeilijk te implementeren zijn voor de voorzienbare toekomst.

Dit is waar de fundamenten echt tellen. Het onderscheid tussen die twee categorieën klinkt eenvoudig, maar in de praktijk vereist het een enorm amount aan precieze, gedetailleerde en duurzame huishoudelijke taken om een complexe omgeving met zulke uiteenlopende benaderingen op een schone en geautomatiseerde manier te exploiteren. Dat werk is gemakkelijk te onderschatten.

De echte uitdaging, zoals zo vaak, is niet de mechanische uitvoering van het proces zelf – het is het bredere systeem. Intelligent beslissen is alleen mogelijk wanneer het hele systeem het ondersteunt. Patchbeheer moet aanzienlijk slimmer en sneller worden, niet alleen maar meer geautomatiseerd.

En, zoals altijd: in hooggevoelige contexten moeten gecontroleerde stabiliteit en hoge snelheid hand in hand gaan. Die spanning is het moeilijke deel – en het deel waar de meeste organisaties nog niet klaar voor zijn.

Overheden wereldwijd racen om digitale identiteitssystemen, CBDC’s en verbonden infrastructuur te implementeren. Hoe bezorgd bent u dat AI-gedreven cyberdreigingen de regulerings- en nationale veiligheidsvoorbereiding kunnen overtroeven?

Reguleringskaders zoals NIS2 en de Cyber Resilience Act duwen dingen in de goede richting, maar regulering is uiteindelijk slechts één onderdeel van de puzzel. Regulering is belangrijk voor het algemene systeem, maar we kunnen niet aannemen dat het uitvaardigen van een regel het probleem onmiddellijk oplost. Bedrijven moeten nog steeds de richtlijnen implementeren, hun systemen permanent beveiligen en een solide begrip van hun dreigingslandschap en beveiligingsdoelen behouden, deze voortdurend verfijnen en in overeenstemming houden.

Ik ben voorzichtig optimistisch, mits organisaties reguleringsconformiteit niet behandelen als vervanging voor echte beveiliging. En moderne beveiligingsbeheer wacht niet op regulering. Als er iets is, dan zou het andersom moeten zijn: de beste real-world-praktijk zou in regulering moeten worden omgezet, niet andersom.

In hoogbeveiligingsdomeinen zoals digitale identiteit en betalingsinfrastructuur is operationele paraatheid geen vanzelfsprekendheid. G+D is niet alleen een leverancier hier, maar ook een gesprekspartner voor centrale banken en overheden wereldwijd. G+D is ook actief betrokken bij de bescherming van kritieke digitale infrastructuur – bijvoorbeeld via Secunet als IT-beveiligingspartner van de Bondsrepubliek Duitsland.

Sommige experts beschrijven geavanceerde AI-modellen als “cyberwapens”, terwijl anderen beweren dat deze framing overdreven is. Vanuit uw perspectief, wat gaat de mensen verkeerd over de werkelijke risico’s die worden gevormd door frontier AI-systemen?

Wat de mensen verkeerd doen, is de aanname dat cyberconflicten de logica van fysieke oorlogvoering volgen. Dat een voldoende krachtige wapen elke verdediging zal doorbreken. Veel van de “cyberwapen”-framing ontleent aan die kinetische mentaliteit: grotere kanon verslaat dikkere muur, slimmere raket verslaat snellere vliegtuig. Maar cyber werkt niet zo.

Een succesvolle cyberaanval slaagt bijna nooit door brute overmacht. Het slaagt door een gapende opening te exploiteren: een misconfiguratie, een ongepatchte kwetsbaarheid, een menselijke fout, een zwakke schakel in de toeleveringsketen. AI verandert die fundamentele dynamiek niet. Het maakt de zoektocht naar die openingen sneller en goedkoper, en het verlaagt de drempel voor het exploiteren ervan. Dat is een ernstig probleem, maar het is een heel ander probleem dan het “onoverwinnelijke wapen”-narratief.

Het werkelijke risico is niet dat AI een onoverwinnelijk offensief wapen creëert dat geen enkele verdediging kan weerstaan. Het werkelijke risico is dat AI de exploitatie van gewone zwakheden versnelt en opschalt – dezelfde zwakheden die we al decennia proberen te verhelpen – op een tempo dat onze mogelijkheid om ze te dichten overtreft.

De framing van AI als een cyberwapen leidt af van dat. Het moedigt een wapenwedloop-mentaliteit aan wanneer wat eigenlijk nodig is, betere operationele hygiëne, snellere herstel en meer veerkrachtige architectuur. De dreiging is niet een nieuw superwapen. Het zijn de oude openingen, geëxploiteerd op een nieuwe snelheid. Dus ja, de framing van AI als een cyberwapen is een aanzienlijke overdrijving.

Kijkend naar de toekomst, gelooft u dat de grootste cybersecurity-dreiging van AI zal komen van geavanceerde nationale aanvallen, autonome exploitatie op grote schaal, insider-misbruik, toeleveringsketenkwetsbaarheden of iets waar de industrie nog niet genoeg aandacht aan besteedt?

Het voorspellen van de toekomst van beveiliging is altijd bijzonder moeilijk. Nationale aanvallen, autonome exploitatie, insider-misbruik, toeleveringsketencompromissen – al deze zijn reële en groeiende dreigingen, en ik zou geen van deze dreigingen bagatelliseren. Maar ik zou zeggen dat ze allemaal gevolgen zijn, niet oorzaken. Ze slagen wanneer verdedigers niet langer kunnen bijhouden, ongeacht de reden: een kwetsbaarheid is misschien nog niet openbaar, een patch nog niet beschikbaar of de werklast te hoog.

En dat laatste aspect is waar ik de topdreiging zie, twee tot drie jaar vooruitkijkend: beveiligingsteams die worden overweldigd door de pure werklast.

Alle huidige en opkomende onderwerpen – regulering, soevereiniteit, complexe cloud-infrastructuur en alles wat daarbij komt – landen allemaal op teams die al dun zijn uitgerekt door alarmtriage, incidentrespons, phishinganalyse, kwetsbaarheid- en patchbeheer, documentatie, audits en rapportage. De werklast toegevoegd door alles wat AI kan, kan de druppel zijn die de emmer doet overlopen. Behalve dat het veel meer is dan alleen een druppel.

En gezien de huidige mondiale economische situatie, raakt dit alles organisaties onder echte kostendruk, over de hele linie. Als dat niet extreem goed wordt beheerd, zal het uiteindelijk te veel worden.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen een bezoek brengen aan Giesecke+Devrient.