Thorsten Delbrouck, koncernens CSO på Giesecke+Devrient – Intervju-serie

Thorsten Delbrouck, koncernens CSO på Giesecke+Devrient, är en veteran inom cybersäkerhet med mer än två decenniers erfarenhet av att skydda företagsinfrastruktur, digitala identiteter och kritiska system. Sedan han anslöt sig till Giesecke+Devrient (G+D) 2011 som Corporate Chief Information Security Officer har han lett företagets globala säkerhetsstrategi inom högt reglerade sektorer, inklusive finans, telekommunikation och regeringsinfrastruktur. 2020 utvidgade han sin roll till Group Vice President, Head of Security and CISO. Delbrouck är också ordförande för Information Security Forum (ISF), en ledande global auktoritet inom cybersäkerhet och riskhantering, och har haft seniora säkerhetsledningsroller på Infineon Technologies (IFX.SW ), COMLINE och TÜV Secure iT.

Giesecke+Devrient (G+D) är ett München-baserat globalt SecurityTech-företag som har utvecklats från en historisk banknottryckeri grundad 1852 till en stor leverantör av digital säkerhet, finansiell teknik och valuta-infrastrukturlösningar. Företaget verkar inom tre kärnområden: Digital säkerhet, finansiella plattformar och valutateknik, och levererar teknologier som säkrar mobil anslutning, digitala identiteter, banksystem, betalningsplattformar och både fysiska och digitala valutor. G+D samarbetar med regeringar, centralbanker, finansiella institutioner och företag över hela världen, inklusive lösningar för eSIM, autentiseringssystem, digitala betalningar, cybersäkerhet och centralbankers digitala valutor (CBDC). Företaget positionerar sig som en pålitlig infrastrukturförvaltare för den digitala ekonomin, med mer än 14 000 anställda globalt och decennier av expertis inom att skydda kritiska system och finansiella ekosystem.

Du har tillbringat nästan tre decennier i cybersäkerhetsledande roller som omfattar TÜV Secure iT, Infineon och nu över 15 år på Giesecke+Devrient. Hur har hotlandskapet utvecklats från traditionella företagssäkerhetsrisker till dagens AI-drivna cyberutmaningar, och vad oroar dig mest om branschens nuvarande riktning?

Jag tycker att den största förändringen under min egen karriär är hastighet och påverkan. När jag började med säkerhetsledning i slutet av 1990-talet innebar ett allvarligt säkerhetsproblem en felkonfigurerad brandvägg eller en opatchad server, och skadans omfattning var vanligtvis ganska begränsad. Under de senaste tre decennierna har jag sett att följderna av en enda säkerhetsincident har ökat från operativ olägenhet till systematisk risk.

Och allt går snabbare. Vi hanterar fler system och högre bandbredder. Idag genererar knappt hälften av all internettrafik av människor – och enligt vissa uppskattningar består cirka 40 % av all trafik av skadlig aktivitet som skadlig skanning, malware och DDoS.

Samtidigt har landskapet blivit kraftigt konsoliderat och koncentrerat. Internetets ursprungliga designfilosofi med redundans och decentralisering har gått förlorad. Som ett resultat har attacker som riktar sig mot bara några centrala felpunkter mycket mer förödande konsekvenser än de tidigare. Detta lämnar praktiskt taget inget utrymme för fel i konfiguration och drift av moderna IT-system. Och nu komprimerar AI angriparnas tidsramar ännu mer.

Senaste kommentarerna från Dario Amodei har återupplivat rädslan kring avancerade AI-system som identifierar programvarusårbarheter i stor skala. Tror du att företag underskattar hur snabbt AI-assisterad utveckling kan överväldiga befintliga säkerhetsprocesser?

Ja, jag tror att många företag underskattar hastigheten på denna förändring. Till en början tycktes det som om AI skulle gynna både angripare och försvarare, ungefär lika mycket. Men en oroande verklighet börjar framträda: AI har inte uppfunnit helt nya kategorier av cyberbrott; istället har den demokratiserat sofistikerade angreppskapaciteter, vilket gör det möjligt för hotaktörer att automatisera spaning, eliminera språkbarriärer i phishing och upptäcka programvarusårbarheter i en hastighet och skala som mänskliga försvarare kämpar för att absorbera.

Problemet är att medan AI har utlöst en massiv ökning av identifiering av sårbarheter, används det inte i samma utsträckning i processen för att åtgärda dem. Det skapar en farlig obalans. AI-assisterad identifiering av sårbarheter producerar helt enkelt mer arbete än försvararna kan hantera. Detta kan förbättras om några år när AI för åtgärd tar igen, men just nu är det ett växande problem.

Dessutom är det inte utan ironi att de företag som presenterar sina senaste modeller som en lösning på cyberhot samtidigt bränslar en del av problemet. AI-assisterade kodningsverktyg accelererar programvaruproduktion, men de producerar ofta slarvig, sårbar kod – vilket expanderar den angreppsyta som deras säkerhetsprodukter lovar att minska. Ur ett ekonomiskt perspektiv är detta briljant. Ur ett säkerhetsperspektiv, inte så mycket.

Hos G+D utvärderar vi AI-användningsfall på ett strukturerat sätt genom en AI-styrelse och skalar dem inte på ett okontrollerat sätt. Problemet är inte AI i sig – det är bristen på styrning i dess distribution. Detta överensstämmer med principen som G+D också tillämpar internt: AI kräver inte bara innovation, utan också institutionaliserad utvärdering och godkännandeprocesser.

Många organisationer ser AI främst som ett defensivt cybersäkerhetsverktyg. Enligt din åsikt, var skapar AI just nu större risk än skydd inom företagsmiljöer?

De flesta cybersäkerhetsteam distribuerar redan AI i varierande grad för att upptäcka, klassificera, bedöma och triagera säkerhetshändelser – och det fungerar remarkabelt bra.

Ändå dyker helt nya risker upp bredvid dessa fördelar. Sårbarheterna som är naturliga för AI-arkitekturen i sig är redan allmänt diskuterade och mestadels förstådda. Vi säkrar inte längre bara statisk kod; vi säkrar icke-deterministiska system. Detta introducerar helt nya hotvektor, såsom promptinjektion (där skadlig data lurar en LLM att ignorera dess skyddsräcken), dataförgiftning för att korrumpera en modells logik under utbildning, och dataläckage, där företagets egna data av misstag exponeras genom modellutdata. Det förändrar grundläggande definitionen av en exploatering.

Men våra traditionella, väl inövade försvar måste också anpassa sig. För många organisationer är User and Entity Behavior Analytics (UEBA) fortfarande ett relativt nytt koncept. Faktum är att många företag inte har antagit tillvägagångssättet fullt ut på grund av stränga dataskyddsföreskrifter, stränga arbetslagar och arbetstagarrådens medbestämmanderätt. Nu har baslinjen skiftat och det är osäkert hur effektiv UEBA kommer att förbli i en framtid där AI kan lära sig och imitera mänskligt beteende utan ansträngning.

Framåt, kommer UEBA att kunna skilja på mänskligt beteende och automatiserade attacker, eller skilja på en ofarlig AI-agent och en skadlig? Det finns redan produkter som lovar just det, men det tar vanligtvis lite tid att gå från marknadsföringslöften till faktisk, fungerande, realtidsprestanda. Vi kommer att behöva nya koncept med moderna säkerhetsarkitekturer för att hantera det.

Som ordförande för Information Security Forum engagerar du dig med säkerhetsledare över hela världen. Är CISO:er alltmer oroliga för AI-genererad kodkvalitet, eller är det större problemet den operativa bördan av att säkra exponentiellt större kodbas?

Båda problemen är verkliga, men de landar annorlunda. AI-genererad kodkvalitet är ett äkta problem. Koden som AI producerar ser ofta ren ut men kan bära subtila logiska fel, osäkra standarder eller missbrukade bibliotek som är svåra att upptäcka just för att de verkar trovärdiga. CISO:er är rätt oroliga för det.

Men i mina samtal med säkerhetsexperter över ISF-medlemsorganisationer är den högre larmen operativ: det är den rena volymen kod som kan innehålla sårbarheter och som därför måste kontrolleras.

Det jag hör konsekvent från kollegor över branscherna är att beroendeproblemet har blivit den avgörande bördan. Den tunga beroendet av externa komponenter och tredjepartsbibliotek innebär att varje enskild beroende måste spåras, hanteras och kontinuerligt patchas noga. Det var redan en betydande utmaning. AI-assisterad utveckling förstärker det nu. Inte för att problemets natur har förändrats, utan för att skalan har exploderat. Mer kod, producerad snabbare, med fler beroenden, över fler repository.

Så om jag måste prioritera: kodkvalitet är ett lösbart ingenjörsproblem – bättre verktyg, strängare granskningar, tätare skyddsräcken i utvecklingspipelinen. Den operativa bördan av att säkra en exponentiellt växande kodbas och dess spridda beroendekedjor är den mer strukturerade, mer bestående utmaningen. Det är där den verkliga pressen ligger, och det är vad som kommer upp igen i seniora CISO-samtal.

Giesecke+Devrient verkar inom högt känsliga sektorer, inklusive digital identitet, betalningar, bankinfrastruktur, eSIM-teknik och centralbankers digitala valutor. Hur skiljer sig säkring av kritisk infrastruktur i AI-eran jämfört med att skydda traditionella företagssystem?

Hos G+D möter vi samma grundläggande ansvar som alla organisationer som tar säkerhet på allvar. Men våra standarder är exceptionellt höga, och marginalen för fel är mycket liten. Vi är starkt medvetna om att en säkerhetsincident inom vår infrastruktur har långt mer omfattande konsekvenser än ett intrång i ett typiskt företag – och det är därför vår tolerans för cybersäkerhetsrisk är exceptionellt låg.

Där AI lägger till en distinkt lager av komplexitet för oss är i den operativa arkitekturen i sig. Många av våra högsäkerhetskomponenter, särskilt de som är kopplade till betalningssystem, digitala identiteter eller produkter för centralbanker, är högvärdesobjekt och omfattas av stränga certifierings- och säkerhetskrav. Dessa komponenter måste utvecklas, testas och drivas i separata miljöer, från rent logisk separation till fullständigt luftgapade nätverk med ingen extern anslutning alls.

Det var redan krävande före AI, men nu integrerar organisationer överallt AI-assisterade verktyg i sina utvecklings- och driftsflöden. Verktyg som vanligtvis är beroende av molnanslutning, storskalig dataåtkomst och kontinuerliga modelluppdateringar. Att försona det med miljöer där till och med en nätverkskabel ansluten till fel port vore en allvarlig policyöverträdelse är en verklig ingenjörs- och styrningsutmaning.

Det tvingar oss att vara mycket medvetna om vår AI-integration. Vi väljer inte bara rätt AI-modell, vi fattar strategiska beslut på en infrastruktурнivå om huruvida dessa verktyg behöver distribueras lokalt eller kan användas via molnet.

Vi ser en snabb tillämpning av AI-kodkompisar och autonoma utvecklingsagenter. Förväntar du dig att företag slutligen kommer att kräva att AI-genererad kod genomgår separat validering och certifieringsprocesser innan distribution?

Jag tror inte att det avgörande kriteriet bör vara om koden skrevs av en människa eller AI. Det avgörande kriteriet är risk. Men AI-genererad kod kommer säkert att behöva proveniens, spårbarhet och strängare granskning i reglerade eller högsäkerhetsmiljöer.

Hotmodellering, säker kodpolicy och inkorporering av SAST-verktyg i utvecklingskedjan är redan standardpraxis idag, och verktygen blir naturligt AI-förbättrade. Dessutom måste utvecklingsteam noggrant spåra vilka funktioner som är säkerhetskritiska eller tillhör reglerade, högt känsliga komponenter. Utöver det måste underliggande beroenden förstås och kontinuerligt testas.

Ekonomi kommer oundvikligen att spela en alltmer kritisk roll. Just nu är tokenprissättning från stora AI-leverantörer inte kostnadstäckande. De stora AI-leverantörerna absorberar häpnadsväckande infrastruktur- och inferensunderskott för att säkra marknadsandelar. En subventionerad modell som inte är ekonomiskt hållbar på lång sikt. När de kommersiella kostnaderna för att distribuera AI i företagsflöden justeras uppåt för att spegla de verkliga infrastrukturkostnaderna, kommer vi att ha ett problem. Då kommer branschen att behöva skifta mot små, lokala och specialbyggda modeller. Utbildning av dessa mindre modeller för målinriktade användningsfall kommer att bli en viktig strategi för att mildra allvarliga kostnadsökningar.

Och för kategorier med de högsta säkerhetskraven kommer mänsklig tillsyn att förbli obligatorisk, och det är exakt där utmaningen ligger: att utnyttja begränsad mänsklig kapacitet så effektivt som möjligt.

AI-system kan nu identifiera sårbarheter mycket snabbare än mänskliga analytiker, men åtgärd kräver fortfarande i hög grad mänskliga arbetsflöden. Närmade sig företag en punkt där patchhantering i sig måste bli autonom?

Ja, autonom patchhantering är inte längre en lyx – det är en operativ nödvändighet. Den rena volymen av sårbarheter idag överstiger helt enkelt mänsklig triagekapacitet.

Sagt så, tror jag att den faktiska distributionen måste följa en pragmatisk och skiktad strategi. För standard, icke-kritiska miljöer bör full automation vara helt möjlig, under förutsättning att rätt skyddsräcken är på plats. Fullt autonom åtgärd i kritiska, högimpaktsystem, medan det utan tvekan är nödvändigt, kommer troligen att förbli ganska svårt att implementera under överskådlig framtid.

Detta är där grundprinciperna verkligen spelar roll. Distinktionen mellan dessa två kategorier låter enkel, men i praktiken kräver det en enorm mängd precisa, detaljerade och ihållande “husarbete” för att driva ett komplext system med så olika tillvägagångssätt på ett rent och automatiserat sätt. Det arbetet är lätt att underskatta.

Den verkliga utmaningen, som så ofta, är inte den mekaniska utförandet av processen i sig – det är det bredare systemet. Intelligent beslutsfattning är endast möjlig när hela systemet stöder det. Patchhantering behöver bli betydligt smartare och snabbare, inte bara mer automatiserad.

Och, som alltid: i högt känsliga sammanhang måste kontrollerad stabilitet och hög hastighet gå hand i hand. Den spänningen är den svåra delen – och den del som de flesta organisationer ännu inte är redo för.

Regeringar över hela världen tävlar om att implementera digitala identitetssystem, CBDC och anslutna infrastrukturer. Hur orolig är du för att AI-drivna cyberhot kan överträffa regulatorisk och nationell säkerhetsberedskap?

Regulatoriska ramverk som NIS2 och Cyber Resilience Act trycker saker i rätt riktning, men reglering är i slutändan bara en del av pusslet. Reglering är viktigt för det övergripande systemet, men vi kan inte anta att utfärdandet av en regel omedelbart löser problemet. Företag måste fortfarande implementera riktlinjerna, hålla sina system permanent säkra och upprätthålla en solid förståelse av sin hotbild och skyddsmål, kontinuerligt förbättra dem och hålla dem i linje.

Jag är försiktigt optimistisk, under förutsättning att organisationer inte behandlar regulatorisk efterlevnad som en ersättning för verklig säkerhet. Och modern säkerhetsledning väntar inte på reglering. Om något bör det vara tvärtom: den bästa realvärldspraxisen bör flöda in i reglering, inte tvärtom.

I högsäkerhetsdomäner som digital identitet och betalningsinfrastruktur är operativ beredskap inte en given sak. G+D är inte bara en leverantör här, utan också en dialogpartner för centralbanker och regeringar över hela världen. G+D är också aktivt engagerad i skyddet av kritisk digital infrastruktur – till exempel genom Secunet som IT-säkerhetspartner för Förbundsrepubliken Tyskland.

Vissa experter beskriver avancerade AI-modeller som “cybervapen”, medan andra hävdar att ramen är överdriven. Enligt din åsikt, vad tar man fel när det gäller de verkliga riskerna som presenteras av gränsöverskridande AI-system?

Vad man tar fel är antagandet att cyberkonflikter följer den logik som fysisk krigföring har. Att ett tillräckligt kraftfullt vapen oundvikligen kommer att bryta igenom varje försvar. Mycket av “cybervapen”-ramen lånar från den kinetiska tankesättet: en större kanon slår en tjockare mur, en smartare missil slår en snabbare flygplan. Men cyber fungerar inte så.

En framgångsrik cyberattack lyckas nästan aldrig genom brutalt överväldigande kraft. Den lyckas genom att utnyttja en lucka: en felkonfiguration, en opatchad sårbarhet, ett mänskligt fel, en svag länk i leverantörskedjan. AI förändrar inte den grundläggande dynamiken. Det gör sökandet efter dessa luckor snabbare och billigare, och det sänker tröskeln för att utnyttja dem. Det är ett allvarligt problem, men det är ett helt annat problem än den “obesegrade vapen”-berättelsen.

Den verkliga risken är inte att AI skapar en allsmäktig offensiv kapacitet som inget försvar kan motstå. Den verkliga risken är att AI accelererar och skalar utnyttjandet av vanliga svagheter – samma svagheter vi har kämpat för att åtgärda i decennier – i en takt som överstiger vår förmåga att stänga dem.

Ramen “AI som cybervapen” distraherar från det. Den uppmuntrar till en kapprust-mentalitet när vad som verkligen behövs är bättre operativ hygien, snabbare åtgärd och mer resilienta arkitekturer. Hotet är inte ett nytt supervapen. Det är de gamla luckorna, utnyttjade i en ny hastighet. Så, ja, ramen “AI som cybervapen” är en betydande överdrift.

Om du ser framåt, tror du att den största cybersäkerhetsrisken från AI kommer från sofistikerade nationella attacker, autonom exploatering i skala, insidermissbruk, leverantörssårbarheter eller något som branschen ännu inte är tillräckligt uppmärksam på?

Att förutsäga framtiden för säkerhet är alltid särskilt svårt. Nationella attacker, autonom exploatering, insidermissbruk, leverantörskompromiss – alla dessa är verkliga och växande hot, och jag skulle inte avfärda någon av dem. Men jag skulle hävda att de alla är konsekvenser, inte rotorsaker. De lyckas när försvararna inte längre kan hålla jämna steg, oavsett anledning: En sårbarhet kanske inte är offentligt känd, en patch kanske inte är tillgänglig eller arbetsbelastningen kan vara för hög.

Och det sista aspekterna är där jag ser den övergripande risken när jag ser två till tre år framåt: säkerhetsteam som överväldigas av ren arbetsbelastning.

Alla nuvarande och framväxande ämnen – reglering, suveränitet, komplexa molninfrastrukturer och allt som följer med dem – landar på team som redan är ansträngda av larmtriage, incidentrespons, phishinganalys, sårbarhets- och patchhantering, dokumentation, revisioner och rapportering. Arbetsbelastningen som läggs till av allt AI kan vara den strå som bryter kamelens rygg. Förutom att det är långt mer än bara en strå. Och givet den nuvarande globala ekonomiska situationen, slår allt detta mot organisationer under verkligt kostnadstryck, över hela linjen. Om det inte hanteras extremt bra, kommer det så småningom att bli för mycket.

Tack för det utmärkta samtalet, läsare som vill lära sig mer bör besöka Giesecke+Devrient.