Thorsten Delbrouck, Group CSO di Giesecke+Devrient – Serie di interviste

Thorsten Delbrouck, Group CSO di Giesecke+Devrient, è un veterano dirigente di cybersecurity con più di due decenni di esperienza nella sicurezza di infrastrutture aziendali, identità digitali e sistemi critici. Dal suo ingresso in Giesecke+Devrient (G+D) nel 2011 come Corporate Chief Information Security Officer, ha guidato la strategia di sicurezza globale dell’azienda in settori altamente regolamentati, tra cui finanza, telecomunicazioni e infrastrutture governative. Nel 2020, ha ampliato il suo ruolo a Group Vice President, Head of Security e CISO. Delbrouck ricopre anche la carica di Presidente del Information Security Forum (ISF), un’autorità globale leader nella cybersecurity e nella gestione del rischio, e ha ricoperto ruoli di leadership nella sicurezza in Infineon Technologies, COMLINE e TÜV Secure iT.

Giesecke+Devrient (G+D) è un’azienda di SecurityTech con sede a Monaco di Baviera, che si è evoluta da una storica azienda di stampa di banconote fondata nel 1852 in un importante fornitore di soluzioni di sicurezza digitale, tecnologia finanziaria e infrastrutture di valuta. L’azienda opera in tre segmenti principali: Sicurezza Digitale, Piattaforme Finanziarie e Tecnologia della Valuta, fornendo tecnologie che proteggono la connettività mobile, le identità digitali, i sistemi bancari, le piattaforme di pagamento e sia le valute fisiche che digitali. G+D lavora con governi, banche centrali, istituzioni finanziarie e aziende di tutto il mondo, fornendo soluzioni per eSIM, sistemi di autenticazione, pagamenti digitali, cybersecurity e Valute Digitali delle Banche Centrali (CBDC). L’azienda si posiziona come un fornitore di infrastrutture di fiducia per l’economia digitale, con oltre 14.000 dipendenti in tutto il mondo e decenni di esperienza nella sicurezza di sistemi critici ed ecosistemi finanziari.

Ha trascorso quasi tre decenni in ruoli di leadership nella cybersecurity, coprendo TÜV Secure iT, Infineon e ora oltre 15 anni in Giesecke+Devrient. Come è cambiato il panorama delle minacce dalla sicurezza tradizionale delle aziende ai challenge cyber guidati dall’AI di oggi, e cosa la preoccupa di più sulla direzione attuale dell’industria?

Credo che il principale cambiamento nel corso della mia carriera sia la velocità e l’impatto. Quando ho iniziato la gestione della sicurezza alla fine degli anni ’90, un problema di sicurezza serio significava un firewall mal configurato o un server non patchato, il raggio d’azione era generalmente contenuto. Negli ultimi tre decenni, ho visto le conseguenze di una singola violazione crescere da un fastidio operativo a un rischio sistemico.

E tutto è più veloce. Stiamo gestendo più sistemi e bande più ampie. Oggi, a malapena la metà di tutto il traffico internet è generato da esseri umani – e secondo alcune stime, circa il 40% del traffico totale consiste in attività maliziose come scansione maliziosa, malware e DDoS.

Allo stesso tempo, il panorama si è molto consolidato e concentrato. La filosofia di progettazione originale di internet di ridondanza e decentralizzazione è andata persa. Di conseguenza, gli attacchi mirati a pochi punti di fallimento centrali hanno conseguenze molto più devastanti di quanto non avessero in passato. Ciò lascia virtualmente nessuno spazio per l’errore nell’installazione e nell’operazione di moderni sistemi IT. E adesso l’AI sta comprimendo ulteriormente i tempi di attacco.

I recenti commenti di Dario Amodei hanno riacceso le paure intorno ai sistemi di intelligenza artificiale avanzati che identificano le vulnerabilità del software su larga scala. Crediamo che le aziende stiano sottovalutando quanto velocemente lo sviluppo assistito dall’AI potrebbe sopraffare i processi di sicurezza esistenti?

Sì, credo che molte aziende stiano sottovalutando la velocità di questo cambiamento. Inizialmente, sembrava che l’AI avrebbe beneficiato entrambi i lati, gli attaccanti e i difensori, più o meno allo stesso modo. Ma una realtà preoccupante sta emergendo: l’AI non ha inventato interamente nuove categorie di cybercrime; piuttosto, ha democratizzato le capacità di attacco sofisticate, consentendo agli attaccanti di automatizzare la ricognizione, eliminare le barriere linguistiche nel phishing e scoprire vulnerabilità del software a una velocità e su una scala che i difensori umani faticano ad assorbire.

Il problema è che mentre l’AI ha innescato un’enorme ondata di identificazione delle vulnerabilità, non è ancora essere utilizzata nella stessa misura nel processo di rimedio. Ciò crea un pericoloso squilibrio. La scoperta delle vulnerabilità assistita dall’AI sta semplicemente producendo più lavoro di quanto i difensori possano gestire. Ciò potrebbe migliorare in pochi anni, poiché l’AI per il rimedio si aggiorna, ma al momento è un problema crescente.

Inoltre, non è senza ironia che le stesse aziende che presentano i loro ultimi modelli come salvezza dalle minacce informatiche stanno, allo stesso tempo, alimentando parte del problema. Gli strumenti di codifica assistita dall’AI accelerano la produzione del software, ma producono frequentemente codice scadente e vulnerabile – ampliando la stessa superficie di attacco che i loro prodotti di sicurezza promettono di ridurre. Da un punto di vista economico, questo è geniale. Da un punto di vista di sicurezza, non proprio.

In G+D, valutiamo i casi d’uso dell’AI in modo strutturato attraverso un AI Board e non li scaliamo in modo incontrollato. Il problema non è l’AI in sé – è la mancanza di governance nella sua implementazione. Ciò si allinea con il principio che G+D applica anche internamente: l’AI richiede non solo innovazione, ma anche processi di valutazione e approvazione istituzionalizzati.

Molte organizzazioni vedono l’AI principalmente come uno strumento di sicurezza cibernetica difensivo. Dal suo punto di vista, dove l’AI sta attualmente creando più rischi che protezione all’interno degli ambienti aziendali?

La maggior parte dei team di sicurezza cibernetica schiera già l’AI in vari modi per la rilevazione, la classificazione, la valutazione e la triage degli eventi di sicurezza – e funziona in modo notevole.

Tuttavia, nuovi rischi stanno emergendo accanto a questi benefici. Le vulnerabilità native dell’architettura dell’AI sono già ampiamente discusse e in gran parte comprese. Non stiamo più proteggendo solo codice statico; stiamo proteggendo sistemi non deterministici. Ciò introduce interamente nuovi vettori di minaccia, come l’iniezione di prompt (dove i dati malintenzionati ingannano un modello di linguaggio in modo da farlo ignorare le sue barriere di protezione), l’avvelenamento dei dati per corrompere la logica del modello durante l’addestramento e la perdita di dati, dove i dati aziendali proprietari vengono esposti accidentalmente attraverso gli output del modello. Ciò cambia fondamentalmente la definizione di sfruttamento.

Ma le nostre difese tradizionali, ben provate, devono adattarsi anche loro. Per molte organizzazioni, l’analisi del comportamento degli utenti e delle entità (UEBA) è ancora un concetto relativamente nuovo. In realtà, molte aziende non hanno ancora adottato pienamente questo approccio a causa di severe norme sulla privacy dei dati, leggi rigorose del lavoro e diritti di codeterminazione dei consigli dei lavoratori. Ora, il livello di base è cambiato e non è certo quanto efficace sarà ancora l’UEBA in un futuro in cui l’AI può imparare e mimare perfettamente il comportamento umano.

Proseguendo, l’UEBA sarà in grado di distinguere il comportamento umano dagli attacchi automatizzati o di riconoscere un agente AI benigno da uno malintenzionato? Ci sono già prodotti che promettono proprio questo, ma di solito ci vuole un po’ di tempo per passare dalle promesse di marketing alle prestazioni reali e funzionanti. Avremo bisogno di nuovi concetti con architetture di sicurezza moderne per affrontare questo.

Come Presidente del Information Security Forum, si confronta con leader della sicurezza in grandi aziende a livello globale. I CISO sono sempre più preoccupati per la qualità del codice generato dall’AI o è il problema più grande il carico operativo di proteggere codebase esponenzialmente più grandi?

Entrambi i problemi sono reali, ma atterrano diversamente. La qualità del codice generato dall’AI è una preoccupazione genuina. Il codice che l’AI produce spesso sembra pulito, ma può portare sottili difetti logici, impostazioni di sicurezza insicure o librerie mal utilizzate che sono più difficili da individuare proprio perché appaiono plausibili. I CISO hanno ragione a preoccuparsi.

Ma nelle mie conversazioni con esperti di sicurezza in organizzazioni membre dell’ISF, l’allarme più forte è operativo: è il volume di codice che potrebbe portare vulnerabilità e quindi deve essere verificato.

Ciò che sento costantemente dai miei colleghi in vari settori è che il problema della dipendenza è diventato l’onere definitivo. La forte dipendenza da componenti esterni e librerie di terze parti significa che ogni singola dipendenza deve essere tracciata, gestita e costantemente aggiornata. Nel codice, ma anche nella catena di strumenti, potenzialmente attraverso diversi ambienti cloud. Ciò era già una sfida significativa. Lo sviluppo assistito dall’AI sta ora amplificando questo. Non perché la natura del problema è cambiata, ma perché la scala è esplosa. Più codice, prodotto più velocemente, con più dipendenze, in più repository.

Quindi, se dovessi dare la priorità: la qualità del codice è un problema di ingegneria risolvibile – migliori strumenti, revisioni più strette, barriere di protezione più strette nella pipeline di sviluppo. Il carico operativo di proteggere una codebase in crescita esponenziale e le sue catene di dipendenza in espansione è la sfida più strutturale, più persistente. Lì si trova la vera pressione, ed è ciò che emerge ripetutamente nelle discussioni senior dei CISO.

Giesecke+Devrient opera in settori altamente sensibili, tra cui identità digitale, pagamenti, infrastrutture bancarie, tecnologia eSIM e valute digitali delle banche centrali. Come differisce la sicurezza delle infrastrutture critiche nell’era dell’AI rispetto alla protezione dei sistemi aziendali tradizionali?

In G+D, affrontiamo le stesse responsabilità di base di qualsiasi organizzazione che prende seriamente la sicurezza. Tuttavia, i nostri standard sono eccezionalmente alti, e il margine di errore è molto piccolo. Siamo estremamente consapevoli che un incidente di sicurezza all’interno della nostra infrastruttura ha implicazioni molto più ampie di una violazione in un’azienda tipica – ed è per questo che il nostro appetito per il rischio di sicurezza cibernetica è eccezionalmente basso.

Dove l’AI aggiunge una layer di complessità unica per noi è nell’architettura operativa stessa. Molti dei nostri componenti ad alta sicurezza, in particolare quelli legati ai sistemi di pagamento, identità digitali o prodotti per banche centrali, sono beni di alto valore e soggetti a requisiti di certificazione e sicurezza molto stringenti. Questi componenti devono essere sviluppati, testati e operati in ambienti separati, che vanno dalla separazione logica pura fino a reti completamente isolate senza alcuna connettività esterna.

Ciò era già impegnativo prima dell’AI, ma ora le organizzazioni di tutto il mondo stanno integrando strumenti assistiti dall’AI nelle loro pipeline di sviluppo e operativo. Strumenti che dipendono tipicamente dalla connettività cloud, dall’accesso su larga scala ai dati e dagli aggiornamenti continui dei modelli. Riconciliare ciò con ambienti in cui anche un cavo di rete collegato alla porta sbagliata sarebbe una grave violazione delle politiche è una sfida di ingegneria e governance molto reale.

Ciò ci costringe a essere molto intenzionali nell’integrazione dell’AI. Non stiamo solo scegliendo il modello di AI giusto, stiamo prendendo decisioni strategiche a livello di infrastruttura su se questi strumenti devono essere distribuiti localmente o utilizzati tramite il cloud.

Stiamo assistendo a un’adozione rapida di copiloti di codifica AI e agenti di sviluppo autonomi. Si aspetta che le aziende richiedano eventualmente che il codice generato dall’AI subisca processi di convalida e certificazione separati prima della distribuzione?

Credo che il criterio decisivo non dovrebbe essere se il codice sia stato scritto da un umano o dall’AI. Il criterio decisivo è il rischio. Ma il codice generato dall’AI avrà certamente bisogno di provenienza, tracciabilità e revisione più stretta in ambienti regolamentati o ad alta sicurezza.

La modellazione delle minacce, le politiche di codifica sicura e l’integrazione di strumenti SAST nella catena di strumenti di sviluppo sono già pratica standard oggi, e gli strumenti stanno naturalmente diventando migliorati dall’AI. Inoltre, i team di sviluppo devono tracciare scrupolosamente quali funzionalità sono critiche per la sicurezza o appartengono a componenti regolamentati e altamente sensibili. Oltre a ciò, le dipendenze sottostanti devono essere comprese a fondo e testate continuamente.

L’economia giocherà inevitabilmente un ruolo sempre più critico. Al momento, il prezzo dei token dai principali fornitori di AI non copre i costi. I principali fornitori di AI stanno assorbendo deficit di infrastruttura e inferenza sbalorditivi per garantirsi una quota di mercato. Un modello sovvenzionato che non è sostenibile a lungo termine. Quando i costi commerciali del deploy di AI nei flussi di lavoro aziendali saranno aggiustati verso l’alto per riflettere quelle spese di infrastruttura reali, avremo un problema. A quel punto, l’industria dovrà spostarsi verso modelli più piccoli, localizzati e costruiti appositamente per utilizzi specifici. L’addestramento di questi modelli più piccoli per utilizzi mirati diventerà una strategia vitale per mitigare aumenti di costi severi.

E per le categorie con le più alte richieste di sicurezza, la supervisione umana rimarrà obbligatoria ed è proprio lì che si trova la sfida: sfruttare la capacità umana finita nel modo più efficiente possibile.

I sistemi di intelligenza artificiale possono ora identificare le vulnerabilità molto più velocemente degli analisti umani, ma il rimedio dipende ancora fortemente dai flussi di lavoro umani. Le aziende stanno raggiungendo un punto in cui la gestione delle patch deve diventare autonoma?

Sì, la gestione autonoma delle patch non è più un lusso – è una necessità operativa. Il volume di vulnerabilità di oggi semplicemente supera la capacità di triage umana.

Detto questo, credo che il deploy effettivo debba seguire un approccio pragmatico e graduale. Per ambienti standard, non critici, la piena automazione dovrebbe essere interamente raggiungibile, a condizione che siano presenti le barriere di protezione giuste. La rimozione autonoma in sistemi critici e ad alto impatto, sebbene certamente necessaria, rimarrà probabilmente molto difficile da implementare per il prossimo futuro.

Questo è dove contano i fondamentali. La distinzione tra queste due categorie sembra ovvia, ma nella pratica richiede una quantità enorme di lavoro di manutenzione dettagliato e sostenuto per operare un ambiente complesso con approcci divergenti in modo pulito e automatizzato. Quel lavoro è facile da sottovalutare.

La vera sfida, come spesso, non è l’esecuzione meccanica del processo stesso – è il sistema più ampio. La presa di decisioni intelligenti è possibile solo quando l’intero sistema la supporta. La gestione delle patch deve diventare significativamente più intelligente e veloce, non solo più automatizzata.

E, come sempre: in contesti altamente sensibili, stabilità controllata e alta velocità devono procedere di pari passo. Quella tensione è la parte difficile – e la parte per cui la maggior parte delle organizzazioni non è ancora pronta.

I governi di tutto il mondo stanno correndo per implementare sistemi di identità digitali, valute digitali delle banche centrali e infrastrutture collegate. Quanto è preoccupato che le minacce informatiche guidate dall’AI possano superare la preparazione della sicurezza nazionale e la regolamentazione?

I quadri regolamentari come NIS2 e l’Atto di Resilienza Cibernetica stanno spingendo le cose nella direzione giusta, ma la regolamentazione è solo un pezzo del puzzle. La regolamentazione conta per l’intero sistema, ma non possiamo supporre che l’emissione di una regola risolva immediatamente il problema. Le aziende devono ancora implementare le linee guida, mantenere i loro sistemi permanentemente sicuri e avere una solida comprensione del loro panorama di minacce e obiettivi di protezione, raffinarli continuamente e mantenerli allineati.

Sono cauto ottimista, a condizione che le organizzazioni non trattino la conformità normativa come un sostituto della vera sicurezza. E la gestione della sicurezza moderna non aspetta la regolamentazione. Se mai, dovrebbe essere il contrario: le migliori pratiche del mondo reale dovrebbero fluire nella regolamentazione, non il contrario.

Nel dominio ad alta sicurezza, come l’identità digitale e l’infrastruttura dei pagamenti, la preparazione operativa non è scontata. G+D non è solo un fornitore, ma anche un partner di dialogo per banche centrali e governi di tutto il mondo. G+D è anche attivamente impegnata nella protezione delle infrastrutture digitali critiche – ad esempio, attraverso Secunet come partner di sicurezza IT della Repubblica Federale di Germania.

Alcuni esperti descrivono i modelli di intelligenza artificiale avanzati come “armi cibernetiche”, mentre altri sostengono che questo framing è esagerato. Dal suo punto di vista, cosa stanno sbagliando le persone sulle reali minacce poste dai sistemi di intelligenza artificiale di frontiera?

Cosa stanno sbagliando le persone è l’assunzione che i conflitti informatici seguano la logica della guerra fisica. Che un’arma sufficientemente potente inevitabilmente violerà qualsiasi difesa. Gran parte del framing delle “armi cibernetiche” deriva da quella mentalità cinetica: un cannone più grande batte un muro più spesso, un missile più intelligente batte un aereo più veloce. Ma il cyber non funziona così.

Un attacco informatico di successo quasi mai riesce attraverso la forza bruta. Riesce sfruttando una lacuna: una configurazione errata, una vulnerabilità non patchata, un errore umano, un anello debole nella catena di approvvigionamento. L’AI non cambia quella dinamica fondamentale. Rende la ricerca di quelle lacune più veloce e più economica, e abbassa la soglia di abilità per sfruttarle. Questo è un problema serio, ma è un problema molto diverso dalla narrazione dell'”arma irresistibile”.

Il vero rischio non è che l’AI crei una capacità di attacco offensiva irresistibile che nessuna difesa possa sopportare. Il vero rischio è che l’AI acceleri e scalabilizzi lo sfruttamento delle debolezze ordinarie – le stesse che abbiamo lottato per risolvere per decenni – a un ritmo che supera la nostra capacità di chiuderle.

Il framing dell’AI come un’arma cibernetica distrae da questo. Incoraggia una mentalità di corsa agli armamenti quando ciò che è realmente necessario è una migliore igiene operativa, un rimedio più veloce e architetture più resilienti. La minaccia non è una nuova super-arma. Sono le vecchie lacune, sfruttate a una nuova velocità. Sì, il framing dell’AI come un’arma cibernetica è un’esagerazione significativa.

Guardando avanti, crede che la più grande minaccia alla sicurezza informatica dall’AI provenga da attacchi sofisticati di stati-nazione, sfruttamento autonomo su larga scala, abuso interno, vulnerabilità della catena di approvvigionamento o qualcos’altro a cui l’industria non sta prestando abbastanza attenzione?

Predire il futuro della sicurezza è sempre particolarmente difficile. Gli attacchi di stati-nazione, lo sfruttamento autonomo, l’abuso interno, la compromissione della catena di approvvigionamento – tutti questi sono minacce reali e in crescita, e non escluderei nessuno di loro. Ma arguirei che sono tutte conseguenze, non cause. Riescono quando i difensori non possono più tenere il passo, indipendentemente dal motivo: una vulnerabilità potrebbe non essere ancora pubblicamente nota, una patch potrebbe non essere ancora disponibile o il carico di lavoro potrebbe essere troppo alto.

E quell’ultimo aspetto è dove vedo il rischio principale guardando due o tre anni avanti: i team di sicurezza sopraffatti dal carico di lavoro.

Tutti gli argomenti attuali ed emergenti – regolamentazione, sovranità, infrastrutture cloud complesse e tutto ciò che ne consegue – stanno atterrando su team già tesi da triage di allarmi, risposta agli incidenti, analisi di phishing, gestione delle vulnerabilità e dei patch, documentazione, audit e reporting. Il carico di lavoro aggiunto da tutto ciò che l’AI potrebbe essere la pagliuzza che spezza la schiena del cammello.

E dato l’attuale situazione economica globale, tutto ciò sta colpendo le organizzazioni sotto una forte pressione di costo, a livello globale. Se non gestito estremamente bene, alla fine diventerà troppo.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Giesecke+Devrient.