Thorsten Delbrouck, Group CSO la Giesecke+Devrient – Seria de interviuri

Thorsten Delbrouck, Group CSO la Giesecke+Devrient, este un veteran în domeniul securității cibernetice, cu peste două decenii de experiență în securizarea infrastructurii întreprinderilor, identităților digitale și sistemelor critice. De la aderarea la Giesecke+Devrient (G+D) în 2011, în calitate de Corporate Chief Information Security Officer, el a condus strategia globală de securitate a companiei în sectoare puternic reglementate, inclusiv finanțe, telecomunicații și infrastructură guvernamentală. În 2020, el și-a extins rolul la Group Vice President, Head of Security și CISO. Delbrouck servește, de asemenea, ca președinte al Information Security Forum (ISF), o autoritate globală de top în domeniul securității cibernetice și managementului riscului, și a deținut funcții de conducere în domeniul securității la Infineon Technologies (IFX.SW ), COMLINE și TÜV Secure iT.

Giesecke+Devrient (G+D) este o companie globală de SecurityTech, cu sediul în München, care a evoluat de la o tipografie istorică de bancnote fondată în 1852 într-un furnizor major de soluții de securitate digitală, tehnologie financiară și infrastructură de valută. Compania operează în trei segmente principale: Securitate Digitală, Platforme Financiare și Tehnologie de Valută, oferind tehnologii care asigură conectivitatea mobilă, identitățile digitale, sistemele bancare, platformele de plată și atât valutele fizice, cât și cele digitale. G+D lucrează cu guverne, bănci centrale, instituții financiare și întreprinderi din întreaga lume, oferind soluții pentru eSIM, sisteme de autentificare, plăți digitale, securitate cibernetică și monede digitale ale băncilor centrale (CBDC). Compania se poziționează ca un furnizor de infrastructură de încredere pentru economia digitală, cu peste 14.000 de angajați la nivel global și decenii de expertiză în securizarea sistemelor critice și a ecosistemelor financiare.

Ați petrecut aproape trei decenii în roluri de conducere în securitatea cibernetică, care acoperă TÜV Secure iT, Infineon și acum peste 15 ani la Giesecke+Devrient. Cum s-a schimbat peisajul amenințărilor de la riscurile de securitate tradiționale ale întreprinderilor la provocările cibernetice conduse de IA de astăzi, și ce vă îngrijorează cel mai mult despre direcția actuală a industriei?

Cred că principala schimbare de-a lungul carierei mele este viteza și impactul. Când am început să lucrez în managementul securității la sfârșitul anilor 1990, o problemă de securitate gravă însemna o configurare greșită a unui firewall sau un server neactualizat, raza de acțiune fiind de obicei destul de limitată. De-a lungul ultimelor trei decenii, am văzut consecințele unei singure încălcări crescând de la o inconvenientă operațională la un risc sistemic.

Și totul este mai rapid. Ne confruntăm cu mai multe sisteme și benză de transfer mai mare. Astăzi, mai puțin de jumătate din toate traficurile de internet sunt generate de oameni – și, potrivit unor estimări, aproximativ 40% din traficul total constă în activități malicioase, cum ar fi scanări malicioase, malware și atacuri DDoS.

În același timp, peisajul a devenit puternic consolidat și concentrat. Filozofia de proiectare originală a internetului, care se baza pe redundanță și descentralizare, a fost pierdută. Ca urmare, atacurile care vizează doar câteva puncte centrale de eșec au consecințe mult mai devastatoare decât în trecut. Acest lucru lasă practic niciun spațiu pentru eroare în configurarea și exploatarea sistemelor IT moderne. Și acum IA comprimă cronologia atacatorilor și mai mult.

Comentariile recente ale lui Dario Amodei au reînviat temerile legate de sistemele avansate de IA care identifică vulnerabilități de software la scară largă. Credeți că întreprinderile subestimează cât de repede dezvoltarea asistată de IA ar putea copleși procesele de securitate existente?

Da, cred că multe întreprinderi subestimează viteza acestei schimbări. La început, părea că IA ar beneficia ambele părți, atacatorii și apărătorii, aproximativ în mod egal. Dar o realitate îngrijorătoare este în curs de apariție: IA nu a inventat categorii complet noi de criminalitate cibernetică; în schimb, a democratizat capacitățile de atac sofisticate, permițând actorilor amenințători să automatizeze recunoașterea, să elimine barierele lingvistice în phishing și să descopere vulnerabilități de software la o viteză și o scară la care apărătorii umani se luptă să țină pasul.

Problema este că, în timp ce IA a declanșat o creștere masivă a identificării vulnerabilităților, nu este încă utilizată în aceeași măsură în procesul de remediere. Acest lucru creează un dezechilibru periculos. Descoperirea asistată de IA a vulnerabilităților produce pur și simplu mai multă muncă decât apărătorii pot gestiona. Acest lucru poate fi îmbunătățit în câțiva ani, odată ce remedierea asistată de IA va prinde din urmă, dar pentru moment este o problemă în creștere.

În plus, nu este lipsit de ironie faptul că aceleași companii care prezintă modelele lor ca salvare de la amenințările cibernetice sunt, în același timp, alimentând o parte a problemei. Uneltele de codare asistate de IA accelerează producția de software, dar adesea produc cod vulnerabil și neglijent – extinzând suprafața de atac pe care produsele lor de securitate promit să o reducă. Din punct de vedere economic, acest lucru este genial. Din punct de vedere al securității, nu prea.

La G+D, evaluăm cazurile de utilizare a IA în mod structurat, prin intermediul unui Consiliu de Administrație AI, și nu le extindem în mod necontrolat. Problema nu este IA în sine – ci lipsa de guvernanță în implementarea sa. Acest lucru se aliniază cu principiul pe care G+D îl aplică și intern: IA necesită nu numai inovație, ci și procese instituționalizate de evaluare și aprobare.

Multe organizații privesc IA în primul rând ca un instrument de securitate cibernetică defensivă. Din punctul dvs. de vedere, unde IA creează în prezent mai mult risc decât protecție în interiorul mediilor întreprinderilor?

Majoritatea echipelor de securitate cibernetică utilizează deja IA în diferite moduri pentru detectarea, clasificarea, evaluarea și trierea evenimentelor de securitate – și funcționează remarcat de bine.

Însă, riscuri complet noi apar alături de aceste beneficii. Vulnerabilitățile native arhitecturii IA însele sunt deja discutate pe scară largă și în mare măsură înțelese. Nu mai protejăm doar cod static; protejăm sisteme nedeterminate. Acest lucru introduce vectori de atac complet noi, cum ar fi injecția de prompt (în care datele malicioase păcălesc un model LLM să ignore barajele sale), otrăvirea datelor pentru a corupe logica modelului în timpul antrenamentului și scurgerea de date, în care datele proprietare ale întreprinderii sunt expuse accidental prin ieșirile modelului. Acest lucru schimbă fundamental definiția unei exploatații.

Însă, apărările noastre tradiționale, bine exersate, trebuie să se adapteze, de asemenea. Pentru multe organizații, Analiza Comportamentului Utilizatorilor și Entităților (UEBA) este încă un concept relativ nou. De fapt, multe companii nu au adoptat încă pe deplin această abordare din cauza regulamentelor stricte de confidențialitate a datelor, legilor stricte ale muncii și drepturilor de coparticipare ale consiliilor lucrătorilor. Acum, baza a fost schimbată și este incert dacă UEBA va rămâne la fel de eficientă într-un viitor în care IA poate învăța și imita cu ușurință comportamentul uman.

Înainte, vom putea UEBA să distingă comportamentul uman de atacurile automate, sau să recunoască un agent AI benign de unul malign? Există deja produse care promit exact asta, dar de obicei durează ceva timp până când promisiunile de marketing devin performanță reală și funcțională. Avem nevoie de noi concepte cu arhitecturi de securitate moderne pentru a aborda această problemă.

Ca președinte al Information Security Forum, vă implicați cu lideri de securitate de-a lungul marilor întreprinderi globale. Sunt CISO-ii din ce în ce mai îngrijorați de calitatea codului generat de IA, sau problema mai mare este povara operațională a securizării unor coduri mult mai mari?

Ambele probleme sunt reale, dar au un impact diferit. Calitatea codului generat de IA este o preocupare legitimă. Codul pe care IA îl produce adesea arată curat, dar poate conține defecte subtile de logică, setări de securitate incorecte sau biblioteci utilizate în mod incorect, care sunt mai greu de detectat, tocmai pentru că par plauzibile. CISO-ii sunt îndreptățiți să se îngrijoreze în legătură cu acest lucru.

Însă, în conversațiile mele cu experți în securitate din cadrul organizațiilor membre ISF, alarma mai puternică este operațională: este volumul uriaș de cod care ar putea conține vulnerabilități și, prin urmare, trebuie verificat.

Ceea ce aud în mod constant de la colegii mei din diverse industrii este că problema dependenței a devenit povara definitorie. Dependența puternică de componente externe și biblioteci terțe înseamnă că fiecare dependență trebuie urmărită, gestionată și actualizată cu atenție. În cod, dar și în lanțul de instrumente, posibil chiar și în medii de cloud diferite. Acesta era deja un challenge semnificativ. Dezvoltarea asistată de IA amplifică acum această problemă. Nu pentru că natura problemei s-a schimbat, ci pentru că scara a explodat. Mai mult cod, produs mai rapid, cu mai multe dependențe, în mai multe depozite.

Deci, dacă aș trebui să prioritizez: calitatea codului este o problemă de inginerie rezolvabilă – unelte mai bune, revizuiri mai stricte, garduri mai stricte în pipeline-ul de dezvoltare. Povara operațională a securizării unui cod mult mai mare și a lanțurilor sale de dependențe este provocarea mai structurală, mai persistentă. Acolo este presiunea reală, și acolo este ceea ce apare în mod repetat în discuțiile seniorilor CISO.

Giesecke+Devrient operează în sectoare extrem de sensibile, inclusiv identitate digitală, plăți, infrastructură bancară, tehnologie eSIM și monede digitale ale băncilor centrale. Cum se diferențiază securizarea infrastructurii critice în era IA, comparativ cu protejarea sistemelor tradiționale ale întreprinderilor?

La G+D, ne confruntăm cu aceleași responsabilități de bază ca orice organizație care ia securitatea în serios. Cu toate acestea, standardele noastre sunt excepțional de ridicate, iar marja de eroare este foarte mică. Suntem conștienți că un incident de securitate în cadrul infrastructurii noastre are implicații mult mai ample decât o încălcare a securității la o întreprindere tipică – și de aceea avem o poftă de risc extrem de scăzută pentru securitatea cibernetică.

Unde IA adaugă o nouă complexitate pentru noi este în arhitectura operațională însăși. Multe dintre componentele noastre de securitate de înaltă calitate, în special cele legate de sisteme de plată, identități digitale sau produse pentru bănci centrale, sunt active de valoare ridicată și fac obiectul unor cerințe stricte de certificare și securitate. Aceste componente trebuie dezvoltate, testate și operate în medii separate, variind de la separarea logică pură până la rețele complet izolate, fără nicio conectivitate externă.

Acest lucru era deja solicitant înainte de IA, dar acum organizațiile de pretutindeni integrează unelte asistate de IA în fluxurile lor de dezvoltare și operare. Unelte care, de obicei, depind de conectivitatea cloud, accesul la date pe scară largă și actualizări continue ale modelului. A reconcilia acest lucru cu medii în care chiar și un cablu de rețea conectat la portul greșit ar fi o încălcare gravă a politicii este o provocare inginerică și de guvernanță foarte reală.

Ne obligă să fim extrem de intenționați cu privire la integrarea noastră de IA. Nu alegem doar modelul de IA potrivit, ci luăm decizii strategice la nivel de infrastructură cu privire la dacă aceste unelte trebuie să fie implementate local sau pot fi utilizate prin cloud.

Avem o adoptare rapidă a copiloților de codare AI și a agenților de dezvoltare autonomi. Credeți că întreprinderile vor necesita în cele din urmă ca codul generat de IA să treacă printr-un proces de validare și certificare separat înainte de implementare?

Cred că criteriul decisiv nu ar trebui să fie dacă codul a fost scris de un om sau de o mașină. Criteriul decisiv este riscul. Dar codul generat de IA va necesita, cu siguranță, proveniență, trasabilitate și o revizuire mai strictă în medii reglementate sau de securitate ridicată.

Modelarea amenințărilor, politici de codare securizată și integrarea uneltelor SAST în lanțul de instrumente de dezvoltare este deja o practică standard astăzi, iar uneltele devin în mod natural îmbunătățite de IA. În plus, echipele de dezvoltare trebuie să urmărească cu atenție care funcționalități sunt critice pentru securitate sau aparțin componentelor reglementate și extrem de sensibile. Dincolo de aceasta, dependențele subiacente trebuie înțelese și testate în mod continuu.

Aspectele economice vor juca, în mod inevitabil, un rol din ce în ce mai critic. În prezent, prețurile tokenului de la principalii furnizori de IA nu acoperă costurile. Furnizorii de IA majori absorb deficite uriașe de infrastructură și de inferență pentru a-și asigura cota de piață. Un model subvenționat care nu este sustenabil pe termen lung. Când costurile comerciale ale implementării IA în fluxurile de lucru corporative vor fi ajustate în sus pentru a reflecta aceste cheltuieli reale de infrastructură, vom avea o problemă. În acel moment, industria va trebui să se orienteze către modele mai mici, localizate și specializate pentru uzuri specifice. Antrenarea acestor modele mai mici pentru uzuri specifice va deveni o strategie vitală pentru a atenua creșterile severe de cost.

Și pentru categoriile cu cele mai mari cerințe de securitate, supravegherea umană va rămâne obligatorie, și acolo este exact locul în care se află provocarea: utilizarea capacității umane finite în mod cât mai eficient posibil.

Sistemele de IA pot identifica acum vulnerabilități mult mai rapid decât analiștii umani, dar remedierea depinde încă în mare măsură de fluxurile de lucru umane. Suntem pe cale să ajungem la un moment în care gestionarea corecțiilor trebuie să devină autonomă?

Da, gestionarea corecțiilor autonome nu mai este un lux – este o necesitate operațională. Volumul uriaș de vulnerabilități de astăzi depășește pur și simplu capacitatea de triaj uman.

Spun asta, dar cred că implementarea trebuie să urmeze o abordare pragmatică, treptată. Pentru medii standard, ne-critice, automatizarea completă ar trebui să fie pe deplin realizabilă, cu condiția să existe garduri adecvate în loc. Remedierea complet autonomă în sisteme critice, cu impact ridicat, deși este necesară, va fi probabil foarte dificil de implementat în viitorul previzibil.

Acesta este locul în care fundamentele contează cu adevărat. Distincția dintre aceste două categorii sună simplă, dar în practică necesită o cantitate enormă de muncă de întreținere precisă, detaliată și susținută pentru a opera un mediu complex cu abordări atât de divergente într-un mod curat și automatizat. Această muncă este ușor de subestimat.

Provocarea reală nu este executarea mecanică a procesului în sine – ci sistemul în ansamblu. Luarea deciziilor inteligente este posibilă doar atunci când întregul sistem o susține. Gestionarea corecțiilor trebuie să devină semnificativ mai inteligentă și mai rapidă, nu doar mai automatizată.

Și, ca întotdeauna: în contexte extrem de sensibile, stabilitatea controlată și viteza ridicată trebuie să meargă mână în mână. Acesta este partea grea – și partea pentru care majoritatea organizațiilor nu sunt încă pregătite.

Guvernele de pe tot globul se grăbesc să implementeze sisteme de identitate digitală, monede digitale ale băncilor centrale și infrastructuri conectate. Cât de îngrijorat sunteți că amenințările cibernetice conduse de IA ar putea depăși pregătirea de reglementare și securitate națională?

Cadrele de reglementare, cum ar fi NIS2 și Legea privind Reziliența Cibernetică, împing lucrurile în direcția cea bună, dar reglementarea este, în cele din urmă, doar o parte a puzzle-ului. Reglementarea contează pentru sistemul în ansamblu, dar nu putem presupune că emiterea unei reguli rezolvă imediat problema. Companiile trebuie încă să implementeze ghidurile, să-și păstreze sistemele permanent securizate și să mențină o înțelegere solidă a peisajului amenințărilor și a țintelor de protecție, să le rafineze în mod continuu și să le țină aliniate.

Sunt moderat optimist, cu condiția ca organizațiile să nu trateze conformitatea cu reglementarea ca un substitut pentru securitatea reală. Și managementul securității moderne nu așteaptă reglementarea. Dacă ceva, ar trebui să fie invers: cea mai bună practică din lumea reală ar trebui să curgă în reglementare, nu invers.

În domenii de securitate ridicată, cum ar fi identitatea digitală și infrastructura de plată, pregătirea operațională nu este dată. G+D nu este doar un furnizor aici, ci și un partener de dialog pentru bănci centrale și guverne de pe tot globul. G+D este, de asemenea, implicat activ în protejarea infrastructurilor digitale critice – de exemplu, prin Secunet, partener de securitate IT al Republicii Federale Germania.

Unii experți descriu modelele avansate de IA ca “arme cibernetice”, în timp ce alții consideră că această caracterizare este exagerată. Din perspectiva dvs., ce nu înțeleg oamenii despre riscurile reale pe care le prezintă sistemele de IA de frontieră?

Ceea ce oamenii nu înțeleg este presupunerea că conflictele cibernetice urmează logica războiului fizic. Că o armă suficient de puternică va străpunge orice apărare. Mult din cadrul “armelor cibernetice” împrumută din mintea cinetică: tunul mai mare bate peretele mai gros, racheta mai inteligentă bate avionul mai rapid. Dar cibernetica nu funcționează așa.

Un atac cibernetic de succes aproape niciodată nu reușește prin forță brută. Reușește prin exploatarea unei breșe: o configurare greșită, o vulnerabilitate neactualizată, o eroare umană, un punct slab în lanțul de aprovizionare. IA nu schimbă această dinamică fundamentală. Ea face căutarea acestor breșe mai rapidă și mai ieftină, și reduce pragul de abilitate necesar pentru a le exploata. Acesta este un problemă serioasă, dar este una foarte diferită de narativa “armei de neatins”.

Riscul real nu este că IA creează o capacitate ofensivă atât de puternică, încât nicio apărare nu o poate rezista. Riscul real este că IA accelerează și amplifică exploatarea slăbiciunilor obișnuite – aceleași pe care le-am luptat să le remediem de decenii – la o viteză care depășește capacitatea noastră de a le închide.

Caracterizarea IA ca armă cibernetică distruge atenția de la acest lucru. Încurajează o mentalitate de curse a înarmărilor, când ceea ce este realmente necesar este o igienă operațională mai bună, o remediere mai rapidă și arhitecturi mai rezistente. Amenințarea nu este o armă superioară. Sunt breșele vechi, exploatate la o viteză nouă. Deci, da, caracterizarea IA ca armă cibernetică este o exagerare semnificativă.

Privind înainte, credeți că cea mai mare amenințare la securitatea cibernetică din partea IA va veni din atacuri sofisticate ale statelor, exploatarea autonomă la scară largă, abuzul intern, vulnerabilitățile lanțului de aprovizionare, sau ceva la care industria nu acordă încă suficientă atenție?

Prognozarea viitorului securității este întotdeauna deosebit de dificilă. Atacurile statelor, exploatarea autonomă, abuzul intern, compromiterea lanțului de aprovizionare – toate acestea sunt amenințări reale și în creștere, și nu aș minimaliza niciuna dintre ele. Dar aș argumenta că toate acestea sunt consecințe, nu cauze. Ele reușesc atunci când apărătorii nu mai pot ține pasul, indiferent de motiv: o vulnerabilitate poate să nu fie încă cunoscută public, un patch poate să nu fie disponibil, sau sarcina de lucru poate fi prea mare.

Și acolo este unde văd riscul principal, privind în următorii doi sau trei ani: echipelor de securitate cibernetice fiind copleșite de volumul de muncă.

Toate subiectele actuale și emergente – reglementarea, suveranitatea, infrastructurile cloud complexe și tot ceea ce vine cu ele – se adaugă echipelor care sunt deja întinse la maximum de triajul alertelor, răspunsul la incidente, analiza phishing-ului, gestionarea vulnerabilităților și a patch-urilor, documentație, audituri și raportare. Volumul de muncă adăugat de tot ceea ce IA ar putea fi paiul care sparge spinarea cămilei. Exceptând faptul că este mult, mult mai mult decât doar un pai.

Și, având în vedere situația economică globală actuală, toate acestea lovesc organizațiile sub presiunea reală a costurilor, pe tot globul. Dacă acest lucru nu este gestionat extrem de bine, va deveni în cele din urmă prea mult.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe ar trebui să viziteze Giesecke+Devrient.