Thorsten Delbrouck, Group CSO w Giesecke+Devrient – Wywiad z serii

Thorsten Delbrouck, Group CSO w Giesecke+Devrient, to doświadczony executive ds. cyberbezpieczeństwa z ponad dwudziestoletnim doświadczeniem w zabezpieczaniu infrastruktury przedsiębiorstw, tożsamości cyfrowych i krytycznych systemów. Od momentu dołączenia do Giesecke+Devrient (G+D) w 2011 roku jako Corporate Chief Information Security Officer, kierował globalną strategią bezpieczeństwa firmy w wysoko regulowanych sektorach, w tym finansach, telekomunikacji i infrastrukturze rządowej. W 2020 roku rozszerzył swoją rolę do Group Vice President, Head of Security and CISO. Delbrouck pełni również funkcję przewodniczącego Information Security Forum (ISF), wiodącej globalnej władzy w dziedzinie cyberbezpieczeństwa i zarządzania ryzykiem, oraz zajmował stanowiska kierownicze w firmach Infineon Technologies (IFX.SW ), COMLINE i TÜV Secure iT.

Giesecke+Devrient (G+D) to monachijska globalna firma SecurityTech, która ewoluowała z historycznej drukarni banknotów założonej w 1852 roku w firmę dostarczającą rozwiązania z zakresu bezpieczeństwa cyfrowego, technologii finansowych i infrastruktury walutowej. Firma działa w trzech podstawowych sektorach: Digital Security, Financial Platforms i Currency Technology, dostarczając technologie, które zabezpieczają łączność mobilną, tożsamości cyfrowe, systemy bankowe, platformy płatnicze oraz zarówno fizyczne, jak i cyfrowe waluty. G+D współpracuje z rządami, bankami centralnymi, instytucjami finansowymi i przedsiębiorstwami na całym świecie, w tym dostarczając rozwiązania dla eSIM, systemów uwierzytelniania, płatności cyfrowych, cyberbezpieczeństwa i Central Bank Digital Currencies (CBDC). Firma pozycjonuje się jako zaufany dostawca infrastruktury dla gospodarki cyfrowej, z ponad 14 000 pracownikami na całym świecie i dziesiątkami lat doświadczenia w zabezpieczaniu krytycznych systemów i ekosystemów finansowych.

Przez prawie trzy dekady pełniłeś role kierownicze w dziedzinie cyberbezpieczeństwa, obejmując TÜV Secure iT, Infineon i teraz ponad 15 lat w Giesecke+Devrient. Jak zmienił się krajobraz zagrożeń od tradycyjnych ryzyk bezpieczeństwa przedsiębiorstw do współczesnych wyzwań cyberbezpieczeństwa napędzanych przez sztuczną inteligencję, i co najbardziej niepokoi Cię w obecnej sytuacji w branży?

Uważam, że główną zmianą w trakcie mojej kariery jest szybkość i wpływ. Kiedy zacząłem zarządzanie bezpieczeństwem pod koniec lat 90., poważny problem bezpieczeństwa oznaczał nieprawidłowo skonfigurowaną zaporę sieciową lub niezaktualizowany serwer, a promień rażenia był zwykle dość ograniczony. W ciągu ostatnich trzech dekad widziałem, jak konsekwencje jednego naruszenia bezpieczeństwa rosły od niedogodności operacyjnej do ryzyka systemowego.

I wszystko to dzieje się szybciej. Mamy do czynienia z większą liczbą systemów i wyższymi przepustowościami. Dziś zaledwie połowa ruchu internetowego jest generowana przez ludzi – a według niektórych szacunków około 40% całkowitego ruchu składa się na działalność złośliwą, taką jak skanowanie, malware i ataki DDoS.

Jednocześnie krajobraz stał się silnie skonsolidowany i scentralizowany. Oryginalna filozofia projektowania internetu, opierająca się na redundancji i decentralizacji, została utracona. W efekcie ataki wymierzone w kilka centralnych punktów awarii mają znacznie bardziej niszczycielskie konsekwencje niż dawniej. Pozostawia to praktycznie żadnego miejsca na błąd w konfiguracji i eksploatacji nowoczesnych systemów IT. A teraz sztuczna inteligencja jeszcze bardziej kompresuje czas atakujących.

Ostatnie komentarze Dario Amodei wznowiły obawy dotyczące zaawansowanych systemów AI, które identyfikują luki w zabezpieczeniach oprogramowania na dużą skalę. Czy uważasz, że przedsiębiorstwa zaniżają tempo, w jakim rozwój wspomagany przez AI może przytłoczyć istniejące procesy bezpieczeństwa?

Tak, uważam, że wiele przedsiębiorstw zaniża tempo tej zmiany. Na początku wydawało się, że AI będzie korzystne zarówno dla atakujących, jak i obrońców, mniej więcej w równym stopniu. Ale pojawia się niepokojąca rzeczywistość: AI nie wymyślił całkowicie nowych kategorii cyberprzestępczości; zamiast tego udemokratyzował zaawansowane możliwości ataku, umożliwiając aktorom zagrożeń zautomatyzowanie rozpoznania, eliminację barier językowych w phishingu oraz odkrywanie luk w zabezpieczeniach oprogramowania w tempie i skali, której ludzcy obrońcy mają trudności z absorpcją.

Problem polega na tym, że podczas gdy AI wywołał ogromny wzrost identyfikacji luk, nie jest jeszcze w takim samym stopniu wdrożony w procesie naprawy. To tworzy niebezpieczną niesymetryę. Odkrywanie luk wspomagane przez AI produkuje po prostu więcej pracy, niż obrońcy mogą sobie poradzić. Może to się poprawić w ciągu kilku lat, gdy AI do naprawy dogoni, ale obecnie jest to rosnący problem.

Co więcej, nie jest to pozbawione ironii, że te same firmy, które prezentują swoje najnowsze modele jako zbawienie od cyberzagrożeń, jednocześnie napędzają część problemu. Narzędzia do kodowania wspomaganego przez AI przyspieszają produkcję oprogramowania, ale często wytwarzają słaby, podatny na ataki kod – rozszerzając tym samym atakowaną powierzchnię, której ich produkty bezpieczeństwa obiecują zmniejszyć. Z ekonomicznego punktu widzenia jest to genialne. Z punktu widzenia bezpieczeństwa, niekoniecznie.

W G+D oceniamy przypadki użycia AI w sposób ustrukturyzowany za pomocą AI Board i nie skalujemy ich w sposób niekontrolowany. Problemem nie jest AI per se – jest brak zarządzania jego wdrożeniem. To odpowiada zasadzie, której G+D również podąża wewnętrznie: AI wymaga nie tylko innowacji, ale także instytucjonalnych procesów oceny i zatwierdzania.

Wiele organizacji postrzega AI przede wszystkim jako narzędzie obronne w cyberbezpieczeństwie. Z Twojego punktu widzenia, gdzie AI obecnie tworzy więcej ryzyka niż ochrony w środowiskach przedsiębiorstw?

Największość zespołów ds. cyberbezpieczeństwa już wdrożyła AI w różnym stopniu do wykrywania, klasyfikowania, oceny i triażu zdarzeń bezpieczeństwa – i działa to niezwykle dobrze.

Jednak pojawiają się całkowicie nowe ryzyka obok tych korzyści. Luki w architekturze AI same w sobie są już szeroko dyskutowane i w większości zrozumiane. Nie zabezpieczamy już tylko statycznego kodu; zabezpieczamy nieustalone systemy. To wprowadza całkowicie nowe wektory zagrożeń, takie jak wstrzyknięcie podpowiedzi (gdzie złośliwe dane oszukują LLM, powodując, że ignoruje swoje barierki), zatrucie danych w celu skompromitowania logiki modelu podczas szkolenia oraz wyciek danych, gdzie własne dane przedsiębiorstwa są przypadkowo ujawniane przez dane wyjściowe modelu. To fundamentalnie zmienia definicję eksploitacji.

Ale nasze tradycyjne, dobrze ćwiczone obrony muszą się również dostosować. Dla wielu organizacji analiza zachowania użytkowników i jednostek (UEBA) jest ciągle dość nowym pojęciem. W rzeczywistości wiele firm jeszcze nie w pełni przyjęło tego podejścia ze względu na surowe przepisy dotyczące ochrony danych, surowe prawa pracy oraz prawa współdecydowania rad pracowników. Teraz podstawa się zmieniła i nie jest pewne, jak skuteczna będzie UEBA w przyszłości, w której AI może bezbłędnie uczyć się i naśladować ludzkie zachowania.

Przechodząc do przodu, czy UEBA będzie w stanie odróżnić zachowania ludzkie od ataków zautomatyzowanych, czy odróżnić nieszkodliwego agenta AI od złośliwego? Są już produkty, które obiecują to, ale zwykle zajmuje to trochę czasu, aby przejść od obietnic marketingowych do rzeczywistej, działającej wydajności. Będziemy potrzebować nowych koncepcji z nowoczesnymi architekturami bezpieczeństwa, aby rozwiązać to.

Jako przewodniczący Information Security Forum, angażujesz się z liderami ds. bezpieczeństwa w dużych przedsiębiorstwach na całym świecie. Czy CISO są coraz bardziej zaniepokojeni jakością kodu wygenerowanego przez AI, czy większym problemem jest operacyjne obciążenie zabezpieczaniem coraz większych baz kodu?

Oba problemy są realne, ale lądują inaczej. Jakość kodu wygenerowanego przez AI jest prawdziwą troską. Kod wygenerowany przez AI często wygląda czysto, ale może zawierać subtelne błędy logiczne, niebezpieczne domyślne ustawienia lub niewłaściwie użyte biblioteki, które są trudniejsze do wykrycia, ponieważ wydają się prawdopodobne. CISO mają słuszne obawy co do tego.

Ale w moich rozmowach z ekspertami ds. bezpieczeństwa w organizacjach członkowskich ISF głośniejszym alarmem jest operacyjny: to ogromna ilość kodu, który może zawierać luki i wymaga sprawdzenia.

Co słyszę konsekwentnie od moich kolegów z różnych branż, to problem zależności. Ciężka zależność od składników zewnętrznych i bibliotek trzecich oznacza, że każda zależność musi być starannie śledzona, zarządzana i ciągle łatana. W kodzie, a także w łańcuchu narzędzi, potencjalnie w różnych środowiskach chmurowych. To już było znaczącym wyzwaniem. Rozwój wspomagany przez AI teraz powoduje jego nasilenie. Nie dlatego, że natura problemu się zmieniła, ale dlatego, że skala wybuchła. Więcej kodu, produkowanego szybciej, z większą liczbą zależności, w większej liczbie repozytoriów.

Więc gdybym miał priorytet: jakość kodu jest rozwiązywalnym problemem inżynierskim – lepsze narzędzia, surowsze przeglądy, ściślejsze barierki w procesie rozwoju. Operacyjne obciążenie zabezpieczaniem coraz większej bazy kodu i jej rozprzestrzeniających się łańcuchów zależności jest bardziej strukturalnym, bardziej trwałym wyzwaniem. To tam leży prawdziście nacisk, i to jest to, co pojawia się powtarzalnie w senior CISO dyskusjach.

Giesecke+Devrient działa w wysoko wrażliwych sektorach, w tym tożsamości cyfrowej, płatności, infrastruktury bankowej, technologii eSIM oraz walut cyfrowych banków centralnych. Jak zabezpieczanie krytycznej infrastruktury różni się w erze AI w porównaniu z ochroną tradycyjnych systemów przedsiębiorstw?

W G+D mamy te same podstawowe odpowiedzialności, co każda organizacja, która traktuje bezpieczeństwo poważnie. Jednak nasze standardy są wyjątkowo wysokie, a margines błędu jest bardzo mały. Jesteśmy żywo świadomi, że incydent bezpieczeństwa w naszej infrastrukturze niesie znacznie dalsze konsekwencje niż naruszenie w typowym przedsiębiorstwie – dlatego nasz apetyt na ryzyko cyberbezpieczeństwa jest wyjątkowo niski.

Gdzie AI dodaje wyraźną warstwę złożoności dla nas, to w samej architekturze operacyjnej. Wiele z naszych wysoko bezpiecznych komponentów, szczególnie tych związanych z systemami płatniczymi, tożsamościami cyfrowymi lub produktami dla banków centralnych, są wysoko cennymi aktywami i podlegają surowym wymogom certyfikacji i bezpieczeństwa. Te komponenty muszą być rozwijane, testowane i eksploatowane w oddzielnych środowiskach, od logicznej separacji po pełne sieci odizolowane bez żadnej łączności zewnętrznej.

To już było wymagające przed AI, ale teraz organizacje na całym świecie integrują narzędzia wspomagane przez AI w swoje procesy rozwoju i operacyjne. Narzędzia, które zwykle zależą od łączności chmurowej, dostępu do dużych zbiorów danych i ciągłych aktualizacji modeli. Ugodzenie tego z środowiskami, w których nawet kabel sieciowy włożony do niewłaściwego portu byłby poważnym naruszeniem polityki, jest bardzo realnym wyzwaniem inżynierskim i zarządczym.

Zmusza nas to do bycia bardzo intencjonalnymi w naszej integracji AI. Nie wybieramy po prostu odpowiedniego modelu AI, podejmujemy strategiczne decyzje na poziomie infrastruktury dotyczące tego, czy te narzędzia muszą być wdrożone lokalnie, czy mogą być używane za pośrednictwem chmury.

Widzimy szybką adopcję kodowania wspomaganego przez AI i agentów rozwoju autonomicznego. Czy oczekujesz, że przedsiębiorstwa będą wymagać, aby wygenerowany przez AI kod przeszedł oddzielny proces walidacji i certyfikacji przed wdrożeniem?

Uważam, że nie powinno się rozstrzygać o tym, czy kod został napisany przez człowieka, czy AI. Decydującym kryterium jest ryzyko. Ale kod wygenerowany przez AI na pewno będzie wymagał pochodzenia, śledzenia i surowszych przeglądów w środowiskach regulowanych lub o wysokim poziomie bezpieczeństwa.

Modelowanie zagrożeń, polityki kodowania bezpiecznego i włączanie narzędzi SAST do łańcucha narzędzi rozwojowych jest już standardową praktyką dzisiaj, a narzędzia stają się naturalnie ulepszane przez AI. Ponadto zespoły rozwojowe muszą starannie śledzić, które funkcjonalności są krytyczne dla bezpieczeństwa lub należą do regulowanych, wysoko wrażliwych komponentów. Poza tym podstawowe zależności muszą być gruntownie zrozumiane i ciągle testowane.

Ekonomia z pewnością odegra coraz ważniejszą rolę. Obecnie cena tokenów od głównych dostawców AI nie jest pokrywana kosztami. Główni dostawcy AI ponoszą ogromne deficyty infrastruktury i inferencji, aby zabezpieczyć udział w rynku. Subsydiowany model, który nie jest ekonomicznie uzasadniony na dłuższą metę. Kiedy komercyjne koszty wdrożenia AI w procesy korporacyjne zostaną skorygowane w górę, aby odzwierciedlić te prawdziwe wydatki infrastrukturalne, będziemy mieli problem. W tym momencie branża będzie musiała przesunąć się w stronę mniejszych, zlokalizowanych i opracowanych na potrzeby modeli. Szkolenie tych mniejszych modeli do ukierunkowanych przypadków użycia stanie się kluczową strategią, aby złagodzić poważny wzrost kosztów.

I dla kategorii o najwyższych wymaganiach bezpieczeństwa nadzór ludzki pozostanie obligatoryjnym, a to właśnie tam leży wyzwanie: wykorzystanie skończonej ludzkiej zdolności w sposób jak najbardziej efektywny.

Systemy AI mogą teraz identyfikować luki znacznie szybciej niż analitycy ludzcy, ale naprawa nadal zależy głównie od ludzkich workflow. Czy przedsiębiorstwa zbliżają się do punktu, w którym samo zarządzanie poprawkami musi stać się autonomiczne?

Tak, autonomiczne zarządzanie poprawkami nie jest już luksusem – jest koniecznością operacyjną. Ogromna ilość luk dzisiaj po prostu przekracza ludzką zdolność do triażu.

Powiedzmy, że wdrożenie musi nastąpić w stopniowy, pragmatyczny sposób. Dla standardowych, niekrytycznych środowisk pełna automatyzacja powinna być w pełni osiągalna, o ile odpowiednie barierki są na miejscu. Pełna automatyzacja naprawy w krytycznych, wysoko wpływowych systemach, chociaż absolutnie konieczna, będzie najprawdopodobniej nadal dość trudna do wdrożenia w najbliższej przyszłości.

To, gdzie podstawy naprawdę mają znaczenie. Rozróżnienie między tymi dwoma kategoriami brzmi prosto, ale w praktyce wymaga ogromnej ilości precyzyjnej, szczegółowej i ciągłej pracy domowej, aby działać w złożonym środowisku z takimi rozbieżnymi podejściami w sposób czysty i zautomatyzowany. Ta praca jest łatwa do zaniżenia.

Rzeczywiste wyzwanie, tak jak to często bywa, nie leży w mechanicznym wykonaniu samego procesu – leży w szerszym systemie. Inteligentne podejmowanie decyzji jest możliwe tylko wtedy, gdy cały system je wspiera. Zarządzanie poprawkami musi stać się znacznie mądrzejsze i szybsze, a nie tylko bardziej zautomatyzowane.

I, jak zawsze: w kontekstach wysoko wrażliwych stabilność i wysoka wydajność muszą iść w parze. To napięcie jest trudną częścią – i częścią, na którą większość organizacji jeszcze nie jest gotowa.

Rządy na całym świecie ścigają się, aby wdrożyć systemy tożsamości cyfrowej, waluty cyfrowej banków centralnych i połączonej infrastruktury. Jak bardzo martwisz się, że AI-napędzane cyberzagrożenia mogą wyprzedzić przygotowanie regulacyjne i bezpieczeństwa narodowego?

Ramy regulacyjne, takie jak NIS2 i Cyber Resilience Act, pchają sprawy w dobrym kierunku, ale regulacja jest ostatecznie tylko jednym elementem układanki. Regulacja ma znaczenie dla całego systemu, ale nie możemy założyć, że wydanie przepisu od razu rozwiązuje problem. Firmy nadal muszą wdrożyć wytyczne, utrzymać swoje systemy na stałe bezpieczne i zachować solidne zrozumienie swojego krajobrazu zagrożeń i celów ochrony, nieustannie doskonalić je i utrzymywać zgodność.

Jestem ostrożnie optymistyczny, o ile organizacje nie traktują zgodności regulacyjnej jako substytutu dla prawdziwego bezpieczeństwa. I nowoczesne zarządzanie bezpieczeństwem nie czeka na regulację. Jeśli cokolwiek, powinno być odwrotnie: najlepsza praktyka świata rzeczywistego powinna płynąć do regulacji, a nie odwrotnie.

W domenach o wysokim poziomie bezpieczeństwa, takich jak tożsamość cyfrowa i infrastruktura płatnicza, gotowość operacyjna nie jest dana. G+D nie jest tylko dostawcą, ale także partnerem dialogowym dla banków centralnych i rządów na całym świecie. G+D jest również aktywnie zaangażowana w ochronę krytycznych cyfrowych infrastruktur – na przykład za pośrednictwem Secunet jako partnera IT bezpieczeństwa Republiki Federalnej Niemiec.

Niektórzy eksperci opisują zaawansowane modele AI jako „cyberbronie”, podczas gdy inni twierdzą, że taki opis jest przesadzony. Z Twojego punktu widzenia, co ludzie źle rozumieją, jeśli chodzi o realne ryzyko, jakie niosą zaawansowane systemy AI?

Co ludzie źle rozumieją, to założenie, że cyberkonflikty podążają za logiką wojny fizycznej. Że wystarczająco potężna broń zawsze przełamie każdą obronę. Większość ramy „cyberbroni” pochodzi z tego samego kineticznego myślenia: większy armat przewyższa grubsze mury, inteligentniejszy pocisk przewyższa szybszy samolot. Ale cyberwojna nie działa w ten sposób.

Udana cyberataka prawie nigdy nie udaje się dzięki sile rażenia. Udaje się dzięki wykorzystaniu luki: nieprawidłowej konfiguracji, niezłatanej luki, błędu ludzkiego, słabego ogniwa w łańcuchu dostaw. AI nie zmienia tej podstawowej dynamiki. Czyni poszukiwanie tych luk szybszym i tańszym, oraz obniża próg umiejętności potrzebnych do ich wykorzystania. To jest poważny problem, ale jest to zupełnie inny problem niż narracja o „niepowstrzymanej broni”.

Rzeczywiste ryzyko nie polega na tym, że AI tworzy jakąś niepokonalną zdolność ofensywną, której żadna obrona nie może się oprzeć. Rzeczywiste ryzyko polega na tym, że AI przyspiesza i skaluje eksploatację zwykłych słabości – tych samych, z którymi od dziesięcioleci się męczymy – w tempie, które przewyższa naszą zdolność do ich zamykania.

Opisywanie AI jako cyberbroni odwraca uwagę od tego. Zachęca do myślenia w kategoriach wyścigu zbrojeń, kiedy tak naprawdę potrzebne jest lepsze operacyjne higieniczne, szybsza naprawa i bardziej wytrzymałe architektury. Zagrożenie nie jest nową superbronią. To stare luki, eksploatowane w nowym tempie. Tak więc, opisywanie AI jako cyberbroni jest znaczącym przesadzeniem.

Spoglądając w przyszłość, uważasz, że największe cyberzagrożenie związane z AI pochodzić będzie z zaawansowanych ataków państwowych, autonomicznej eksploatacji na dużą skalę, nadużyć wewnętrznych, podatności łańcucha dostaw, czy czegoś, na co branża jeszcze nie zwraca wystarczającej uwagi?

Przewidywanie przyszłości bezpieczeństwa jest zawsze szczególnie trudne. Ataki państwowe, autonomiczna eksploatacja, nadużycia wewnętrzne, kompromitacja łańcucha dostaw – wszystkie te są realnymi i rosnącymi zagrożeniami, i nie odrzucę żadnego z nich. Ale powiedziałbym, że wszystkie te są konsekwencjami, a nie przyczynami. Udają się, kiedy obrońcy nie mogą już dłużej nadążyć, niezależnie od powodu: luka może nie być jeszcze publicznie znana, łata może nie być jeszcze dostępna, lub obciążenie pracy może być po prostu zbyt wysokie.

I to ostatnie aspekt, gdzie widzę największe ryzyko, patrząc dwa do trzech lat do przodu: zespoły ds. bezpieczeństwa będą przytłoczone przez samą ilość pracy.

Wszystkie bieżące i pojawiające się tematy – regulacja, suwerenność, złożone infrastruktury chmurowe i wszystko, co z tym się wiąże – lądują na zespołach, które są już rozciągnięte do granic przez triaż alertów, odpowiedź na incydenty, analizę phishingu, zarządzanie lukami i łatami, dokumentację, audyty i raportowanie. Praca dodana przez wszystko, co AI może być słomą, która złamie grzbiet camela. Z wyjątkiem tego, że jest to o wiele, wiele więcej niż tylko słomą.

I biorąc pod uwagę obecna sytuację gospodarczą na świecie, wszystko to uderza w organizacje pod realnym ciśnieniem kosztów, w każdym miejscu. Jeśli to nie będzie zarządzane niezwykle dobrze, ostatecznie stanie się zbyt wiele.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Giesecke+Devrient.