Thorsten Delbrouck, Group CSO di Giesecke+Devrient – Seri Wawancara

Thorsten Delbrouck, Group CSO di Giesecke+Devrient, adalah seorang eksekutif keamanan siber veteran dengan lebih dari dua dekade pengalaman dalam mengamankan infrastruktur perusahaan, identitas digital, dan sistem kritis. Sejak bergabung dengan Giesecke+Devrient (G+D) pada 2011 sebagai Corporate Chief Information Security Officer, ia telah memimpin strategi keamanan global perusahaan di sektor yang sangat teratur, termasuk keuangan, telekomunikasi, dan infrastruktur pemerintah. Pada 2020, ia memperluas perannya menjadi Group Vice President, Head of Security and CISO. Delbrouck juga menjabat sebagai Ketua Forum Keamanan Informasi (ISF), otoritas global terkemuka dalam keamanan siber dan manajemen risiko, dan telah memegang peran kepemimpinan keamanan senior di Infineon Technologies, COMLINE, dan TÜV Secure iT.

Giesecke+Devrient (G+D) adalah perusahaan SecurityTech global yang berbasis di Munich, yang telah berkembang dari percetakan banknote historis yang didirikan pada 1852 menjadi penyedia utama solusi keamanan digital, teknologi keuangan, dan infrastruktur mata uang. Perusahaan ini beroperasi di tiga segmen inti: Keamanan Digital, Platform Keuangan, dan Teknologi Mata Uang, mengirimkan teknologi yang mengamankan koneksi mobile, identitas digital, sistem perbankan, platform pembayaran, dan mata uang fisik dan digital. G+D bekerja dengan pemerintah, bank sentral, lembaga keuangan, dan perusahaan di seluruh dunia, termasuk menyediakan solusi untuk eSIM, sistem autentikasi, pembayaran digital, keamanan siber, dan Mata Uang Digital Bank Sentral (CBDC). Perusahaan ini memposisikan diri sebagai penyedia infrastruktur tepercaya untuk ekonomi digital, dengan lebih dari 14.000 karyawan di seluruh dunia dan dekade-dekade keahlian dalam mengamankan sistem kritis dan ekosistem keuangan.

Anda telah menghabiskan hampir tiga dekade dalam peran kepemimpinan keamanan siber yang meliputi TÜV Secure iT, Infineon, dan sekarang lebih dari 15 tahun di Giesecke+Devrient. Bagaimana lanskap ancaman telah berkembang dari risiko keamanan perusahaan tradisional ke tantangan keamanan siber yang digerakkan AI saat ini, dan apa yang paling mengkhawatirkan Anda tentang arah industri saat ini?

Saya pikir perubahan utama selama karir saya sendiri adalah kecepatan dan dampak. Ketika saya memulai manajemen keamanan pada akhir 1990-an, masalah keamanan yang serius berarti firewall yang tidak dikonfigurasi dengan benar atau server yang tidak dipatch, radius ledakan biasanya cukup terkandung. Selama tiga dekade terakhir, saya telah melihat konsekuensi dari pelanggaran keamanan tumbuh dari ketidaknyamanan operasional menjadi risiko sistemik.

Dan semuanya lebih cepat. Kami berhadapan dengan lebih banyak sistem dan bandwidth yang lebih tinggi. Saat ini, hampir setengah dari semua lalu lintas internet dihasilkan oleh manusia – dan menurut beberapa perkiraan sekitar 40% dari total lalu lintas terdiri dari aktivitas berbahaya seperti pemindaian berbahaya, malware, dan DDoS.

Pada saat yang sama, lanskap telah menjadi sangat konsolidasi dan terkonsentrasi. Filosofi desain asli internet tentang redundansi dan desentralisasi telah hilang. Sebagai hasilnya, serangan yang menargetkan hanya beberapa titik kegagalan pusat memiliki konsekuensi yang jauh lebih menghancurkan daripada sebelumnya. Ini meninggalkan hampir tidak ada ruang untuk kesalahan dalam pengaturan dan operasi sistem IT modern. Dan sekarang AI mengompresi timeline penyerang bahkan lebih jauh.

Komentar terbaru dari Dario Amodei telah membangkitkan kembali ketakutan seputar sistem AI canggih yang mengidentifikasi kerentanan perangkat lunak secara besar-besaran. Apakah Anda percaya bahwa perusahaan-perusahaan meremehkan seberapa cepat pengembangan yang dibantu AI bisa menghancurkan proses keamanan yang ada?

Ya, saya percaya banyak perusahaan meremehkan kecepatan perubahan ini. Awalnya, tampaknya AI akan memberikan manfaat bagi kedua belah pihak, penyerang dan pembela, sekitar sama. Namun, kenyataan yang mengkhawatirkan muncul: AI tidak menciptakan kategori kejahatan siber yang sama sekali baru; sebaliknya, ia telah mendemokratisasi kemampuan serangan yang canggih, memungkinkan aktor ancaman untuk mengotomatiskan pengintaian, menghilangkan hambatan bahasa dalam phishing, dan menemukan kerentanan perangkat lunak dengan kecepatan dan skala yang pembela manusia kesulitan menyerap.

Masalahnya adalah bahwa sementara AI telah memicu lonjakan besar dalam penemuan kerentanan, belum digunakan dalam skala yang sama dalam proses perbaikan. Ini menciptakan ketidakseimbangan yang berbahaya. Penemuan kerentanan yang dibantu AI hanya menghasilkan lebih banyak pekerjaan daripada yang dapat ditangani oleh pembela.

Tambahannya, tidak tanpa ironi bahwa perusahaan yang sama yang mempresentasikan model terbaru mereka sebagai keselamatan dari ancaman siber adalah, pada saat yang sama, memicu sebagian dari masalah. Alat pengkodean yang dibantu AI mempercepat produksi perangkat lunak, tetapi sering menghasilkan kode yang berantakan dan rentan – memperluas permukaan serangan yang produk keamanan mereka janjikan untuk mengurangi. Dari sudut pandang ekonomi, ini brilian. Dari sudut pandang keamanan, tidak juga.

Di G+D kami mengevaluasi kasus penggunaan AI dengan cara yang terstruktur melalui Dewan AI dan tidak menskalakan mereka dengan cara yang tidak terkendali. Masalahnya bukanlah AI itu sendiri – itu adalah kurangnya tata kelola dalam penerapannya. Ini sejalan dengan prinsip yang juga diterapkan G+D secara internal: AI memerlukan tidak hanya inovasi, tetapi juga proses evaluasi dan persetujuan yang terlembaga.

Banyak organisasi memandang AI terutama sebagai alat keamanan siber defensif. Dalam pandangan Anda, di mana AI saat ini menciptakan lebih banyak risiko daripada perlindungan di dalam lingkungan perusahaan?

Sebagian besar tim keamanan siber sudah menerapkan AI dalam berbagai derajat untuk mendeteksi, mengklasifikasikan, menilai, dan menangani kejadian keamanan – dan itu bekerja dengan luar biasa.

Namun, risiko baru muncul di samping manfaat tersebut. Kerentanan yang melekat pada arsitektur AI itu sendiri sudah banyak dibahas dan sebagian besar dipahami. Kami tidak lagi hanya mengamankan kode statis; kami mengamankan sistem non-deterministik. Ini memperkenalkan vektor ancaman yang sama sekali baru, seperti injeksi prompt (di mana data berbahaya menipu LLM untuk mengabaikan guardrailsnya), pencemaran data untuk merusak logika model selama pelatihan, dan kebocoran data, di mana data perusahaan yang bersifat rahasia secara tidak sengaja terbuka melalui output model. Ini secara fundamental mengubah definisi eksploitasi.

Tetapi pertahanan tradisional kita yang terlatih dengan baik juga harus beradaptasi. Bagi banyak organisasi, Analitik Perilaku Pengguna dan Entitas (UEBA) masih merupakan konsep yang relatif baru. Faktanya, banyak perusahaan belum sepenuhnya mengadopsi pendekatan ini karena peraturan privasi data yang ketat, hukum ketenagakerjaan yang ketat, dan hak-hak dewan pekerja. Sekarang, baseline telah bergeser dan tidak pasti seberapa efektif UEBA akan tetap dalam masa depan di mana AI dapat dengan mudah belajar dan meniru perilaku manusia.

Maju ke depan, apakah UEBA akan mampu membedakan perilaku manusia dari serangan otomatis, atau membedakan antara agen AI yang baik dan yang berbahaya? Sudah ada produk yang menjanjikan hal seperti itu, tetapi biasanya membutuhkan waktu untuk beralih dari janji pemasaran ke kinerja nyata. Kami akan membutuhkan konsep baru dengan arsitektur keamanan modern untuk menangani hal itu.

Sebagai Ketua Forum Keamanan Informasi, Anda berinteraksi dengan pemimpin keamanan di seluruh perusahaan besar global. Apakah CISO menjadi lebih khawatir tentang kualitas kode yang dihasilkan AI, atau apakah masalah yang lebih besar adalah beban operasional mengamankan basis kode yang secara eksponensial lebih besar?

Kedua masalah tersebut nyata, tetapi mereka mendarat secara berbeda. Kualitas kode yang dihasilkan AI adalah kekhawatiran yang sah. Kode yang dihasilkan AI sering terlihat bersih tetapi dapat membawa kesalahan logika halus, default yang tidak aman, atau perpustakaan yang salah yang lebih sulit untuk ditangkap karena mereka tampaknya masuk akal. CISO khawatir tentang hal itu.

Namun, dalam percakapan saya dengan ahli keamanan di seluruh organisasi anggota ISF, alarm yang lebih keras adalah operasional: itu adalah volume kode yang bisa membawa kerentanan dan oleh karena itu perlu diperiksa.

Apa yang saya dengar secara konsisten dari rekan-rekan di seluruh industri adalah bahwa masalah ketergantungan telah menjadi beban yang menentukan. Ketergantungan yang kuat pada komponen eksternal dan perpustakaan pihak ketiga berarti setiap ketergantungan tunggal harus dilacak, dikelola, dan dipatch dengan hati-hati. Di kode serta di rantai alat, potensial di seluruh lingkungan cloud yang berbeda. Itu sudah menjadi tantangan signifikan. Pengembangan yang dibantu AI sekarang memperkuatnya. Bukan karena sifat masalahnya telah berubah, tetapi karena skala telah meledak. Lebih banyak kode, diproduksi lebih cepat, dengan lebih banyak ketergantungan, di seluruh repositori yang berbeda.

Jadi, jika saya harus memprioritaskan: kualitas kode adalah masalah teknik yang dapat dipecahkan – alat yang lebih baik, tinjauan yang lebih ketat, guardrails yang lebih ketat dalam pipa pengembangan. Beban operasional mengamankan basis kode yang tumbuh secara eksponensial dan rantai ketergantungannya yang menjalar adalah tantangan yang lebih struktural, lebih persisten. Itulah di mana tekanan nyata berada, dan itulah yang muncul berulang kali dalam diskusi CISO senior.

Giesecke+Devrient beroperasi di sektor yang sangat sensitif, termasuk identitas digital, pembayaran, infrastruktur perbankan, teknologi eSIM, dan mata uang digital bank sentral. Bagaimana mengamankan infrastruktur kritis berbeda di era AI dibandingkan dengan melindungi sistem perusahaan tradisional?

Di G+D, kami menghadapi tanggung jawab inti yang sama seperti organisasi mana pun yang serius dengan keamanan. Namun, standar kami sangat tinggi, dan margin untuk kesalahan sangat kecil. Kami sangat menyadari bahwa insiden keamanan dalam infrastruktur kami membawa implikasi yang jauh lebih luas daripada pelanggaran di perusahaan biasa – itulah mengapa nafsu kami untuk risiko keamanan siber sangat rendah.

Di mana AI menambahkan lapisan kompleksitas yang unik bagi kami adalah dalam arsitektur operasional itu sendiri. Banyak komponen keamanan tinggi kami, terutama yang terkait dengan sistem pembayaran, identitas digital, atau produk untuk bank sentral, adalah aset berharga dan tunduk pada persyaratan sertifikasi dan keamanan yang ketat. Komponen-komponen ini harus dikembangkan, diuji, dan dioperasikan dalam lingkungan yang terpisah, mulai dari pemisahan logis murni hingga jaringan yang sepenuhnya terisolasi dengan tidak ada koneksi eksternal sama sekali.

Itu sudah menantang sebelum AI, tetapi sekarang organisasi di mana-mana mengintegrasikan alat yang dibantu AI ke dalam alur kerja pengembangan dan operasional. Alat yang biasanya bergantung pada koneksi cloud, akses data skala besar, dan pembaruan model terus-menerus. Mengkonsolidasikan hal itu dengan lingkungan di mana bahkan kabel jaringan yang dipasang ke port yang salah akan menjadi pelanggaran kebijakan yang serius adalah tantangan teknik dan tata kelola yang sangat nyata.

Ini memaksa kami untuk sangat sengaja tentang integrasi AI kami. Kami tidak hanya memilih model AI yang tepat, kami membuat keputusan strategis pada tingkat infrastruktur tentang apakah alat-alat ini perlu diterapkan secara lokal atau dapat digunakan melalui cloud.

Kita melihat adopsi cepat dari kopilot pengkodean AI dan agen pengembangan otonom. Apakah Anda mengharapkan perusahaan akhirnya akan memerlukan kode yang dihasilkan AI untuk menjalani proses validasi dan sertifikasi terpisah sebelum penerapan?

Saya tidak berpikir kriteria yang menentukan harus menjadi apakah kode itu ditulis oleh manusia atau AI. Kriteria yang menentukan adalah risiko. Tetapi kode yang dihasilkan AI pasti memerlukan provenance, jejak, dan tinjauan yang lebih ketat dalam lingkungan yang diatur atau keamanan tinggi.

Pemodelan ancaman, kebijakan pengkodean aman, dan mengintegrasikan alat SAST ke dalam rantai alat pengembangan sudah menjadi praktik standar hari ini, dan alat-alat tersebut secara alami menjadi ditingkatkan dengan AI. Selain itu, tim pengembangan harus secara teliti melacak fungsi mana yang kritikal keamanan atau milik komponen yang diatur, sangat sensitif. Di luar itu, ketergantungan yang mendasarinya harus dipahami dan diuji secara terus-menerus.

Ekonomi akan memainkan peran yang semakin penting. Saat ini, harga token dari penyedia AI utama tidak menutupi biaya. Penyedia AI utama menyerap defisit infrastruktur dan inferensi yang luar biasa untuk memastikan pangsa pasar. Model yang disubsidi yang tidak berkelanjutan dalam jangka panjang. Ketika biaya komersial menerapkan AI ke dalam alur kerja perusahaan disesuaikan ke atas untuk mencerminkan biaya infrastruktur yang sebenarnya, kita akan memiliki masalah. Pada titik itu, industri akan harus beralih ke model yang lebih kecil, lokal, dan dibuat khusus untuk kasus penggunaan yang ditargetkan. Melatih model yang lebih kecil ini untuk kasus penggunaan yang ditargetkan akan menjadi strategi yang sangat penting untuk memitigasi kenaikan biaya yang parah.

Dan untuk kategori dengan tuntutan keamanan tertinggi, pengawasan manusia akan tetap wajib dan itulah di mana tantangannya berada: memanfaatkan kapasitas manusia yang terbatas dengan cara yang paling efisien.

Sistem AI sekarang dapat mengidentifikasi kerentanan jauh lebih cepat daripada analis manusia, tetapi perbaikan masih sangat bergantung pada alur kerja manusia. Apakah perusahaan mendekati titik di mana manajemen patch itu sendiri harus menjadi otonom?

Ya, manajemen patch otonom tidak lagi menjadi kemewahan – itu adalah kebutuhan operasional. Volume kerentanan saat ini hanya melebihi kapasitas triase manusia.

Terlepas dari itu, saya percaya penerapan sebenarnya harus mengikuti pendekatan yang berlapis dan pragmatis. Untuk lingkungan standar, non-kritis, otomatisasi penuh seharusnya sepenuhnya dapat dicapai, asalkan guardrails yang tepat ada di tempat. Remediasi otonom penuh dalam sistem kritis, berdampak tinggi, sementara tentu saja diperlukan, kemungkinan besar akan tetap sangat sulit untuk diimplementasikan dalam waktu dekat.

Ini adalah di mana fondasi benar-benar penting. Perbedaan antara kedua kategori itu terdengar sederhana, tetapi dalam prakteknya membutuhkan jumlah pekerjaan yang sangat besar, terperinci, dan berkelanjutan untuk mengoperasikan lingkungan yang kompleks dengan pendekatan yang berbeda dalam cara yang rapi dan otomatis. Pekerjaan itu mudah untuk diremehkan.

Tantangan sebenarnya, seperti biasanya, bukanlah eksekusi mekanis dari proses itu sendiri – itu adalah sistem yang lebih luas. Pembuatan keputusan yang cerdas hanya mungkin ketika seluruh sistem mendukungnya. Manajemen patch perlu menjadi jauh lebih pintar dan lebih cepat, bukan hanya lebih otomatis.

Dan, seperti biasanya: dalam konteks yang sangat sensitif, stabilitas yang terkendali dan kecepatan tinggi harus berjalan seiring. Itu adalah bagian yang sulit – dan bagian yang sebagian besar organisasi belum siap untuk.

Pemerintah di seluruh dunia berlomba untuk menerapkan sistem identitas digital, CBDC, dan infrastruktur terhubung. Seberapa khawatir Anda bahwa ancaman siber yang digerakkan AI bisa mengungguli kesiapan keamanan nasional dan regulasi?

Kerangka regulasi seperti NIS2 dan Undang-Undang Ketahanan Siber mendorong hal-hal ke arah yang benar, tetapi regulasi pada akhirnya hanya satu bagian dari teka-teki. Regulasi penting untuk sistem secara keseluruhan, tetapi kita tidak bisa menganggap bahwa mengeluarkan aturan segera menyelesaikan masalah. Perusahaan masih harus menerapkan pedoman, menjaga sistem mereka tetap aman secara permanen, dan mempertahankan pemahaman yang solid tentang lanskap ancaman dan target perlindungan mereka, memperbarui mereka secara terus-menerus, dan menjaga mereka tetap sejalan.

Saya cukup optimis, asalkan organisasi tidak mengobati kepatuhan regulasi sebagai pengganti keamanan yang sebenarnya. Dan manajemen keamanan modern tidak menunggu regulasi. Jika ada, seharusnya sebaliknya: praktik dunia nyata yang terbaik harus mengalir ke dalam regulasi, bukan sebaliknya.

Di domain keamanan tinggi seperti identitas digital dan infrastruktur pembayaran, kesiapan operasional tidak diberikan. G+D tidak hanya sebagai pemasok di sini, tetapi juga sebagai mitra dialog untuk bank sentral dan pemerintah di seluruh dunia. G+D juga terlibat aktif dalam perlindungan infrastruktur digital kritis – misalnya melalui Secunet sebagai mitra keamanan IT dari Republik Federal Jerman.

Beberapa ahli menggambarkan model AI canggih sebagai “senjata siber”, sementara yang lain berpendapat bahwa kerangka itu berlebihan. Dari perspektif Anda, apa yang salah tentang risiko dunia nyata yang ditimbulkan oleh sistem AI perbatasan?

Apa yang salah adalah asumsi bahwa konflik siber mengikuti logika perang fisik. Bahwa senjata yang cukup kuat pasti akan menghancurkan setiap pertahanan. Banyak dari kerangka “senjata siber” meminjam dari mindset kinetik: meriam yang lebih besar mengalahkan dinding yang lebih tebal, rudal yang lebih pintar mengalahkan pesawat yang lebih cepat. Tetapi siber tidak bekerja dengan cara itu.

Serangan siber yang sukses hampir tidak pernah berhasil melalui kekuatan yang menghancurkan. Ini berhasil dengan mengeksploitasi celah: konfigurasi yang salah, kerentanan yang tidak dipatch, kesalahan manusia, tautan lemah dalam rantai pasokan. AI tidak mengubah dinamika dasar ini. Ini membuat pencarian celah-celah itu lebih cepat dan lebih murah, dan ini menurunkan ambang batas keterampilan untuk mengeksploitasi mereka. Itu adalah masalah serius, tetapi itu adalah masalah yang sangat berbeda dari narasi “senjata tak terkalahkan”.

Risiko sebenarnya bukanlah bahwa AI menciptakan kemampuan ofensif yang sangat kuat yang tidak dapat ditahan oleh pertahanan. Risiko sebenarnya adalah bahwa AI mempercepat dan menskala eksploitasi kelemahan biasa – kelemahan yang sama yang telah kita perjuangkan untuk memperbaiki selama beberapa dekade – pada tingkat yang melampaui kemampuan kita untuk menutupnya.

Menggambarkan AI sebagai senjata siber mengalihkan perhatian dari itu. Ini mendorong mentalitas perlombaan senjata ketika yang sebenarnya dibutuhkan adalah higiene operasional yang lebih baik, perbaikan yang lebih cepat, dan arsitektur yang lebih tangguh. Ancaman bukanlah senjata super baru. Ini adalah celah-celah lama, dieksploitasi pada kecepatan baru. Jadi, ya, menggambarkan AI sebagai senjata siber adalah pernyataan yang berlebihan.

Menghadap ke depan, apakah Anda percaya bahwa ancaman keamanan siber terbesar dari AI akan datang dari serangan negara yang canggih, eksploitasi otonom skala besar, penyalahgunaan insider, kerentanan rantai pasokan, atau sesuatu yang industri belum memperhatikan cukup?

Memprediksi masa depan keamanan selalu sangat sulit. Serangan negara, eksploitasi otonom, penyalahgunaan insider, kompromi rantai pasokan – semuanya adalah ancaman nyata dan tumbuh, dan saya tidak akan mengabaikan salah satunya. Tetapi saya akan berpendapat bahwa semuanya adalah konsekuensi, bukan penyebab. Mereka berhasil ketika pembela tidak dapat lagi mengikuti, terlepas dari alasan: kerentanan mungkin belum diketahui secara publik, patch belum tersedia atau beban kerja terlalu tinggi.

Dan itu adalah di mana saya melihat risiko teratas dalam beberapa tahun ke depan: tim keamanan yang terlalu sibuk dengan beban kerja.

Semua topik saat ini – regulasi, kedaulatan, infrastruktur cloud yang kompleks, dan semua yang datang dengan mereka – semuanya mendarat di tim yang sudah diregangkan tipis oleh triase alert, respon insiden, analisis phishing, manajemen kerentanan dan patch, dokumentasi, audit, dan pelaporan. Beban kerja yang ditambahkan oleh semua yang AI bisa adalah yang bisa mematahkan punggung kuda. Kecuali itu jauh lebih dari sekadar jerami.

Dan diberikan situasi ekonomi global saat ini, semua ini mengenai organisasi di bawah tekanan biaya yang nyata, di seluruh papan. Jika itu tidak dikelola dengan sangat baik, itu akhirnya akan menjadi terlalu banyak.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Giesecke+Devrient.