Mark Nicholson, Pemimpin Modernisasi Keamanan Siber Deloitte AS – Seri Wawancara: Percakapan Kembali

Mark Nicholson, Pemimpin Modernisasi Keamanan Siber Deloitte AS, adalah Principal di Deloitte dengan lebih dari dua dekade pengalaman di persimpangan keamanan siber, kecerdasan buatan, dan risiko perusahaan. Ia memimpin inisiatif AI Keamanan dan strategi komersial untuk praktik keamanan siber Deloitte, membantu organisasi besar memodernisasi kerangka keamanan mereka dan menyelaraskan investasi keamanan siber dengan lanskap risiko yang berkembang. Sebelum bergabung dengan Deloitte, ia adalah salah satu pendiri dan menjabat sebagai COO dari Vigilant, Inc., sebuah perusahaan konsultan keamanan informasi yang fokus pada intelijen ancaman dan pemantauan peristiwa berbahaya. Karir awalnya di penjualan dan pengembangan bisnis di beberapa perusahaan teknologi memberinya dasar yang kuat dalam aspek teknis dan komersial keamanan siber.

Deloitte adalah salah satu firma jasa profesional terbesar di dunia, menawarkan jasa audit, konsultasi, pajak, dan konsultasi untuk organisasi di hampir semua industri. Praktik keamanan siber mereka fokus pada membantu perusahaan mengatasi lingkungan ancaman yang semakin kompleks sambil memungkinkan transformasi digital melalui teknologi seperti kecerdasan buatan. Perusahaan ini menyediakan layanan yang mencakup strategi keamanan siber, ketahanan, manajemen risiko, dan keamanan perusahaan, memposisikan keamanan siber sebagai fungsi pelindung dan pendorong inovasi dan pertumbuhan.

Ini mengikuti wawancara sebelumnya yang diterbitkan pada tahun 2025.

Anda telah terlibat dalam keamanan siber sejak awal hari pemantauan ancaman modern, termasuk menjadi salah satu pendiri Vigilant dan membantu membawa kemampuan SIEM dan intelijen ancaman awal ke pasar. Bagaimana evolusi dari sistem pemantauan awal tersebut ke platform pertahanan siber yang didorong AI saat ini telah mengubah cara organisasi mendeteksi dan merespons ancaman?

Ketika kami pertama kali memulai membangun platform pemantauan di awal hari SIEM, tantangan utama adalah mendapatkan data dalam satu tempat dan membuatnya masuk akal. Saya ingat ketika analis mencetak log firewall setiap pagi dan secara manual meninjau mereka untuk mencari anomali. Bahkan ketika SIEM matang, ada masalah skala. Kecepatan manusia tidak dapat menyaingi jumlah besar peristiwa yang terdeteksi. Meskipun menggunakan otomatisasi, pembela siber masih memiliki masalah korelasi data dan analitik, terus-menerus berusaha untuk mengembangkan aturan baru, sering kali sebagai respons terhadap kegagalan pemantauan.

Salah satu harapan adalah bahwa AI akan mengubah dinamika tersebut secara fundamental. Di luar penerapan kemampuan agen untuk mengotomatisasi operasi keamanan siber level 1, AI berjanji untuk membantu memindahkan deteksi dan respon dari “setelah kejadian” ke “saat kejadian” dengan menggunakan penyetelan algoritma pemantauan dinamis. Dalam beberapa kasus, organisasi keamanan siber akan merasa nyaman membiarkan AI memulai tindakan perbaikan.

Tapi bagian yang sulit tidak hilang, itu bergeser. Ketika sistem menjadi lebih otonom dan kompleks, kepercayaan dan keterbukaan menjadi medan perang: Apa yang dilakukan sistem, mengapa dilakukan, dan bagaimana kita tahu itu tidak dimanipulasi? Kesempatan dengan AI sangat besar, tetapi juga meningkatkan taruhan ketika lingkungan beroperasi pada kecepatan mesin.

Anda telah mencatat bahwa AI memungkinkan lawan untuk mengotomatisasi pengintaian, menghasilkan eksploitasi, dan mempercepat siklus serangan. Dalam istilah praktis, seberapa banyak AI telah mengompresi waktu antara penemuan kerentanan dan eksploitasi?

Secara historis, ada jendela antara penemuan kerentanan dan eksploitasi. Ada urgensi, tetapi umumnya, kecuali Anda terkena serangan hari nol, ada waktu untuk memahami ancaman, memperbaiki, dan memitigasi sebelum penyerang dapat menerapkan eksploitasi secara besar-besaran. AI telah menghilangkan jendela itu.

Lawan dapat mengotomatisasi pengintaian, terus-menerus memindai untuk paparan, dan menggunakan tooling yang diaktifkan AI untuk mempercepat bagian dari pengembangan eksploitasi dan penargetan. Dalam banyak kasus, apa yang sebelumnya berlangsung selama minggu dapat sekarang dikompresi menjadi jam, dan dalam skenario yang sangat otomatis, dapat lebih cepat dari sebagian besar program keamanan siber yang dirancang untuk menanganinya.

Intinya sederhana: Tim keamanan siber memerlukan otomatisasi dan AI di sisi pertahanan, dipasangkan dengan kontrol yang kuat, jika mereka ingin mempertahankan kecepatan.

Tim keamanan siber semakin beralih dari model “manusia di dalam lingkaran” ke model “manusia di sekitar lingkaran”. Apa yang terlihat seperti perubahan ini secara operasional di dalam Pusat Operasi Keamanan Siber (SOC) modern, dan bagaimana organisasi harus memikirkan kembali peran analis saat AI mengambil alih tugas yang lebih otonom?

Di SOC tradisional, analis duduk di pusat setiap titik keputusan. Peringatan masuk, analis melakukan triase, menyelidiki, dan menentukan tindakan yang harus diambil. Pendekatan itu bekerja ketika volume peringatan dan kecepatan serangan masih terjangkau. Namun, di lingkungan saat ini, skala aktivitas terlalu besar bagi manusia untuk bertindak sebagai penghalang untuk setiap keputusan.

Perubahan ke “manusia di sekitar lingkaran” berarti sistem AI dapat melakukan banyak tugas rutin yang sebelumnya ditangani analis, seperti melakukan triase peringatan, mengumpulkan konteks, mengorelasikan data, dan melaksanakan tindakan perbaikan tertentu. Peran manusia menjadi pengawasan dan validasi, bukan eksekusi manual.

Secara operasional, itu memindahkan waktu analis dari “menggiling peringatan” ke pekerjaan yang lebih bernilai seperti perburuan ancaman, teknik deteksi, simulasi lawan, dan memperbaiki arsitektur pertahanan. Manusia tetap penting, tetapi peran mereka berkembang ke arah pengawasan, penilaian, dan strategi, bukan sebagai pemroses utama data keamanan siber.

Kita banyak mendengar tentang “Keamanan AI yang Dirancang”. Dari perspektif Anda, mengapa konsep ini perlu meluas tidak hanya ke keamanan model, tetapi juga ke sistem identitas, arsitektur izin, dan lapisan orkestrasi?

Banyak diskusi tentang keamanan AI yang aman fokus pada model itu sendiri, seperti melindungi data pelatihan, mencegah pencemaran model, atau membela diri terhadap serangan injeksi prompt. Itu adalah masalah nyata, tetapi itu hanya sebagian dari risiko.

Di praktiknya, sistem AI beroperasi sebagai bagian dari ekosistem digital yang jauh lebih besar. Mereka mengakses data, berinteraksi dengan API, memicu alur kerja, dan semakin beroperasi melalui agen yang dapat bertindak dengan tingkat otonomi tertentu.

Ketika itu terjadi, identitas dan izin menjadi bidang kendali. Agen AI secara efektif adalah identitas digital baru di dalam perusahaan. Jika identitas tersebut tidak dikelola dengan baik, mereka dapat memperkenalkan risiko signifikan.

Keamanan AI yang dirancang dengan baik oleh karena itu perlu meluas ke pemerintahan identitas, kontrol akses, lapisan orkestrasi, dan sistem pemantauan yang melacak apa yang dilakukan agen-agen tersebut. Organisasi perlu memperlakukan agen AI seperti pengguna manusia, dengan izin yang ditentukan, audit, dan pengawasan, jika tidak, permukaan serangan akan berkembang dengan cepat.

Banyak perusahaan melapis AI di atas alur kerja keamanan siber warisan yang dirancang untuk kecepatan manusia. Apa perubahan arsitektur terbesar yang perusahaan perlu lakukan untuk benar-benar memanfaatkan AI dalam pertahanan siber?

Polanya yang umum adalah memasang AI ke proses dan alur kerja warisan yang dirancang untuk operasi yang dipimpin manusia. Ini bukanlah pendekatan yang buruk, terutama karena visi komputer telah menjadi kenyataan. Misalnya, Deloitte telah menciptakan agen yang dapat dilatih untuk menggantikan manusia dalam proses pemerintahan identitas dan administrasi tanpa membuang perangkat lunak yang ada yang akan sulit untuk dihentikan. Ini dapat menghasilkan penghematan biaya yang dramatis.

Manfaat di masa depan, bagaimanapun, adalah bahwa perusahaan kemungkinan akan mulai memikirkan kembali alur kerja keamanan siber dari ujung ke ujung: memodernisasi fondasi data sehingga alat keamanan siber dapat mengakses data telemetry berkualitas tinggi dengan andal; membangun orkestrasi sehingga fungsi deteksi, respon, dan identitas beroperasi sebagai sistem yang terkoordinasi, bukan alat yang terputus.

Identitas tetap menjadi salah satu kontrol paling kritis. Ketika lebih banyak otomatisasi dan agen AI diperkenalkan, jumlah identitas non-manusia tumbuh secara signifikan. Mengelola identitas tersebut secara efektif menjadi penting untuk mempertahankan kontrol.

Keamanan AI asli pada akhirnya adalah campuran dari data yang lebih baik, orkestrasi, dan pemerintahan yang memperhitungkan baik aktor manusia maupun mesin.

Saat AI sistem menjadi lebih otonom, permukaan serangan meluas ke area seperti orkestrasi agen, rantai API, dan pipa keputusan otomatis. Mana dari permukaan yang muncul ini yang paling mengkhawatirkan Anda?

Jika saya harus memilih satu area yang layak mendapat perhatian segera, itu adalah identitas dan izin akses data di dalam sistem yang didorong oleh agen.

Ketika organisasi memperkenalkan lebih banyak AI agen, mereka menciptakan populasi aktor otonom yang tumbuh di dalam perusahaan. Agen-agen tersebut mungkin memiliki akses ke data, API, dan alur kerja yang sangat kuat dan itu membuat mereka menjadi jalur yang menarik bagi penyerang jika izin tidak dirancang, dipantau, dan diaudit dengan ketat. Penting untuk memperlakukan setiap agen seperti karyawan baru: menamainya, mengatur ruang lingkupnya, memantau, dan memungkinkan untuk diputus dengan cepat jika diperlukan.

Rantai API dan pipa keputusan otomatis juga memperkenalkan risiko, tetapi pemerintahan identitas sering kali merupakan kontrol dasar. Jika Anda tidak bisa menjawab siapa agen itu, apa yang bisa disentuh, dan apa yang dilakukan, Anda tidak benar-benar mengontrolnya.

Dari perspektif ruang direktur, bagaimana eksekutif dan direktur saat ini memikirkan tentang risiko siber yang didorong AI, dan di mana Anda melihat kesenjangan terbesar antara kenyataan teknis dan pemahaman tingkat dewan?

Dewan semakin menyadari bahwa sementara AI membawa peluang besar, itu juga bisa membawa risiko yang signifikan. Kebanyakan direktur memahami bahwa AI akan membentuk transformasi bisnis, dan mereka mulai bertanya tentang pemerintahan, keamanan, dan ketahanan.

Di mana kesenjangan muncul adalah kecepatan dan kompleksitas. Banyak diskusi dewan masih default ke kerangka keamanan siber tradisional — yang tetap penting — tetapi mereka tidak selalu mencerminkan bagaimana ancaman yang didorong AI dapat berkembang dan berkembang dengan cepat.

Kesenjangan lainnya adalah bahwa “Apakah AI kami aman?” terdengar seperti satu pertanyaan, tetapi jawabannya hidup di seluruh pemerintahan data, integritas model, manajemen identitas, dan orkestrasi di beberapa sistem. Dewan yang menutup kesenjangan tersebut mendorong laporan berbasis kontrol yang membuat bagian-bagian yang bergerak tersebut terlihat dan dapat diuji, serta berinvestasi waktu untuk membangun kemampuan direktur, sehingga pengawasan tetap sejalan dengan teknologi.

AI semakin banyak digunakan di kedua sisi medan perang. Apakah kita memasuki perlombaan senjata AI-siber yang permanen, dan jika demikian, apa keuntungan yang dimiliki pembela yang mungkin sulit untuk ditiru oleh penyerang?

Kita jelas berada di era di mana AI digunakan oleh kedua belah pihak, baik penyerang maupun pembela. Lawan sudah menerapkan AI untuk mempercepat pengintaian, mengidentifikasi kerentanan, dan mengotomatisasi bagian dari siklus serangan. Namun, pembela masih memiliki keuntungan nyata jika mereka memilih untuk menggunakannya.

Pembela memiliki visibilitas ke lingkungan mereka sendiri, akses ke telemetry internal, dan kemampuan untuk membangun arsitektur yang berlapis-lapis yang harus dilalui penyerang. AI dapat membantu pembela menganalisis volume data yang besar di seluruh jaringan, titik akhir, dan identitas, memberi mereka potensi untuk mendeteksi perilaku anomali jauh lebih awal.

Tangkapan itu adalah adopsi. Jika pembela tetap terjebak dalam alur kerja manual sementara penyerang mengotomatisasi, asimetri menjadi brutal. Perlombaan senjata AI adalah nyata, dan pemenangnya akan menjadi mereka yang menerapkan AI dengan pemerintahan yang kuat, bukan mereka yang hanya melakukan percobaan.

Dalam pekerjaan Anda sebagai penasihat untuk perusahaan besar, apa kesalahan paling umum yang dilakukan organisasi saat mencoba mengintegrasikan AI ke dalam strategi keamanan siber mereka?

Salah satu kesalahan paling umum yang kami lihat adalah memperlakukan AI sebagai alat yang berdiri sendiri, bukan sebagai perubahan arsitektur. Tim melakukan eksperimen terisolasi tanpa meningkatkan fondasi data, model pemerintahan, atau proses operasional yang diperlukan untuk mempertahankan dampak, sehingga menghasilkan puncak dalam hasil.

Kesalahan lainnya adalah menerapkan kemampuan AI tanpa sepenuhnya memperhitungkan risiko baru: identitas baru, aliran data baru, dan jalur keputusan otomatis yang memperluas permukaan serangan. Jika itu dipasang tanpa kontrol yang tepat, AI dapat menambah kerapuhan bukan ketahanan.

Akhirnya, banyak organisasi meremehkan pentingnya keterlibatan tenaga kerja. Praktisi yang menjalankan operasi keamanan siber setiap hari tahu di mana gesekan ada dan apa yang “baik” terlihat seperti. Transformasi terkuat membawa tim-tim tersebut ke dalam proses awal sehingga teknologi memperkuat penilaian mereka, bukan mengganggu.

Menghadap ke depan tiga hingga lima tahun, apa yang terlihat seperti Pusat Operasi Keamanan Siber asli AI dibandingkan dengan lingkungan SOC saat ini?

Ya, itu kemungkinan akan terlihat sangat berbeda, dalam banyak cara yang tidak bisa saya prediksi. Kemungkinan besar, SOC masa depan akan beroperasi sebagai tenaga kerja hybrid manusia dan digital. Sistem AI akan menangani sebagian besar pemrosesan data, korelasi, dan aktivitas respons awal. Sistem agen akan membantu mengotomatisasi alur kerja di seluruh manajemen kerentanan, pemerintahan identitas, respons insiden, dan pemantauan kontrol terus-menerus.

Analis manusia tetap penting, tetapi gravitasi bergeser: mengawasi sistem AI, memvalidasi kasus deteksi (bukan menulisnya), menyelidiki ancaman kompleks, dan memperbaiki arsitektur pertahanan. Tujuan bukanlah menghilangkan manusia, tetapi meningkatkan peran mereka. Sebagai gantinya, menghabiskan waktu untuk melakukan triase peringatan dan mengumpulkan data manual, analis akan fokus pada aspek strategis keamanan siber. Pertanyaannya akan menjadi, “bagaimana kita akan melatih generasi keamanan siber berikutnya ketika level 1 dan 2 sepenuhnya otomatis?” Mungkin jawabannya terletak pada perbaikan dramatis dalam teknologi simulasi dan pelatihan yang AI dapat membantu kita kembangkan.

Organisasi yang berhasil membangun tenaga kerja hybrid yang sukses, menggabungkan keahlian manusia dengan otomatisasi yang didorong AI, kemungkinan akan berada dalam posisi terbaik untuk beroperasi pada kecepatan yang diperlukan di lingkungan ancaman modern.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Deloitte atau membaca wawancara sebelumnya.