David Kellerman, Field CTO di Cymulate – Seri Wawancara

David Kellerman adalah Field CTO di Cymulate, dan seorang profesional teknis senior yang berfokus pada pelanggan di bidang keamanan informasi dan cyber. David memimpin pelanggan menuju kesuksesan dan standar keamanan yang tinggi.

Cymulate adalah sebuah perusahaan keamanan siber yang menyediakan validasi eksposur ancaman untuk organisasi yang ingin menutup celah keamanan sebelum penyerang mengeksploitasi mereka. Platformnya memungkinkan organisasi untuk menetapkan posisi keamanan mereka dan memperkuat ketahanan siber melalui penemuan, validasi, prioritisasi, dan remediasi yang terarah dari kelemahan keamanan. Melalui otomatisasi dan kecerdasan buatan, Cymulate menawarkan pengujian keamanan ofensif lanjutan untuk memvalidasi kontrol, ancaman, dan jalur serangan. Sebagai platform terbuka, Cymulate terintegrasi dengan infrastruktur keamanan dan IT yang ada untuk mengarahkan alur kerja proses manajemen eksposur dan memperbaiki pertahanan secara real-time. Dengan menawarkan Simulasi Pelanggaran dan Serangan (BAS), manajemen eksposur, dan manajemen posisi keamanan, Cymulate membantu bisnis mengidentifikasi kerentanan.

Apa yang Anda lihat sebagai penggerak utama di balik peningkatan ancaman keamanan siber yang terkait AI pada 2025?

Ancaman keamanan siber yang terkait AI meningkat karena aksesibilitas AI yang meningkat. Pelaku ancaman sekarang memiliki akses ke alat AI yang dapat membantu mereka mengulangi malware, membuat email phishing yang lebih kredibel, dan meningkatkan serangan mereka untuk meningkatkan jangkauan. Taktik ini tidak “baru”, tetapi kecepatan dan akurasi dengan yang mereka diterapkan telah menambahkan secara signifikan pada backlog ancaman keamanan siber yang sudah panjang yang perlu ditangani oleh tim keamanan. Organisasi terburu-buru untuk mengimplementasikan teknologi AI, tanpa sepenuhnya memahami bahwa kontrol keamanan perlu ditempatkan di sekitarnya, untuk memastikan bahwa tidak mudah dieksploitasi oleh pelaku ancaman.

Apakah ada industri atau sektor tertentu yang lebih rentan terhadap ancaman yang terkait AI ini, dan mengapa?

Industri yang secara konsisten berbagi data melalui saluran antara karyawan, klien, atau pelanggan rentan terhadap ancaman yang terkait AI karena AI membuatnya lebih mudah bagi pelaku ancaman untuk terlibat dalam skema rekayasa sosial yang kredibel. Penipuan phishing secara efektif adalah permainan angka, dan jika penyerang sekarang dapat mengirim email yang lebih autentik ke jumlah penerima yang lebih luas, tingkat keberhasilan mereka akan meningkat secara signifikan. Organisasi yang mengekspos layanan AI mereka ke publik berpotensi mengundang penyerang untuk mencoba mengeksploitasi mereka. Sementara itu adalah risiko yang diwariskan dari membuat layanan publik, itu penting untuk melakukannya dengan benar.

Apa kerentanan utama yang dihadapi organisasi saat menggunakan LLM publik untuk fungsi bisnis?

Kecebocoran data kemungkinan besar adalah kekhawatiran utama. Ketika menggunakan model bahasa besar (LLM) publik, sulit untuk memastikan di mana data tersebut akan pergi – dan hal terakhir yang ingin Anda lakukan adalah secara tidak sengaja mengunggah informasi sensitif ke alat AI yang dapat diakses publik. Jika Anda perlu menganalisis data rahasia, simpanlah di dalam perusahaan. Jangan menggunakan LLM publik yang mungkin akan membocorkan data tersebut ke internet yang lebih luas.

Bagaimana perusahaan dapat secara efektif mengamankan data sensitif saat menguji atau mengimplementasikan sistem AI di produksi?

Saat menguji sistem AI di produksi, organisasi harus mengadopsi pola pikir ofensif (bukan defensif). Artinya, tim keamanan harus secara proaktif menguji dan memvalidasi keamanan sistem AI mereka, bukan hanya bereaksi terhadap ancaman yang masuk. Pemantauan konsisten untuk serangan dan validasi sistem keamanan dapat membantu memastikan bahwa data sensitif dilindungi dan solusi keamanan berfungsi sebagaimana mestinya.

Bagaimana organisasi dapat secara proaktif membela diri terhadap serangan yang didorong AI yang terus berkembang?

Sementara pelaku ancaman menggunakan AI untuk mengembangkan ancaman mereka, tim keamanan juga dapat menggunakan AI untuk memperbarui alat simulasi pelanggaran dan serangan (BAS) mereka untuk memastikan bahwa mereka dilindungi dari ancaman yang muncul. Alat seperti umpan ancaman harian Cymulate memuat ancaman yang muncul terbaru ke dalam perangkat lunak simulasi pelanggaran dan serangan Cymulate setiap hari untuk memastikan bahwa tim keamanan memvalidasi keamanan siber organisasi mereka terhadap ancaman terbaru. AI dapat membantu mengotomatisasi proses seperti ini, memungkinkan organisasi untuk tetap lincah dan siap menghadapi ancaman terbaru.

Apa peran platform validasi keamanan otomatis, seperti Cymulate, dalam mitigasi risiko yang ditimbulkan oleh ancaman siber yang didorong AI?

Platform validasi keamanan otomatis dapat membantu organisasi tetap pada ancaman siber yang didorong AI yang muncul melalui alat yang ditujukan untuk mengidentifikasi, memvalidasi, dan memprioritaskan ancaman. Dengan AI yang berfungsi sebagai pengganda kekuatan untuk penyerang, penting untuk tidak hanya mendeteksi kerentanan potensial di jaringan dan sistem, tetapi memvalidasi mana yang benar-benar mengancam organisasi. Hanya kemudian paparan dapat diprioritaskan secara efektif, memungkinkan organisasi untuk memitigasi ancaman paling berbahaya terlebih dahulu sebelum beralih ke item yang kurang mendesak. Penyerang menggunakan AI untuk menyelidiki lingkungan digital untuk kerentanan potensial sebelum meluncurkan serangan yang sangat disesuaikan, yang berarti kemampuan untuk mengatasi kerentanan berbahaya dengan cara yang otomatis dan efektif tidak pernah lebih kritis.

Bagaimana perusahaan dapat mengintegrasikan alat simulasi pelanggaran dan serangan untuk mempersiapkan diri terhadap serangan yang didorong AI?

Perangkat lunak BAS adalah elemen penting dari manajemen eksposur, memungkinkan organisasi untuk membuat skenario serangan dunia nyata yang dapat mereka gunakan untuk memvalidasi kontrol keamanan terhadap ancaman yang paling mendesak saat ini. Intelijen ancaman terbaru dan penelitian utama dari Kelompok Penelitian Ancaman Cymulate (dikombinasikan dengan informasi tentang ancaman yang muncul dan simulasi baru) diterapkan setiap hari ke alat BAS Cymulate, memberi tahu pemimpin keamanan jika ancaman baru tidak diblokir atau dideteksi oleh kontrol keamanan yang ada. Dengan BAS, organisasi juga dapat menyesuaikan simulasi yang didorong AI dengan lingkungan dan kebijakan keamanan unik mereka dengan kerangka terbuka untuk membuat dan mengotomatisasi kampanye dan skenario serangan lanjutan.

Apa tiga rekomendasi teratas yang Anda berikan kepada tim keamanan untuk tetap di depan ancaman yang muncul ini?

Ancaman menjadi lebih kompleks setiap hari. Organisasi yang tidak memiliki program manajemen eksposur yang efektif berisiko jatuh tertinggal, jadi rekomendasi pertama saya akan mengimplementasikan solusi yang memungkinkan organisasi untuk memprioritaskan eksposur mereka secara efektif. Berikutnya, pastikan bahwa solusi manajemen eksposur termasuk kemampuan BAS yang memungkinkan tim keamanan untuk mensimulasikan ancaman yang muncul (AI dan lainnya) untuk mengetahui bagaimana kontrol keamanan organisasi berfungsi. Akhirnya, saya akan merekomendasikan untuk menggunakan otomatisasi untuk memastikan bahwa validasi dan pengujian dapat terjadi secara terus-menerus, bukan hanya selama tinjauan berkala. Dengan lanskap ancaman yang berubah setiap menit, sangat penting untuk memiliki informasi yang mutakhir. Data ancaman dari kuartal lalu sudah usang.

Apa perkembangan teknologi AI yang Anda ramalkan dalam lima tahun ke depan yang dapat memperburuk atau memitigasi risiko keamanan siber?

Banyak hal akan tergantung pada seberapa mudah AI diakses. Saat ini, penyerang tingkat rendah dapat menggunakan kemampuan AI untuk meningkatkan dan meningkatkan serangan mereka, tetapi mereka tidak menciptakan taktik baru yang belum pernah terjadi sebelumnya – mereka hanya membuat taktik yang ada lebih efektif. Saat ini, kita dapat (sebagian besar) mengkompensasi untuk itu. Tapi jika AI terus tumbuh lebih maju dan tetap mudah diakses, itu bisa berubah. Regulasi akan memainkan peran di sini – UE (dan, sampai batas tertentu, AS) telah mengambil langkah untuk mengatur bagaimana AI dikembangkan dan digunakan, jadi akan menarik untuk melihat apakah itu memiliki efek pada pengembangan AI.

Apakah Anda mengantisipasi pergeseran dalam cara organisasi memprioritaskan ancaman keamanan siber yang terkait AI dibandingkan dengan tantangan keamanan siber tradisional?

Kita sudah melihat organisasi mengakui nilai solusi seperti BAS dan manajemen eksposur. AI memungkinkan penyerang untuk meluncurkan kampanye yang maju dan terarah dengan cepat, dan tim keamanan membutuhkan setiap keunggulan yang mereka bisa dapatkan untuk membantu tetap di depan mereka. Organisasi yang menggunakan alat validasi akan memiliki waktu yang jauh lebih mudah untuk tetap mengambang dengan memprioritaskan dan memitigasi ancaman paling mendesak dan berbahaya terlebih dahulu. Ingat, sebagian besar penyerang mencari skor yang mudah. Anda mungkin tidak dapat menghentikan setiap serangan, tetapi Anda dapat menghindari membuat diri Anda menjadi target yang mudah.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Cymulate.