Steve Wilson, Chief AI dan Product Officer di Exabeam – Seri Wawancara

Steve Wilson adalah Chief AI dan Product Officer di Exabeam, di mana timnya menerapkan teknologi AI terdepan untuk menangani tantangan keamanan siber dunia nyata. Ia mendirikan dan menjadi ko-ketua Proyek Keamanan AI Gen OWASP, organisasi di balik daftar OWASP Top 10 untuk Keamanan Model Bahasa Besar standar industri.

Buku yang memenangkan penghargaan, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), dipilih sebagai Buku Keamanan Siber Paling Mutakhir oleh Cyber Defense Magazine.

Exabeam adalah pemimpin dalam kecerdasan dan otomatisasi yang memungkinkan operasi keamanan untuk perusahaan tercerdas di dunia. Dengan menggabungkan skala dan kekuatan AI dengan kekuatan analitik perilaku dan otomatisasi terdepan, organisasi memperoleh pandangan yang lebih holistik tentang insiden keamanan, mengungkap anomali yang terlewatkan oleh alat lain, dan mencapai respons yang lebih cepat, akurat, dan dapat diulang. Exabeam memberdayakan tim keamanan global untuk melawan ancaman siber, mengurangi risiko, dan menyederhanakan operasi.

Jabatan baru Anda adalah Chief AI dan Product Officer di Exabeam. Bagaimana ini mencerminkan pentingnya AI yang berkembang dalam keamanan siber?

Keamanan siber adalah salah satu domain pertama yang benar-benar menerima machine learning—di Exabeam, kami telah menggunakan ML sebagai inti mesin deteksi kami selama lebih dari satu dekade untuk mengidentifikasi perilaku anomali yang mungkin tidak ditemukan oleh manusia saja. Dengan kedatangan teknologi AI yang lebih baru, seperti agen pintar, AI telah tumbuh dari menjadi penting menjadi sangat sentral.

Peran gabungan saya sebagai Chief AI dan Product Officer di Exabeam mencerminkan evolusi ini. Di sebuah perusahaan yang sangat berkomitmen untuk memasukkan AI ke dalam produknya, dan dalam sebuah industri seperti keamanan siber di mana peran AI semakin kritis, ini masuk akal untuk mempersatukan strategi AI dan strategi produk di bawah satu peran. Integrasi ini memastikan kami strategis terarah untuk menghadirkan solusi AI yang transformatif kepada analis keamanan dan tim operasi yang paling membutuhkannya.

Exabeam adalah pelopor “agentic AI” dalam operasi keamanan. Bisakah Anda menjelaskan apa itu dalam praktek dan bagaimana itu berbeda dari pendekatan AI tradisional?

Agentic AI mewakili evolusi yang signifikan dari pendekatan AI tradisional. Ini berorientasi pada tindakan—proaktif memulai proses, menganalisis informasi, dan menyajikan wawasan sebelum analis bahkan meminta. Di luar analisis data biasa, agentic AI bertindak sebagai penasihat, menawarkan rekomendasi strategis di seluruh SOC, memandu pengguna menuju kemenangan yang paling mudah dan memberikan panduan langkah demi langkah untuk meningkatkan postur keamanan mereka. Selain itu, agen beroperasi sebagai paket khusus, bukan satu chatbot yang kikuk, masing-masing dengan kepribadian dan dataset yang dirancang untuk terintegrasi dengan lancar ke dalam alur kerja analis, insinyur, dan manajer untuk memberikan bantuan yang terarah dan berdampak.

Dengan Exabeam Nova yang mengintegrasikan beberapa agen AI di seluruh alur kerja SOC, bagaimana peran analis keamanan di masa depan? Apakah itu berkembang, menyusut, atau menjadi lebih spesialis?

Peran analis keamanan pasti berkembang. Analis, insinyur keamanan, dan manajer SOC sama-sama terbebani dengan data, peringatan, dan kasus. Perubahan nyata di masa depan bukan hanya tentang menyelamatkan waktu pada tugas-tugas yang membosankan—walaupun agen pasti membantu di sana—tetapi tentang meningkatkan peran semua orang menjadi pemimpin tim. Analis masih membutuhkan keterampilan teknis yang kuat, tetapi sekarang mereka akan memimpin tim agen yang siap untuk mempercepat tugas mereka, memperkuat keputusan mereka, dan secara nyata meningkatkan postur keamanan. Transformasi ini memposisikan analis untuk menjadi orkestrator strategis daripada responden taktis.

Data terbaru menunjukkan kesenjangan antara eksekutif dan analis mengenai dampak produktivitas AI. Mengapa Anda pikir kesenjangan persepsi ini ada, dan bagaimana itu dapat diatasi?

Data terbaru menunjukkan kesenjangan yang jelas: 71% eksekutif percaya AI secara signifikan meningkatkan produktivitas, tetapi hanya 22% analis garis depan, pengguna sehari-hari, setuju. Di Exabeam, kami telah melihat kesenjangan ini tumbuh bersama dengan hiruk-pikuk janji AI di keamanan siber baru-baru ini. Ini tidak pernah lebih mudah untuk membuat demo AI yang mencolok, dan vendor cepat untuk mengklaim mereka telah menyelesaikan setiap tantangan SOC. Sementara demo ini mempesona eksekutif awalnya, banyak yang gagal di mana itu penting—di tangan analis. Potensi ada, dan saku-saku bayaran yang nyata ada, tetapi masih terlalu banyak kebisingan dan terlalu sedikit perbaikan yang berarti. Untuk menjembatani kesenjangan persepsi ini, eksekutif harus memprioritaskan alat AI yang benar-benar memberdayakan analis, bukan hanya mengesankan dalam demo. Ketika AI benar-benar meningkatkan efektivitas analis, kepercayaan dan perbaikan produktivitas yang nyata akan mengikuti.

AI mempercepat deteksi ancaman dan respons, tetapi bagaimana Anda mempertahankan keseimbangan antara otomatisasi dan penilaian manusia dalam insiden keamanan siber yang berisiko tinggi?

Kemampuan AI berkembang pesat, tetapi model bahasa dasar yang mendasari agen pintar saat ini awalnya dirancang untuk tugas seperti terjemahan bahasa—bukan pengambilan keputusan yang nuansa, teori permainan, atau menangani faktor manusia yang kompleks. Ini membuat penilaian manusia lebih penting daripada sebelumnya dalam keamanan siber. Peran analis tidak berkurang oleh AI; itu ditingkatkan. Analis sekarang menjadi pemimpin tim, menggunakan pengalaman dan wawasan mereka untuk memandu dan mengarahkan beberapa agen, memastikan keputusan tetap dipandu oleh konteks dan nuansa. Pada akhirnya, mengimbangi otomatisasi dengan penilaian manusia adalah tentang menciptakan hubungan simbiotik di mana AI memperkuat keahlian manusia, bukan menggantinya.

Bagaimana strategi produk Anda berkembang ketika AI menjadi prinsip desain inti daripada tambahan?

Di Exabeam, strategi produk kami secara fundamental dibentuk oleh AI sebagai prinsip desain inti, bukan tambahan yang superficial. Kami membangun Exabeam dari awal untuk mendukung pembelajaran mesin—dari penggunaan log, parsing, pengayaan, dan normalisasi—untuk mempopulasi Model Informasi Umum yang kuat yang secara khusus dioptimalkan untuk memberi makan sistem ML. Data yang berkualitas tinggi tidak hanya penting bagi sistem AI—itu adalah darah mereka. Hari ini, kami langsung memasukkan agen pintar kami ke dalam alur kerja kritis, menghindari chatbot generik yang kikuk. Sebagai gantinya, kami secara tepat menargetkan kasus penggunaan yang kritis yang memberikan manfaat dunia nyata dan nyata kepada pengguna kami.

Dengan Exabeam Nova, Anda bertujuan untuk “bergerak dari bantuan ke otonom.” Apa yang merupakan tonggak kunci untuk mencapai operasi keamanan yang sepenuhnya otonom?

Gagasan tentang operasi keamanan yang sepenuhnya otonom menarik tetapi prematur. Agen otonom yang sepenuhnya, di seluruh domain, sederhananya belum efisien atau aman. Sementara pengambilan keputusan dalam AI membaik, itu belum mencapai keandalan tingkat manusia dan tidak akan dalam waktu dekat. Di Exabeam, pendekatan kami bukan mengejar otonomi total, yang kelompok kami di OWASP mengidentifikasi sebagai kerentanan inti yang dikenal sebagai Keagenan Berlebihan. Memberikan agen lebih banyak otonomi daripada yang dapat diuji dan divalidasi dengan andal memposisikan operasi pada tanah yang berisiko. Sebagai gantinya, tujuan kami adalah tim agen pintar, yang mampu tetapi dengan hati-hati dipandu, bekerja di bawah pengawasan ahli manusia di SOC. Kombinasi pengawasan manusia dan bantuan agen yang ditargetkan adalah jalur yang realistis dan berdampak ke depan.

Apa yang merupakan tantangan terbesar yang Anda hadapi dalam mengintegrasikan GenAI dan pembelajaran mesin pada skala yang diperlukan untuk keamanan siber waktu nyata?

Salah satu tantangan terbesar dalam mengintegrasikan GenAI dan pembelajaran mesin pada skala yang diperlukan untuk keamanan siber adalah mengimbangi kecepatan dan presisi. GenAI saja tidak dapat menggantikan skala besar yang ditangani oleh mesin ML kami yang berkecepatan tinggi—memproses terabyte data secara terus-menerus. Bahkan agen AI yang paling canggih memiliki “jendela konteks” yang sangat tidak mencukupi. Sebagai gantinya, resep kami melibatkan menggunakan ML untuk menyuling data besar menjadi wawasan yang dapat dioperasikan, yang kemudian diterjemahkan dan dioperasikan secara efektif oleh agen pintar kami.

Anda mendirikan OWASP Top 10 untuk Aplikasi LLM. Apa yang menginspirasi ini, dan bagaimana Anda melihatnya membentuk praktik keamanan AI terbaik?

Ketika saya meluncurkan OWASP Top 10 untuk Aplikasi LLM pada awal 2023, informasi terstruktur tentang keamanan LLM dan GenAI langka, tetapi minatnya luar biasa tinggi. Dalam beberapa hari, lebih dari 200 relawan bergabung dengan inisiatif ini, membawa opini dan keahlian yang beragam untuk membentuk daftar asli. Sejak itu, itu telah dibaca lebih dari 100.000 kali dan telah menjadi fondasi untuk standar industri internasional. Hari ini, upaya ini telah berkembang menjadi Proyek Keamanan AI Gen OWASP, yang mencakup area seperti Red Teaming AI, mengamankan sistem agen, dan menangani penggunaan ofensif Gen AI dalam keamanan siber. Kelompok kami baru-baru ini melampaui 10.000 anggota dan terus memajukan praktik keamanan AI secara global.

Buku Anda, ‘The Developer’s Playbook for LLM Security‘, memenangkan penghargaan teratas. Apa yang merupakan kesimpulan atau prinsip paling penting dari buku itu yang setiap pengembang AI harus pahami ketika membangun aplikasi yang aman?”

Kesimpulan paling penting dari buku saya, “The Developer’s Playbook for LLM Security,” adalah sederhana: “dengan kekuatan besar datang tanggung jawab besar.” Sementara memahami konsep keamanan tradisional tetap penting, pengembang sekarang menghadapi serangkaian tantangan baru yang unik untuk LLM. Teknologi ini yang kuat tidaklah gratis; itu menuntut praktik keamanan yang proaktif dan dipikirkan dengan matang. Pengembang harus memperluas perspektif mereka, mengenali dan mengatasi kerentanan ini dari awal, dan memasukkan keamanan ke dalam setiap langkah siklus hidup aplikasi AI mereka.

Bagaimana Anda melihat tenaga kerja keamanan siber berkembang dalam 5 tahun ke depan ketika agentic AI menjadi lebih umum?

Kami saat ini berada dalam perlombaan senjata AI. Musuh-musuh agresif menerapkan AI untuk memajukan tujuan jahat mereka, membuat profesional keamanan siber lebih kritis daripada sebelumnya. Lima tahun ke depan tidak akan mengurangi tenaga kerja keamanan siber; itu akan meningkatkannya. Profesional harus menerima AI, mengintegrasikannya ke dalam tim dan alur kerja mereka. Peran keamanan akan bergeser ke arah komando strategis—kurang tentang upaya individu dan lebih tentang mengatur respons yang efektif dengan tim agen yang didorong AI. Transformasi ini memungkinkan profesional keamanan siber untuk memimpin dengan tegas dan percaya diri dalam pertempuran melawan ancaman yang terus berkembang.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Exabeam.