Steve Wilson, Chief AI dan Product Officer di Exabeam – Seri Wawancara

Steve Wilson adalah Chief AI dan Product Officer di Exabeam, di mana timnya menerapkan teknologi AI terdepan untuk menangani tantangan keamanan siber dunia nyata. Ia mendirikan dan menjadi ko-ketua OWASP Gen AI Security Project, organisasi di balik daftar OWASP Top 10 untuk Keamanan Model Bahasa Besar standar industri.

Buku yang memenangkan penghargaan, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), dipilih sebagai Buku Keamanan Siber Paling Berani oleh Cyber Defense Magazine.

Exabeam adalah pemimpin dalam kecerdasan dan otomatisasi yang memungkinkan operasi keamanan untuk perusahaan-perusahaan pintar di dunia. Dengan menggabungkan skala dan kekuatan AI dengan kekuatan analitik perilaku dan otomatisasi terdepan industri, organisasi memperoleh pandangan yang lebih holistik tentang insiden keamanan, mengungkap anomali yang terlewatkan oleh alat lain, dan mencapai respons yang lebih cepat, akurat, dan dapat diulang. Exabeam memberdayakan tim keamanan global untuk melawan ancaman siber, mengurangi risiko, dan menyederhanakan operasi.

Jabatan baru Anda adalah Chief AI dan Product Officer di Exabeam. Bagaimana ini mencerminkan pentingnya AI yang berkembang dalam keamanan siber?

Keamanan siber adalah salah satu domain pertama yang benar-benar menerima pembelajaran mesin—di Exabeam, kami telah menggunakan ML sebagai inti mesin deteksi kami selama lebih dari satu dekade untuk mengidentifikasi perilaku anomali yang mungkin tidak dapat ditemukan oleh manusia saja. Dengan kedatangan teknologi AI yang lebih baru, seperti agen pintar, AI telah tumbuh dari menjadi penting menjadi sangat sentral.

Peran ganda saya sebagai Chief AI dan Product Officer di Exabeam mencerminkan evolusi ini. Di sebuah perusahaan yang sangat berkomitmen untuk menyematkan AI di seluruh produknya, dan dalam sebuah industri seperti keamanan siber di mana peran AI semakin kritis, ini memungkinkan untuk menyatukan strategi AI dan strategi produk di bawah satu peran. Integrasi ini memastikan kami strategis untuk menyampaikan solusi yang didorong oleh AI untuk analis keamanan dan tim operasi yang paling membutuhkannya.

Exabeam adalah pelopor “agentic AI” dalam operasi keamanan. Bisakah Anda menjelaskan apa artinya ini dalam praktek dan bagaimana ini berbeda dari pendekatan AI tradisional?

Agentic AI mewakili evolusi yang signifikan dari pendekatan AI tradisional. Ini berorientasi pada tindakan—memulai proses secara proaktif, menganalisis informasi, dan menyajikan wawasan sebelum analis bahkan meminta. Di luar analisis data biasa, agentic AI bertindak sebagai penasihat, menawarkan rekomendasi strategis di seluruh SOC, membimbing pengguna menuju kemenangan yang paling mudah dan memberikan panduan langkah demi langkah untuk meningkatkan postur keamanan mereka. Selain itu, agen beroperasi sebagai paket khusus, bukan satu chatbot yang kikuk, masing-masing disesuaikan dengan kepribadian dan dataset khusus yang terintegrasi secara mulus ke dalam alur kerja analis, insinyur, dan manajer untuk memberikan bantuan yang ditargetkan dan berdampak.

Dengan Exabeam Nova yang mengintegrasikan beberapa agen AI di seluruh alur kerja SOC, apa yang terlihat seperti masa depan peran analis keamanan? Apakah ini berkembang, menyusut, atau menjadi lebih spesialis?

Peran analis keamanan pasti berkembang. Analis, insinyur keamanan, dan manajer SOC sama-sama terhimpit dengan data, peringatan, dan kasus. Perubahan nyata di masa depan bukan hanya tentang menyelamatkan waktu pada tugas-tugas yang membosankan—meskipun agen pasti membantu di sana—tetapi tentang meningkatkan peran semua orang menjadi tim lead. Analis masih membutuhkan keterampilan teknis yang kuat, tetapi sekarang mereka akan memimpin tim agen yang siap untuk mempercepat tugas mereka, memperkuat keputusan mereka, dan benar-benar meningkatkan postur keamanan. Transformasi ini memposisikan analis untuk menjadi orkestrator strategis bukan lagi responder taktis.

Data terbaru menunjukkan kesenjangan antara eksekutif dan analis tentang dampak produktivitas AI. Mengapa Anda pikir kesenjangan persepsi ini ada, dan bagaimana ini dapat diatasi?

Data terbaru menunjukkan kesenjangan yang jelas: 71% eksekutif percaya AI secara signifikan meningkatkan produktivitas, tetapi hanya 22% analis garis depan, pengguna sehari-hari, setuju. Di Exabeam, kami telah melihat kesenjangan ini tumbuh seiring dengan hiruk-pikuk janji AI di keamanan siber baru-baru ini. Tidak pernah lebih mudah untuk membuat demo AI yang mencolok, dan vendor cepat untuk mengklaim mereka telah menyelesaikan setiap tantangan SOC. Sementara demo ini mempesona eksekutif awalnya, banyak yang gagal di mana itu penting—di tangan analis. Potensi ada, dan saku-saku pembayaran yang sebenarnya ada, tetapi masih terlalu banyak kebisingan dan terlalu sedikit perbaikan yang signifikan. Untuk menjembatani kesenjangan persepsi ini, eksekutif harus memprioritaskan alat AI yang benar-benar memberdayakan analis, bukan hanya mengesankan dalam demo. Ketika AI benar-benar meningkatkan efektivitas analis, kepercayaan dan perbaikan produktivitas yang sebenarnya akan mengikuti.

AI mempercepat deteksi ancaman dan respons, tetapi bagaimana Anda mempertahankan keseimbangan antara otomatisasi dan penilaian manusia dalam insiden keamanan siber yang berisiko tinggi?

Kemampuan AI berkembang pesat, tetapi model bahasa dasar yang mendasari agen pintar saat ini awalnya dirancang untuk tugas seperti terjemahan bahasa—bukan pengambilan keputusan nuansa, teori permainan, atau menangani faktor manusia yang kompleks. Ini membuat penilaian manusia lebih penting dari sebelumnya dalam keamanan siber. Peran analis tidak berkurang oleh AI; ini ditingkatkan. Analis sekarang menjadi pemimpin tim, menggunakan pengalaman dan wawasan mereka untuk memandu dan mengarahkan beberapa agen, memastikan keputusan tetap diberitahu oleh konteks dan nuansa. Pada akhirnya, menjaga keseimbangan antara otomatisasi dan penilaian manusia adalah tentang menciptakan hubungan simbiotik di mana AI memperkuat keahlian manusia, bukan menggantinya.

Bagaimana strategi produk Anda berkembang ketika AI menjadi prinsip desain inti bukan tambahan?

Di Exabeam, strategi produk kami secara fundamental dibentuk oleh AI sebagai prinsip desain inti, bukan tambahan. Kami membangun Exabeam dari awal untuk mendukung pembelajaran mesin—dari penggunaan log, parsing, pengayaan, dan normalisasi—untuk mempopulasikan Model Informasi Umum yang kuat yang dioptimalkan untuk memberi makan sistem ML. Data yang terstruktur dengan kualitas tinggi tidak hanya penting untuk sistem AI—ini adalah darah mereka. Hari ini, kami menyematkan agen pintar kami langsung ke alur kerja kritis, menghindari chatbot generik yang kikuk. Sebaliknya, kami secara tepat menargetkan kasus penggunaan yang sangat penting yang memberikan manfaat dunia nyata dan nyata kepada pengguna kami.

Dengan Exabeam Nova, Anda bertujuan untuk “bergerak dari asisten ke otonom.” Apa yang menjadi tonggak utama untuk mencapai operasi keamanan siber yang sepenuhnya otonom?

Gagasan tentang operasi keamanan siber yang sepenuhnya otonom menarik tetapi prematur. Agen otonom sepenuhnya, di domain mana pun, tidak cukup efisien atau aman. Sementara pengambilan keputusan AI membaik, ini belum mencapai keandalan manusia dan tidak akan dalam waktu dekat. Di Exabeam, pendekatan kami bukan mengejar otonomi total, yang grup saya di OWASP identifikasi sebagai kerentanan inti yang dikenal sebagai Agen Berlebihan. Memberikan agen lebih banyak otonomi daripada yang dapat diuji dan divalidasi dengan andal memposisikan operasi pada tanah yang berisiko. Sebaliknya, tujuan kami adalah tim agen pintar, yang mampu tetapi dengan hati-hati dipandu, bekerja di bawah pengawasan ahli manusia di SOC. Kombinasi pengawasan manusia dan bantuan agen yang ditargetkan adalah jalur yang realistis dan berdampak.

Apa yang menjadi tantangan terbesar yang Anda hadapi dalam mengintegrasikan GenAI dan pembelajaran mesin pada skala yang diperlukan untuk keamanan siber waktu nyata?

Salah satu tantangan terbesar dalam mengintegrasikan GenAI dan pembelajaran mesin pada skala yang diperlukan untuk keamanan siber adalah menjaga keseimbangan antara kecepatan dan presisi. GenAI saja tidak dapat menggantikan skala yang besar yang ditangani oleh mesin ML kami—memproses terabyte data terus-menerus. Bahkan agen AI paling canggih memiliki “jendela konteks” yang sangat tidak memadai. Sebaliknya, resep kami melibatkan menggunakan ML untuk menyuling data besar menjadi wawasan yang dapat ditindaklanjuti, yang kemudian diterjemahkan dan dioperasikan secara efektif oleh agen pintar kami.

Anda mendirikan OWASP Top 10 untuk Aplikasi LLM. Apa yang menginspirasi ini, dan bagaimana Anda melihat ini membentuk praktik keamanan AI terbaik?

Ketika saya meluncurkan OWASP Top 10 untuk Aplikasi LLM pada awal 2023, informasi terstruktur tentang keamanan LLM dan GenAI langka, tetapi minat sangat tinggi. Dalam beberapa hari, lebih dari 200 relawan bergabung dengan inisiatif, membawa opini dan keahlian yang beragam untuk membentuk daftar asli. Sejak itu, ini telah dibaca lebih dari 100.000 kali dan telah menjadi fondasi untuk standar industri internasional. Hari ini, upaya ini telah berkembang menjadi OWASP Gen AI Security Project, yang mencakup area seperti AI Red Teaming, mengamankan sistem agen, dan menangani penggunaan ofensif Gen AI dalam keamanan siber. Kelompok kami baru-baru ini melampaui 10.000 anggota dan terus maju dalam praktik keamanan AI secara global.

Buku Anda, ‘The Developer’s Playbook for LLM Security‘, memenangkan penghargaan teratas. Apa yang menjadi pengambilan utama atau prinsip dari buku yang setiap pengembang AI harus pahami ketika membangun aplikasi yang aman?

Pengambilan utama dari buku saya, “The Developer’s Playbook for LLM Security,” adalah sederhana: “dengan kekuatan besar datang tanggung jawab besar.” Sementara memahami konsep keamanan tradisional tetap penting, pengembang sekarang menghadapi serangkaian tantangan baru yang unik untuk LLM. Teknologi yang kuat ini bukanlah jalur bebas, ini menuntut praktik keamanan yang proaktif dan berpikir. Pengembang harus memperluas perspektif mereka, mengenali dan mengatasi kerentanan ini dari awal, menyematkan keamanan ke setiap langkah siklus hidup aplikasi AI mereka.

Bagaimana Anda melihat evolusi tenaga kerja keamanan siber dalam 5 tahun ke depan ketika agentic AI menjadi lebih mainstream?

Kami saat ini berada dalam perlombaan senjata AI. Penyerang menggunakan AI secara agresif untuk memajukan tujuan jahat mereka, membuat profesional keamanan siber lebih penting dari sebelumnya. Lima tahun ke depan tidak akan mengurangi tenaga kerja keamanan siber, mereka akan meningkatkannya. Profesional harus menerima AI, mengintegrasikannya ke dalam tim dan alur kerja mereka. Peran keamanan akan bergeser menuju komando strategis—kurang tentang upaya individu dan lebih tentang mengarahkan respons yang efektif dengan tim agen yang didorong oleh AI. Transformasi ini memberdayakan profesional keamanan siber untuk memimpin dengan percaya diri dan tegas dalam pertempuran melawan ancaman yang terus berkembang.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Exabeam.