Sean Roche, Direktur Senior Pemasaran Produk dan Analisis Nilai di Obsidian Security – Seri Wawancara

Sean Roche, Direktur Senior Pemasaran Produk dan Analisis Nilai di Obsidian Security, memimpin inisiatif lintas fungsi yang fokus pada keamanan SaaS, keamanan AI, dan strategi go-to-market. Ia telah memainkan peran kunci dalam mengembangkan kerangka kasus penggunaan terpadu pertama perusahaan, menyelaraskan penjualan, pemasaran, dan keberhasilan pelanggan di sekitar hasil bisnis yang dapat diukur, serta mengawasi peluncuran solusi keamanan GenAI dan agen AI. Sebelum bergabung dengan Obsidian Security, Roche memegang posisi kepemimpinan di perusahaan seperti Forter, Aviatrix, dan Okta, di mana ia berspesialisasi dalam konsultasi nilai bisnis, strategi harga, analisis nilai bagi pelanggan, dan analisis ROI tingkat eksekutif. Latar belakangnya menggabungkan keamanan siber, strategi perangkat lunak perusahaan, dan penelitian keuangan, memberinya pengalaman luas dalam menerjemahkan kemampuan teknis menjadi dampak bisnis yang dapat diukur untuk pelanggan perusahaan.

Obsidian Security adalah perusahaan keamanan siber yang fokus pada mengamankan aplikasi SaaS, agen AI, identitas, dan integrasi perusahaan di seluruh lingkungan cloud modern. Perusahaan ini menyediakan platform terpadu yang dirancang untuk membantu organisasi mendeteksi ancaman, mengelola postur keamanan SaaS, mengatur akses data, dan memantau aktivitas berisiko di seluruh aplikasi bisnis kritis seperti Microsoft 365, Salesforce (CRM ), Slack, dan layanan cloud lainnya. Dalam beberapa tahun terakhir, Obsidian telah memperluas kegiatan ke bidang keamanan agen AI, membantu perusahaan memperoleh visibilitas tentang bagaimana sistem AI otonom berinteraksi dengan platform SaaS, data, dan alur kerja dalam waktu nyata. Didirikan oleh pemimpin keamanan dengan latar belakang di perusahaan seperti CrowdStrike (CRWD ), Okta, Cylance, dan Carbon Black, Obsidian memposisikan diri sebagai platform keamanan SaaS dan AI yang komprehensif untuk mengatasi kompleksitas yang terus meningkat pada lingkungan cloud dan sistem agen AI.

Anda telah membangun karier di persimpangan nilai bisnis, strategi risiko, dan keamanan SaaS, sekarang memimpin analisis nilai dan pemasaran produk di Obsidian Security. Apa yang menarik Anda untuk fokus pada mengamankan ekosistem SaaS yang didorong AI, dan bagaimana pendekatan Obsidian berbeda dalam menghadapi teknologi agen baru seperti OpenClaws?

Di seluruh karier saya, celah terbesar selalu ada di mana keamanan tidak bisa melihat, karena itulah tempat pembobolan keamanan benar-benar terjadi. Kami telah melihat ini dalam insiden di mana sistem yang terputus atau tidak dikelola menciptakan paparan yang kontrol tradisional tidak bisa tangkap. Dan saya telah melihat dinamika yang sama secara langsung dengan jembatan modern yang orang gunakan untuk terhubung ke platform utama, atau koneksi yang berada di luar visibilitas keamanan normal, dan dalam beberapa kasus bahkan setelah tim IT berpikir telah dinonaktifkan. Pengalaman itu membuat jelas betapa banyak risiko yang hidup di celah-celah antara sistem, bukan hanya di dalam sistem yang kita pikir telah kita amankan.

Kenyataan ini bergeser dari IT bayangan ke AI bayangan, di mana alat dan alur kerja yang didorong agen dapat muncul dan menyebar lebih cepat daripada kemampuan strategi tata kelola untuk mengimbanginya. Banyak pendekatan keamanan merespons dengan mencoba memusatkan dan mengendalikan semua dalam satu bidang kontrol. Namun, model itu runtuh dalam lingkungan terdistribusi, terutama ketika data dan aktivitas kritis terjadi di dalam aplikasi pihak ketiga yang tidak Anda miliki dan tidak bisa Anda kendalikan sepenuhnya.

Itulah yang menarik saya untuk mengamankan ekosistem SaaS yang didorong AI, dan itulah mengapa pendekatan Obsidian sangat meyakinkan. Jumlah pelanggaran SaaS telah meningkat sebesar 300%, namun sebagian besar organisasi masih kekurangan visibilitas yang tepat tentang bagaimana aplikasi tersebut digunakan. Ini adalah celah yang kita fokuskan, sehingga Anda bisa memahami apa yang sebenarnya terjadi di dalam perusahaan dan di mana paparan ada. Ketika teknologi agen seperti OpenClaws matang, pendekatan ini menjadi semakin penting, karena risiko tidak hanya apakah agen memiliki akses ke data tertentu, tetapi apa yang bisa diakses dan seberapa cepat bisa bertindak.

Sistem AI agen seperti OpenClaws mendapatkan perhatian signifikan setelah NVIDIA (NVDA ) GTC. Dari perspektif Anda, apa yang secara fundamental membedakan sistem ini dari alat AI sebelumnya dalam hal risiko keamanan?

Memahami apa itu identitas non-manusia dan bagaimana mengamankannya telah menjadi kritis bagi tim keamanan, karena 68% insiden keamanan IT melibatkan identitas mesin dan setengah dari perusahaan yang disurvei telah mengalami pelanggaran keamanan karena identitas non-manusia yang tidak dikelola. Industri keamanan sebagian besar telah fokus pada pengelolaan postur keamanan SaaS dan tata kelola identitas manusia, sementara identitas non-manusia berkembang di latar belakang. Sekarang, ketika organisasi menerapkan agen AI dengan hak administratif secara besar-besaran, defisit tata kelola telah menjadi kritis.

Sistem agen seperti OpenClaws menunjukkan potensi sekaligus risiko AI yang benar-benar bekerja sebagai agen otonom. Ini adalah salah satu kali pertama kita melihat AI dilepas ke lingkungan nyata dengan otonomi sungguhan, di luar alur kerja terbatas yang diawasi.

Risiko keamanan berubah dengan cepat ketika kemampuan tersebut menjadi lebih mudah diakses, menurunkan hambatan bagi non-ahli untuk berinteraksi, dan berpotensi menyalahgunakan sistem kritis ini. Orang-orang sudah menghubungkan agen AI ke lingkungan SaaS mereka dan memperluas lanskap ancaman dengan berbagai cara, termasuk melalui kunci API, integrasi bawaan, dan aplikasi pihak ketiga. Namun, setiap alur kerja agen yang baru memperbanyak jumlah jalur akses.

Pembobolan Vercel baru-baru ini menggambarkan ancaman yang tumbuh ini yang dihadapi tim keamanan. Ketika Anda memberi wewenang aplikasi pihak ketiga, Anda secara implisit mempercayai semua orang yang menyentuh infrastruktur aplikasi tersebut, penyedia cloud mereka, pengembang mereka, layanan terhubung mereka sendiri. Sebagian besar organisasi tidak tahu apa yang telah mereka setujui, dan masalah ini diperburuk oleh penggunaan agen AI yang meluas tanpa kendali.

Banyak agen AI beroperasi tanpa kerangka kontrol teknis yang nyata untuk mengendalikannya. Ketika Anda tidak memiliki jejak yang dapat mengidentifikasi aktivitas agen atau memiliki pengaman yang lemah, sulit untuk mengetahui apa yang dilakukan agen, apa yang disentuh, dan apa yang berubah sampai setelah kejadian. Kombinasi itu adalah yang membuat profil risiko secara fundamental berbeda dari alat AI sebelumnya.

Anda telah menggambarkan OpenClaws sebagai teknologi yang berpotensi membuka permukaan serangan baru karena izin yang luas dan otonomi. Bisakah Anda menjelaskan skenario dunia nyata di mana risiko ini menjadi nyata bagi sebuah perusahaan? 

Risiko seperti yang ditimbulkan oleh OpenClaws menjadi nyata saat agen tersebut dipindahkan dari tugas terisolasi dan dipasang ke lingkungan produksi nyata, yang sudah terjadi.

Sebagian besar organisasi fokus pada memastikan orang yang tepat dapat mengakses agen dan bahwa agen berperilaku seperti yang diharapkan. Namun, sedikit organisasi yang memikirkan apa yang terjadi ketika agen mulai berinteraksi dengan agen lain.

Itulah di mana permukaan serangan berkembang secara dramatis. Keluaran dari satu sistem, seperti pesan Slack atau tiket Jira, menjadi pemicu tindakan di sistem lain. Pemimpin kehilangan kontrol atas interaksi dan tidak bisa mempertahankan visibilitas dan jejak audit yang konsisten. Agen-agen ini juga secara bersamaan terhubung melintasi API SaaS, banyak di antaranya masih kekurangan gerbang atau perlindungan keamanan yang tepat.

Perusahaan rata-rata sudah menjalankan ratusan agen, jumlah yang telah tumbuh hampir 100x dalam setahun terakhir. Ketika tim memeriksanya, 38% menunjukkan faktor risiko sedang, tinggi, atau kritis, sebagian besar tanpa pemilik yang didokumentasikan, beberapa dibangun oleh akun yang tidak lagi ada, dengan penghubung langsung ke sistem produksi dan tidak ada riwayat eksekusi.

Menutup celah ini memerlukan visibilitas mendalam di dalam aplikasi itu sendiri untuk lebih memahami apa yang bisa dilakukan oleh kredensial tersebut, di setiap sistem, terhadap setiap dataset, untuk setiap pemanggil potensial. Tanpa konteks yang tepat, Anda beroperasi dengan hanya setengah gambaran. Pemimpin juga perlu menggeser strategi dari deteksi ke penegakan runtime untuk memblokir tindakan pada saat eksekusi, sebelum tindakan selesai, bukan setelah kerusakan sudah terjadi.

Banyak organisasi percaya mereka sudah memiliki keamanan SaaS yang memadai. Di mana asumsi ini runtuh ketika agen AI mulai berperan?

Banyak organisasi percaya mereka telah “menyelesaikan” keamanan SaaS, tetapi asumsi itu sedang ditantang karena penerapan agen AI semakin cepat. Keamanan SaaS sering diperlakukan sebagai kotak yang perlu dicentang: anggaran disetujui, alat diterapkan, dan masalah dianggap telah ditangani. Namun, dalam praktiknya, API SaaS yang mendasari lingkungan ini tidak pernah sepenuhnya dikendalikan, sebagian karena ada visibilitas terbatas di tingkat perusahaan tentang apa yang terjadi di lapisan API dan aset SaaS mana saja yang saling berkomunikasi.

Hal ini menciptakan titik buta struktural, di mana perusahaan mungkin mengamankan identitas dan titik akhir, tetapi mereka sering kekurangan pandangan yang jelas tentang bagaimana data SaaS diakses dan digunakan ketika API digunakan. Sebagai hasilnya, banyak organisasi masih beroperasi di internet terbuka langsung ke sistem kritis tanpa sepenuhnya memahami skala atau perilaku interaksi yang didorong API yang terjadi di bawahnya.

Agen AI kini menyingkap celah ini, menciptakan tantangan lebih cepat daripada kemampuan tim untuk menutupnya, dan dengan demikian menjadi katalis untuk percakapan API.

Bagaimana perusahaan harus memikirkan kembali tata kelola ketika berhadapan dengan agen AI otonom yang dapat mengakses, memindahkan, dan bertindak pada data di seluruh sistem yang berbeda?  

Tidak ada pemimpin yang ingin memperlambat adopsi AI sekarang, terutama karena tekanan meningkat untuk bergerak lebih cepat atau menunjukkan output yang dapat diukur, bahkan konsumsi token digunakan dalam evaluasi. Dalam banyak kasus, mandat AI datang langsung dari atas, dengan CEO melaporkan kemajuan kepada dewan atau bahkan pemangku kepentingan publik, yang hanya meningkatkan tekanan untuk mengadopsi AI dengan cepat. Dalam lingkungan seperti itu, di mana “AI dengan segala cara” menjadi sikap bawaan, konfigurasi yang salah dan akses yang berlebihan secara realistis tidak bisa diperbaiki cukup cepat melalui siklus tata kelola tradisional.

Masalahnya adalah sistem agen tidak menunggu remediasi. Mereka dapat menemukan sistem, merantai tindakan, dan mengeksekusi alur kerja di seluruh aplikasi SaaS dalam hitungan detik, sering menyelesaikan sepuluh atau lebih langkah sebelum manusia bisa mendeteksi, apalagi campur tangan.

Itulah mengapa tata kelola tidak lagi hanya tentang menangkap masalah lebih awal dalam siklus hidup pengembangan, tetapi semakin tentang kontrol pada saat agen benar-benar bertindak. Pemimpin keamanan tidak bisa mengatur agen jika kontrol hanya terjadi setelah penyalahgunaan.

Dalam dunia di mana agen membuat keputusan otonom di seluruh sistem SaaS, satu-satunya pendekatan yang layak untuk melindungi terhadap ancaman yang didorong AI-agent adalah melalui tata kelola selama pelaksanaan tindakan. Pendekatan ini memerlukan melampaui deteksi pasca-eksekusi, untuk mendeteksi dan memblokir eskalasi hak akses, akses data berlebihan, dan pelanggaran kebijakan sebelum mereka bisa mempengaruhi organisasi. Kontrol ini harus selaras dengan standar OWASP dan praktik terbaik industri, memastikan agen beroperasi dalam batasan yang eksplisit dan dapat ditegakkan – sehingga tim bisa mengimbangi kecepatan adopsi AI-agent tanpa mengorbankan inovasi.

Dari sudut pandang teknis, kerentanan apa yang paling sering diabaikan ketika agen AI diperkenalkan dalam lingkungan SaaS?

Ketika organisasi mengadopsi alat SaaS baru, mereka semakin menemukan bahwa fungsi AI sering ditambahkan atau diaktifkan secara default. Masalahnya adalah kemampuan ini sering tidak datang dengan tingkat kontrol konfigurasi atau auditabilitas yang sama yang tim keamanan andalkan untuk fitur SaaS tradisional. Sebagai hasilnya, ketika tindakan diambil, menjadi sulit untuk membedakan apakah itu dimulai oleh pengguna manusia atau agen otonom. Dalam banyak kasus, perusahaan tidak memiliki opsi untuk menonaktifkan fungsi AI karena kemampuan tersebut tertanam di dalam aplikasi SaaS itu sendiri.

Ketidakjelasan itu menciptakan titik buta besar bagi keamanan dan tata kelola. Jika fitur AI yang tertanam membuat keputusan atas nama pengguna, organisasi sering tidak memiliki cara yang jelas untuk melacak niat, memahami logika keputusan, atau bahkan mengkonfirmasi apa yang memicu tindakan tertentu.

Risiko menjadi lebih mencolok ketika Anda mempertimbangkan rantai pasokan AI di dalam SaaS itu sendiri. Kemampuan AI yang tertanam ini sering bergantung pada model, layanan, dan integrasi pihak ketiga yang lebih hulu. Jika bagian mana pun dari rantai itu dikompromikan, rusak, atau dimanipulasi, AI di dalam aplikasi SaaS bisa berubah menjadi partisipan aktif dalam jalur serangan.

Lapisan AI di dalam SaaS secara efektif telah menjadi rantai pasokan sendiri, dan memperkenalkan kelas risiko baru yang perlu dipantau dan dikelola secara terpisah. Tanpa visibilitas tentang bagaimana sistem AI yang tertanam berperilaku dan data apa yang mereka andalkan, organisasi buta terhadap bagian permukaan serangan SaaS yang terus tumbuh.

Anda telah bekerja secara luas pada mengkuantifikasi nilai bisnis dan risiko. Bagaimana organisasi harus mengukur eksposur keuangan dan reputasi yang terkait dengan agen AI yang tidak aman?  

Jika agen AI disalahgunakan atau menyebabkan pelanggaran, dampak langsung tidak hanya kejadian itu sendiri, tetapi respons organisasi yang mengikuti. Kejadian ini akan memperlambat laju di mana perusahaan bersedia mengadopsi dan menskala AI karena pemimpin menjadi lebih hati-hati. Begitu kepercayaan rusak, menjadi jauh lebih sulit untuk menghidupkan kembali mesin inovasi yang awalnya menciptakan nilai.

Dinamika ini meluas tidak hanya ke tim internal tetapi juga ke pemangku kepentingan eksternal. Dewan, pelanggan, dan pemegang saham semua mengharapkan penerapan yang bertanggung jawab, dan setiap kegagalan yang terkait dengan agen otonom dengan cepat menjadi masalah fidusia dan reputasi. Ketika keamanan tidak diintegrasikan sejak tahap perancangan, organisasi dipaksa untuk berdiskusi reaktif tentang kontrol dan keamanan, yang pada akhirnya memperlambat pengambilan keputusan di seluruh bisnis.

Ada juga eksposur keuangan yang lebih struktural yang sering diabaikan. Ketika perkiraan cakupan kerusakan akibat agen AI meningkat, perusahaan cenderung menjadi lebih konservatif dalam mengalokasikan modal. Dalam beberapa kasus, itu berarti menahan dana atau menunda investasi untuk melindungi terhadap insiden potensial.

Dalam arti itu, mengamankan agen AI bukan lagi sekadar upaya mitigasi risiko, melainkan juga pembahasan tentang pendapatan dan pertumbuhan. Organisasi yang bisa menerapkan AI dengan kepercayaan, dengan mengetahui bahwa agen dikelola dan tetap berada dalam batas yang ditetapkan, akan dapat bergerak lebih cepat, sementara mereka yang tidak memiliki kepercayaan itu secara alami akan memperlambat diri. Pada tahun 2026, kemampuan untuk memadukan kecepatan dengan kepercayaan menjadi kekuatan super.

Ada ketegangan yang jelas antara adopsi AI yang cepat dan penerapan yang bertanggung jawab. Seperti apa strategi yang seimbang untuk perusahaan yang ingin berinovasi tanpa meningkatkan profil risiko mereka?  

Saat ini, salah satu celah terbesar antara adopsi AI dan penerapan yang bertanggung jawab adalah komunikasi. Banyak perusahaan secara aktif menggunakan AI di seluruh lingkungan SaaS, tetapi mereka tidak secara konsisten memiliki percakapan yang jelas dan eksternal tentang bagaimana AI digunakan, dan apa pengaman yang ada. Kekurangan transparansi ini sebenarnya bisa meningkatkan risiko, karena itu meninggalkan pelanggan dan mitra untuk mengasumsikan skenario terburuk daripada memahami kontrol yang sebenarnya ada.

Pendekatan yang lebih seimbang memperlakukan penggunaan AI yang bertanggung jawab sebagai bagian dari proposisi nilai, bukan hanya latihan kepatuhan internal. Ada kesempatan bagi perusahaan untuk lebih eksplisit tentang bagaimana AI dikelola di dalam lingkungan mereka, termasuk apa yang bisa dilakukan AI dan apa yang tidak bisa dilakukan, serta perlindungan apa yang ada ketika AI berinteraksi dengan sistem yang sensitif. Kejelasan seperti itu membangun kepercayaan untuk memperluas penerapan AI dengan aman.

Perusahaan yang bisa secara jelas mengartikulasikan bagaimana AI digunakan di seluruh lingkungan SaaS mereka dan menunjukkan bahwa AI dikendalikan dengan cara yang terstruktur dan dapat diamati, akan dapat berinovasi lebih cepat tanpa meningkatkan risiko yang dirasakan.

Ketika makin banyak perusahaan bereksperimen dengan agen AI, langkah-langkah apa yang harus segera diambil tim keamanan hari ini untuk menghindari menjadi korban pembobolan berikutnya yang menjadi sorotan media?  

Agen AI tidak hanya memperkenalkan kelas risiko baru, tetapi juga mempercepat risiko yang tidak bisa dilihat. Faktanya, AI bayangan menambahkan $670K ke biaya pelanggaran rata-rata. Namun, akar masalahnya adalah visibilitas. Ketika organisasi tidak tahu di mana AI digunakan atau bagaimana AI berinteraksi dengan sistem, itu membutuhkan waktu lebih lama untuk mendeteksi insiden dan membatasi dampaknya, langsung meningkatkan dampak keuangan dan regulasi.

Langkah pertama adalah membangun visibilitas di seluruh bisnis. Tim keamanan perlu memiliki gambaran yang jelas tentang penggunaan AI yang disetujui dan tidak disetujui, tidak hanya di tingkat aplikasi tetapi juga di alur kerja di mana AI secara aktif membuat atau mempengaruhi keputusan.

Saat visibilitas ada, fokus bergeser ke menerjemahkannya menjadi kebijakan yang dapat ditegakkan dan menyematkannya ke dalam sistem di mana pekerjaan sebenarnya terjadi. Itu berarti menyelaraskan dengan bisnis tentang bagaimana AI harus digunakan, kemudian bergerak dari dokumentasi ke kontrol teknis yang beroperasi di seluruh titik akhir, platform SaaS, dan sistem agen. Semakin awal kontrol tersebut diperkenalkan ke jalur eksekusi, semakin rendah kemungkinan insiden yang mahal dan sulit dibatasi dampaknya muncul dari AI bayangan dan agen otonom.

Melihat ke depan, bagaimana Anda melihat lanskap keamanan berkembang ketika sistem AI agen menjadi lebih dalam tertanam dalam infrastruktur perusahaan?

Organisasi akan memerlukan keamanan yang dirancang khusus untuk AI untuk mengatasi ancaman yang didorong AI. Sistem ini harus beroperasi pada kecepatan mesin, secara fundamental mengubah operasi keamanan. Manusia akan tetap terlibat dalam proses, tetapi bergeser ke pengawasan strategis, menggunakan pemahaman konteks dan pertimbangan yang masih belum dimiliki AI.

Perubahan itu juga mengubah bagaimana tim keamanan disusun. Tim mungkin tidak mengecil, tetapi cakupannya akan berkembang secara signifikan, dengan seorang profesional keamanan tunggal yang bertanggung jawab atas area permukaan yang jauh lebih besar melalui otomatisasi dan alat yang didorong AI.

Selain itu, dalam lingkungan agen, pemantauan dan deteksi tidak cukup. Organisasi perlu menerapkan mekanisme penegakan yang nyata. Itu berarti membangun sistem yang berfungsi sebagai sakelar: kemampuan untuk mengaktifkan atau menonaktifkan kemampuan, membatasi perilaku dalam waktu nyata, dan mengisolasi sistem yang berperilaku tidak baik atau bisa membahayakan perusahaan yang lebih luas. Risiko rantai pasokan dalam AI terlalu besar untuk tidak memiliki mekanisme penghentian darurat yang tertanam dalam arsitektur.

Melihat ke depan, AI akan terus mempercepat, berpotensi melampaui kecepatan dan kemampuan manusia. Namun, percakapan tidak bisa fokus pada risiko saja; itu juga harus mencakup kesempatan. Seperti membesarkan anak, AI akan tumbuh dan membuat kesalahan, tetapi AI juga memiliki kapasitas untuk melampaui kita. Pemenangnya akan menjadi mereka yang mengadopsi AI dalam skala besar sambil membangun sistem kontrol yang diperlukan untuk menerapkannya dengan aman dan dapat dipercaya.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Obsidian Security.