Sean Roche, Sr. Direktur Pemasaran dan Teknik Nilai, Obsidian Security – Seri Wawancara

Sean Roche, Senior Direktur Pemasaran dan Teknik Nilai di Obsidian Security, memimpin inisiatif lintas fungsi yang fokus pada keamanan SaaS, keamanan AI, dan strategi go-to-market. Ia telah memainkan peran kunci dalam mengembangkan kerangka penggunaan unified pertama perusahaan, menyelaraskan penjualan, pemasaran, dan keberhasilan pelanggan di sekitar hasil bisnis yang dapat diukur, serta mengawasi peluncuran solusi keamanan GenAI dan agen AI. Sebelum bergabung dengan Obsidian Security, Roche memegang posisi kepemimpinan di perusahaan seperti Forter, Aviatrix, dan Okta, di mana ia berspesialisasi dalam konsultasi nilai bisnis, strategi harga, teknik nilai pelanggan, dan analisis ROI tingkat eksekutif. Latar belakangnya menggabungkan keamanan siber, strategi perangkat lunak perusahaan, dan penelitian keuangan, memberinya pengalaman luas dalam menerjemahkan kemampuan teknis menjadi dampak bisnis yang dapat diukur untuk pelanggan perusahaan.

Obsidian Security adalah perusahaan keamanan siber yang fokus pada mengamankan aplikasi SaaS, agen AI, identitas, dan integrasi perusahaan di seluruh lingkungan cloud modern. Perusahaan ini menyediakan platform unified yang dirancang untuk membantu organisasi mendeteksi ancaman, mengelola postur keamanan SaaS, mengatur akses data, dan memantau aktivitas berisiko di seluruh aplikasi bisnis kritis seperti Microsoft 365, Salesforce, Slack, dan layanan cloud lainnya. Dalam beberapa tahun terakhir, Obsidian telah memperluas keamanan agen AI, membantu perusahaan memperoleh visibilitas tentang bagaimana sistem AI otonom berinteraksi dengan platform SaaS, data, dan alur kerja dalam waktu nyata. Didirikan oleh pemimpin keamanan dengan latar belakang di perusahaan seperti CrowdStrike, Okta, Cylance, dan Carbon Black, Obsidian memposisikan diri sebagai platform keamanan SaaS dan AI yang komprehensif untuk mengatasi kompleksitas lingkungan cloud dan AI yang terus berkembang.

Anda telah membangun karir di persimpangan nilai bisnis, strategi risiko, dan keamanan SaaS, sekarang memimpin teknik nilai dan pemasaran produk di Obsidian Security. Apa yang menarik Anda untuk fokus pada mengamankan ekosistem SaaS yang didorong AI, dan bagaimana pendekatan Obsidian berbeda ketika datang ke teknologi agen yang muncul seperti OpenClaws?

Di seluruh karir saya, celah terbesar selalu ada di mana keamanan tidak bisa melihat, karena itulah tempat pelanggaran benar-benar hidup. Kami telah melihat ini dalam insiden di mana sistem yang terputus atau tidak dikelola menciptakan paparan yang kontrol tradisional tidak bisa tangkap. Dan saya telah melihat dinamika yang sama secara langsung dengan jembatan modern yang orang gunakan untuk terhubung ke platform utama, atau koneksi yang berada di luar visibilitas keamanan normal, dan dalam beberapa kasus bahkan setelah tim IT berpikir telah dinonaktifkan. Pengalaman itu membuat jelas betapa banyak risiko yang hidup di celah-celah antara sistem, bukan hanya di dalam sistem yang kita pikir telah kita amankan.

Kenangan ini bergeser dari IT bayangan ke AI bayangan, di mana alat dan alur kerja yang didorong agen dapat muncul dan menyebar lebih cepat dari strategi tata kelola dapat mengimbangi. Banyak pendekatan keamanan merespons dengan mencoba mengentralisasi dan mengendalikan semua dalam satu bidang kontrol. Namun, model itu runtuh dalam lingkungan terdistribusi, terutama ketika data dan aktivitas kritis terjadi di dalam aplikasi pihak ketiga yang tidak Anda miliki dan tidak bisa Anda kendalikan sepenuhnya.

Itulah yang menarik saya untuk mengamankan ekosistem SaaS yang didorong AI, dan itulah mengapa pendekatan Obsidian sangat menggoda. Jumlah pelanggaran SaaS telah meningkat sebesar 300%, namun sebagian besar organisasi masih kekurangan visibilitas yang tepat tentang bagaimana aplikasi tersebut digunakan. Ini adalah celah yang kita fokuskan, sehingga Anda bisa memahami apa yang sebenarnya terjadi di dalam perusahaan dan di mana paparan ada. Ketika teknologi agen seperti OpenClaws matang, pendekatan ini menjadi semakin penting, karena risiko tidak hanya apakah agen memiliki akses ke data tertentu, tetapi apa yang bisa diakses dan seberapa cepat bisa bertindak.

Sistem AI agen seperti OpenClaws mendapatkan perhatian signifikan setelah NVIDIA GTC. Dari perspektif Anda, apa yang secara fundamental membedakan sistem ini dari alat AI sebelumnya dalam hal risiko keamanan?

Memahami apa itu identitas non-manusia dan bagaimana mengamankannya telah menjadi kritis bagi tim keamanan, karena 68% insiden keamanan IT melibatkan identitas mesin dan setengah dari perusahaan yang disurvei telah mengalami pelanggaran keamanan karena identitas non-manusia yang tidak dikelola. Industri keamanan sebagian besar telah fokus pada pengelolaan postur keamanan SaaS dan tata kelola identitas manusia, sementara identitas non-manusia berkembang di latar belakang. Sekarang, ketika organisasi mengirimkan agen AI dengan hak administratif secara besar-besaran, defisit tata kelola telah menjadi kritis.

Sistem agen seperti OpenClaws menunjukkan baik janji dan risiko dari AI yang benar-benar agen. Ini adalah salah satu kali pertama kita melihat AI dirilis ke alam liar dengan otonomi nyata, beroperasi di luar alur kerja yang terawasi secara ketat.

Risiko keamanan berubah dengan cepat ketika kemampuan tersebut menjadi lebih mudah diakses, menurunkan hambatan bagi non-ahli untuk berinteraksi, dan potensial mengeksploitasi sistem kritis ini. Orang-orang sudah menghubungkan agen AI ke lingkungan SaaS mereka dan memperluas lanskap ancaman dengan berbagai cara, termasuk melalui kunci API, integrasi asli, dan aplikasi pihak ketiga. Namun, setiap alur kerja agen yang baru memperbanyak jumlah jalur akses.

Pelanggaran Vercel baru-baru ini menggambarkan ancaman yang tumbuh ini yang dihadapi tim keamanan. Ketika Anda memberi wewenang aplikasi pihak ketiga, Anda secara implisit mempercayai semua orang yang menyentuh infrastruktur aplikasi tersebut, penyedia cloud mereka, pengembang mereka, layanan terhubung mereka sendiri. Sebagian besar organisasi tidak tahu apa yang telah mereka setujui, dan masalah ini diperburuk oleh penggunaan AI agen yang meluas.

Banyak agen AI beroperasi tanpa harness nyata untuk mengendalikannya. Ketika Anda tidak memiliki akses ke sidik jari atau memiliki pengaman yang lemah, sulit untuk mengetahui apa yang dilakukan agen, apa yang disentuh, dan apa yang berubah sampai setelah kejadian. Kombinasi itu adalah yang membuat profil risiko secara fundamental berbeda dari alat AI sebelumnya.

Anda telah menggambarkan OpenClaws sebagai potensi memaparkan permukaan serangan baru karena izin yang luas dan otonomi. Bisakah Anda menjelaskan skenario dunia nyata di mana risiko ini menjadi nyata bagi sebuah perusahaan? 

Risiko seperti yang ditimbulkan oleh OpenClaws menjadi nyata saat agen tersebut dipindahkan dari tugas terisolasi dan dipasang ke lingkungan produksi nyata, yang sudah terjadi.

Sebagian besar organisasi fokus pada memastikan orang yang tepat dapat mengakses agen dan bahwa agen berperilaku seperti yang diharapkan. Namun, sedikit organisasi yang memikirkan apa yang terjadi ketika agen mulai berinteraksi dengan agen lain.

Itulah di mana permukaan serangan berkembang secara dramatis. Begitu keluaran dari satu sistem, seperti pesan Slack atau tiket Jira, menjadi pemicu untuk tindakan di sistem lain. Pemimpin kehilangan kontrol atas interaksi dan tidak bisa mempertahankan visibilitas dan jejak audit yang konsisten. Agen-agen ini juga secara bersamaan terhubung melintasi API SaaS, banyak di antaranya masih kekurangan gerbang atau perlindungan keamanan yang tepat.

Perusahaan rata-rata sudah menjalankan ratusan agen, jumlah yang telah tumbuh hampir 100x dalam setahun terakhir. Ketika tim benar-benar melihat, 38% membawa faktor risiko sedang, tinggi, atau kritis, sebagian besar tanpa pemilik yang didokumentasikan, beberapa dibangun oleh akun yang tidak lagi ada, dengan penghubung langsung ke sistem produksi dan tidak ada riwayat eksekusi.

Menutup celah ini memerlukan visibilitas yang dalam di dalam aplikasi itu sendiri untuk lebih memahami apa yang bisa dilakukan oleh kredensial tersebut, di setiap sistem, terhadap setiap dataset, untuk setiap pemanggil potensial. Tanpa konteks yang tepat, Anda beroperasi dengan hanya setengah gambaran. Pemimpin juga perlu menggeser strategi dari deteksi ke penegakan runtime untuk memblokir tindakan pada saat eksekusi, sebelum tindakan selesai, bukan setelah kerusakan sudah terjadi.

Banyak organisasi percaya mereka sudah memiliki keamanan SaaS yang memadai. Di mana asumsi ini runtuh ketika AI agen memasuki gambaran?

Banyak organisasi percaya mereka telah “menyelesaikan” keamanan SaaS, tetapi asumsi itu sedang ditantang karena adopsi AI agen yang dipercepat. Keamanan SaaS sering diperlakukan sebagai kotak yang perlu dicentang: anggaran disetujui, alat diterapkan, dan masalah dianggap telah ditangani. Namun, dalam praktiknya, API SaaS yang mendasari lingkungan ini tidak pernah sepenuhnya dikendalikan, sebagian karena ada visibilitas terbatas di tingkat perusahaan tentang apa yang terjadi di lapisan API dan apa saja aset SaaS yang berbicara satu sama lain.

Hal ini menciptakan titik buta struktural, di mana perusahaan mungkin mengamankan identitas dan titik akhir, tetapi mereka sering kekurangan pandangan yang jelas tentang bagaimana data SaaS diakses dan digunakan ketika API digunakan. Sebagai hasilnya, banyak organisasi masih beroperasi di internet terbuka langsung ke sistem kritis tanpa sepenuhnya memahami skala atau perilaku interaksi yang didorong API yang terjadi di bawahnya.

AI agen sekarang memaparkan celah ini, menciptakan tantangan lebih cepat dari tim dapat menutupnya, dan dengan demikian menjadi katalis untuk percakapan API.

Bagaimana perusahaan harus memikirkan kembali tata kelola ketika berhadapan dengan agen AI otonom yang dapat mengakses, memindahkan, dan bertindak pada data di seluruh sistem yang berbeda?  

Tidak ada pemimpin yang ingin memperlambat adopsi AI sekarang, terutama karena tekanan meningkat untuk bergerak lebih cepat atau menunjukkan output yang dapat diukur, bahkan konsumsi token digunakan dalam evaluasi. Dalam banyak kasus, mandat AI datang langsung dari atas, dengan CEO melaporkan kemajuan kepada dewan atau bahkan pemangku kepentingan publik, yang hanya meningkatkan tekanan untuk mengadopsi dengan kecepatan. Dalam lingkungan seperti itu, di mana “AI dengan semua biaya” menjadi postur default, konfigurasi yang salah dan akses yang berlebihan tidak bisa diperbaiki dengan cepat melalui siklus tata kelola tradisional.

Masalahnya adalah sistem agen tidak menunggu remediasi. Mereka dapat menemukan sistem, merantai tindakan, dan mengeksekusi alur kerja di seluruh aplikasi SaaS dalam hitungan detik, sering menyelesaikan sepuluh atau lebih langkah sebelum manusia bisa mendeteksi, apalagi campur tangan.

Itulah mengapa tata kelola tidak lagi hanya tentang menangkap masalah lebih awal dalam siklus hidup pengembangan, tetapi semakin tentang kontrol pada saat agen benar-benar bertindak. Pemimpin keamanan tidak bisa mengatur agen jika kontrol hanya terjadi setelah penyalahgunaan.

Dalam dunia di mana agen membuat keputusan otonom di seluruh sistem SaaS, pendekatan yang layak untuk melindungi terhadap ancaman yang didorong AI-agent adalah melalui Tata Kelola Runtime. Pendekatan ini memerlukan melampaui deteksi pasca-eksekusi, untuk mendeteksi dan memblokir eskalasi privilegi, akses data berlebihan, dan pelanggaran kebijakan sebelum mereka bisa mempengaruhi organisasi. Kontrol ini harus selaras dengan standar OWASP dan praktik terbaik industri, memastikan agen beroperasi dalam batasan yang eksplisit dan dapat ditegakkan – sehingga tim bisa mengimbangi kecepatan adopsi AI-agent tanpa mengorbankan inovasi.

Dari sudut pandang teknis, apa yang paling diabaikan kerentanan yang diperkenalkan oleh AI agen dalam lingkungan SaaS?

Ketika organisasi mengadopsi alat SaaS baru, mereka semakin menemukan bahwa fungsi AI sering ditambahkan atau diaktifkan secara default. Masalahnya adalah kemampuan ini sering tidak datang dengan tingkat kontrol konfigurasi atau auditabilitas yang sama yang tim keamanan andalkan untuk fitur SaaS tradisional. Sebagai hasilnya, ketika tindakan diambil, menjadi sulit untuk membedakan apakah itu dimulai oleh pengguna manusia atau agen otonom. Dalam banyak kasus, perusahaan tidak memiliki opsi untuk menonaktifkan fungsi AI.

Ketidakjelasan itu menciptakan blind spot besar bagi keamanan dan tata kelola. Jika fitur AI yang tertanam membuat keputusan atas nama pengguna, organisasi sering tidak memiliki cara yang jelas untuk melacak niat, memahami logika keputusan, atau bahkan mengkonfirmasi apa yang memicu tindakan tertentu.

Risiko menjadi lebih mencolok ketika Anda mempertimbangkan rantai pasokan AI di dalam SaaS itu sendiri. Kemampuan AI yang tertanam ini sering bergantung pada model, layanan, dan integrasi pihak ketiga yang lebih hulu. Jika bagian mana pun dari rantai itu dikompromikan, rusak, atau dimanipulasi, AI di dalam aplikasi SaaS bisa berubah menjadi partisipan aktif dalam jalur serangan.

Lapisan AI di dalam SaaS secara efektif telah menjadi rantai pasokan sendiri, dan memperkenalkan kelas risiko baru yang perlu dipantau dan diatur dengan cara yang tepat. Tanpa visibilitas tentang bagaimana sistem AI yang tertanam berperilaku dan data apa yang mereka andalkan, organisasi buta terhadap sebagian besar permukaan serangan SaaS yang tumbuh.

Anda telah bekerja secara luas pada mengkuantifikasi nilai bisnis dan risiko. Bagaimana organisasi harus mengukur eksposur keuangan dan reputasi yang terkait dengan agen AI yang tidak aman?  

Jika agen AI disalahgunakan atau menyebabkan pelanggaran, dampak langsung tidak hanya kejadian itu sendiri, tetapi respons organisasi yang mengikuti. Kejadian ini akan memperlambat laju di mana perusahaan bersedia mengadopsi dan menskala AI karena pemimpin menjadi lebih hati-hati. Begitu kepercayaan rusak, menjadi jauh lebih sulit untuk merestart mesin inovasi yang menggerakkan nilai di tempat pertama.

Dinamika ini meluas tidak hanya ke tim internal tetapi juga ke pemangku kepentingan eksternal. Dewan, pelanggan, dan pemegang saham semua mengharapkan penerapan yang bertanggung jawab, dan setiap kegagalan yang terkait dengan agen otonom dengan cepat menjadi masalah fidusia dan reputasi. Ketika keamanan tidak dibangun dengan desain, organisasi dipaksa untuk berdiskusi reaktif tentang kontrol dan keamanan, yang pada akhirnya memperlambat pengambilan keputusan di seluruh bisnis.

Ada juga eksposur keuangan yang lebih struktural yang sering diabaikan. Ketika radius ledakan AI yang dipersepsikan tumbuh, perusahaan cenderung menjadi lebih konservatif dalam mengalokasikan modal. Dalam beberapa kasus, itu berarti menahan dana atau menunda investasi untuk melindungi terhadap insiden potensial.

Dalam arti itu, mengamankan agen AI menjadi kurang dari latihan mitigasi risiko murni dan lebih dari percakapan pendapatan dan pertumbuhan. Organisasi yang bisa mengirimkan AI dengan kepercayaan, mengetahui agen yang dikelola dan terkandung, akan dapat bergerak lebih cepat, sementara mereka yang tidak memiliki kepercayaan itu secara alami akan memperlambat diri. Pada tahun 2026, kemampuan untuk mengimbangkan kecepatan dengan kepercayaan menjadi kekuatan super.

Ada ketegangan yang jelas antara adopsi AI yang cepat dan penerapan yang bertanggung jawab. Apa yang terlihat seperti strategi yang seimbang untuk perusahaan yang ingin berinovasi tanpa meningkatkan profil risiko mereka?  

Saat ini, salah satu celah terbesar antara adopsi AI dan penerapan yang bertanggung jawab adalah komunikasi. Banyak perusahaan secara aktif menggunakan AI di seluruh lingkungan SaaS, tetapi mereka tidak secara konsisten memiliki percakapan yang jelas dan eksternal tentang bagaimana AI digunakan, dan apa pengaman yang ada. Kekurangan transparansi ini sebenarnya bisa meningkatkan risiko, karena itu meninggalkan pelanggan dan mitra untuk mengasumsikan skenario terburuk daripada memahami kontrol yang sebenarnya ada.

Pendekatan yang lebih seimbang memperlakukan penggunaan AI yang bertanggung jawab sebagai bagian dari proposisi nilai, bukan hanya latihan kepatuhan internal. Ada kesempatan bagi perusahaan untuk lebih eksplisit tentang bagaimana AI dikelola di dalam lingkungan mereka, termasuk apa yang bisa dilakukan AI dan apa yang tidak bisa dilakukan, serta perlindungan apa yang ada ketika AI berinteraksi dengan sistem yang sensitif. Klaritas seperti itu membangun kepercayaan untuk mengskalakan AI dengan aman.

Perusahaan yang bisa secara jelas mengartikulasikan bagaimana AI digunakan di seluruh lingkungan SaaS mereka dan menunjukkan bahwa AI dikendalikan dengan cara yang terstruktur dan dapat diamati, akan dapat berinovasi lebih cepat tanpa meningkatkan risiko yang dirasakan.

Bagi tim keamanan, langkah-langkah apa yang harus diambil hari ini untuk menghindari menjadi pelanggaran berikutnya yang dilaporkan di media?  

AI agen tidak hanya memperkenalkan kelas risiko baru, tetapi juga mempercepat risiko yang tidak bisa dilihat. Faktanya, AI bayangan menambahkan $670K ke biaya pelanggaran rata-rata. Namun, masalah akar adalah visibilitas. Ketika organisasi tidak tahu di mana AI digunakan atau bagaimana AI berinteraksi dengan sistem, itu membutuhkan waktu lebih lama untuk mendeteksi dan mengandalkan insiden, langsung meningkatkan dampak keuangan dan regulasi.

Langkah pertama adalah membangun visibilitas di seluruh bisnis. Tim keamanan perlu memiliki gambaran yang jelas tentang penggunaan AI yang disetujui dan tidak disetujui, tidak hanya di tingkat aplikasi tetapi juga di alur kerja di mana AI secara aktif membuat atau mempengaruhi keputusan.

Saat visibilitas ada, fokus bergeser ke menerjemahkannya menjadi kebijakan yang dapat ditegakkan dan menyematkannya ke dalam sistem di mana pekerjaan sebenarnya terjadi. Itu berarti menyelaraskan dengan bisnis tentang bagaimana AI harus digunakan, kemudian bergerak dari dokumentasi ke kontrol teknis yang beroperasi di seluruh titik akhir, platform SaaS, dan sistem agen. Semakin awal kontrol tersebut diperkenalkan ke jalur eksekusi, semakin rendah kemungkinan insiden yang mahal dan sulit dikandalkan muncul dari AI bayangan dan agen otonom.

Menghadap ke depan, bagaimana Anda melihat lanskap keamanan berkembang ketika sistem AI agen menjadi lebih dalam tertanam dalam infrastruktur perusahaan?

Organisasi akan memerlukan keamanan asli AI untuk mengatasi ancaman yang didorong AI. Sistem ini harus beroperasi pada kecepatan mesin, secara fundamental mengubah operasi keamanan. Manusia akan tetap berada dalam lingkaran, tetapi bergeser ke pengawasan strategis, menerapkan konteks dan penilaian yang AI masih kurang.

Perubahan itu juga mengubah bagaimana tim keamanan disusun. Tim mungkin tidak mengecil, tetapi cakupannya akan berkembang secara signifikan, dengan seorang profesional keamanan tunggal yang bertanggung jawab atas area permukaan yang jauh lebih besar melalui otomatisasi dan alat yang didorong AI.

Tambahan, dalam lingkungan agen, pemantauan dan deteksi tidak cukup. Organisasi perlu menerapkan mekanisme penegakan yang nyata. Itu berarti membangun sistem yang berfungsi sebagai sakelar: kemampuan untuk mengaktifkan atau menonaktifkan kemampuan, membatasi perilaku dalam waktu nyata, dan mengisolasi sistem yang berperilaku tidak baik atau bisa membahayakan perusahaan yang lebih luas. Risiko rantai pasokan dalam AI terlalu besar untuk tidak memiliki kontrol seperti sakelar yang tertanam dalam arsitektur.

Menghadap ke depan, AI akan terus mempercepat, potensial melampaui kecepatan dan kemampuan manusia. Namun, percakapan tidak bisa fokus pada risiko saja; itu juga harus mencakup kesempatan. Seperti membesarkan anak, AI akan tumbuh dan membuat kesalahan, tetapi AI juga memiliki kapasitas untuk melampaui kita. Pemenangnya akan menjadi mereka yang mengadopsi AI dalam skala besar sambil membangun sistem kontrol yang diperlukan untuk menerapkannya dengan aman dan dapat dipercaya.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Obsidian Security.