Wawancara
Oran Moyal, Salah Satu Pendiri dan CTO Ocean Security – Seri Wawancara

Poin utamaStatus AI-native bersifat organisasional dan bukan teknis karena mengubah cara setiap…
Lihat selengkapnya
- Status AI-native bersifat organisasional dan bukan teknis karena mengubah cara setiap tim menangani pekerjaan.
- Mempercepat tugas individu akan gagal ketika serah terima dan persetujuan tetap menjadi hambatan nyata antar langkah.
- Agen memerlukan izin yang ditegakkan dan validasi independen karena instruksi saja bukanlah kontrol keamanan.
Oran Moyal adalah salah satu pendiri dan CTO Ocean Security. Di sana, ia mengembangkan AI berbasis agen untuk menyelidiki ancaman email yang canggih. Pengalamannya mencakup riset dan pengembangan keamanan siber, rekayasa sosial ofensif, serta keamanan perusahaan. Pada 2024, ia mendirikan Ocean bersama Shay Shwartz, berbekal pengalaman mereka menganalisis cara penyerang mengeksploitasi komunikasi tepercaya dan cara sistem keamanan merespons ancaman yang semakin tertarget.
Ocean Security membangun platform keamanan email berbasis agen AI yang dirancang untuk menyelidiki phishing tertarget, kompromi email bisnis, dan penipuan keuangan. Agen AI khususnya menganalisis konteks komunikasi dan maksud pengirim untuk membantu tim keamanan mengidentifikasi ancaman dalam interaksi bisnis yang tampak sah. Dalam wawancara ini, Moyal membahas hal-hal yang menjadikan sebuah organisasi berbasis AI sejak awal, cara merancang ulang alur kerja dengan agen, serta alasan persyaratan yang jelas, validasi independen, izin yang ditegakkan, dan pertimbangan manusia tetap menjadi unsur utama otomatisasi yang efektif.
Sebelum mendirikan Ocean bersama mitra pada 2024, Anda menghabiskan waktu bertahun-tahun bekerja di bidang riset dan pengembangan keamanan siber, termasuk di Pasukan Pertahanan Israel dan VisibleRisk / Microsoft Security. Pengalaman apa yang mendorong Anda mendirikan Ocean, dan bagaimana kemunculan AI memengaruhi visi Anda terhadap perusahaan sejak awal?
Dulu, kampanye spear phishing tertarget membutuhkan tim khusus serta berminggu-minggu riset dan persiapan manual. Ketika AI generatif muncul, kami menyadari bahwa setiap karyawan di setiap perusahaan kini rentan terhadap serangan phishing dahsyat setingkat negara. Dalam semalam, langganan seharga $20 memberi setiap penyerang kemampuan setingkat negara.
Shay dan saya memiliki keahlian mendalam dalam rekayasa sosial dari sisi ofensif, dan kami berdua pernah membangun serta mengembangkan perusahaan keamanan untuk kalangan perusahaan. Karena itu, kami tahu alat lama tak akan mampu mengimbangi perkembangan ini. Alat-alat tersebut mencari pelanggaran aturan dan anomali, tetapi serangan ini terjadi di tengah komunikasi bisnis yang normal: utas percakapan nyata, akun tepercaya, dan layanan yang sah. Tidak ada yang tampak janggal. Karena itu, pada 2024 kami mendirikan Ocean untuk membantu perusahaan beradaptasi dengan ancaman baru ini melalui keamanan email berbasis AI yang menganalisis konteks dan maksud pengirim secara waktu nyata, seperti yang dilakukan penyelidik manusia, sebelum terjadi kompromi.
Banyak organisasi menyebut diri mereka “berbasis AI sejak awal” hanya karena telah mengadopsi alat AI atau mengotomatiskan proses tertentu. Menurut Anda, apa yang secara mendasar membedakan organisasi yang benar-benar dibangun dengan AI sebagai fondasi dari organisasi yang sekadar mengintegrasikan AI ke dalam operasional yang sudah ada?
Banyak perusahaan menyebut diri mereka berbasis AI sejak awal karena telah membeli alat AI. Itu merupakan adopsi teknologi. Menjadikan AI sebagai fondasi berarti mengubah cara perusahaan menangani pekerjaan sehari-hari dan mengatasi hambatan.
Semuanya dimulai dari cara para pemimpin menyikapi hambatan. Respons spontan yang lazim adalah, “Ini memakan terlalu banyak waktu; mari kita rekrut seseorang untuk menanganinya.” Organisasi yang sejak awal dibangun dengan AI terlebih dahulu bertanya, “Bagaimana AI dapat mempercepat seluruh fungsi ini?” Jika pertanyaan itu diajukan di setiap tim, cara kerja seluruh perusahaan pun mulai berubah.
Transformasi yang benar-benar menjadikan AI sebagai fondasi bersifat organisasional, bukan teknis. Jika satu departemen dipercepat, hambatan hanya berpindah ke departemen berikutnya, sehingga perusahaan akhirnya bergerak mengikuti laju fungsi yang paling lambat. Organisasi yang menjadikan AI sebagai fondasi berubah bersama-sama, sehingga informasi mengalir lebih cepat, siklus umpan balik menjadi lebih singkat, dan tim bekerja sebagai satu sistem yang saling terhubung.
Dalam model ini, nilai yang diberikan orang-orang bergeser. Ketika AI mengambil alih lebih banyak pekerjaan, keterampilan yang langka adalah menetapkan arah yang jelas, merumuskan maksud, dan menerapkan pertimbangan. Manusia dan agen bekerja berdampingan. AI menangani lebih banyak pelaksanaan, sementara manusia memutuskan apa yang layak dibangun dan alasannya.
Tujuannya adalah agar setiap tim dapat menghasilkan lebih banyak dengan sumber daya yang sama, bergerak lebih cepat, dan bekerja sama dengan lebih baik tanpa mengorbankan kualitas.
Anda berpendapat bahwa peningkatan produktivitas berkat AI dapat segera sirna jika alur kerja yang mendasarinya tidak efisien. Apa hambatan operasional yang paling umum sehingga perusahaan tidak memperoleh manfaat penuh dari AI, dan bagaimana sebaiknya para pemimpin merancang ulang alur kerja tersebut?
Mempercepat tugas-tugas individual tidak serta-merta mempercepat organisasi. Jika proses, ketergantungan, dan komunikasi antartim tetap sama, sebagian besar produktivitas yang dihasilkan AI akan hilang di tengah jalan.
Hambatan yang paling umum bukanlah masalah teknis. Penyebabnya adalah persyaratan yang tidak jelas sehingga pekerjaan harus berulang kali diperbaiki, serah terima antartim yang lambat, dan pekerjaan yang tertahan sambil menunggu persetujuan. AI mempercepat setiap langkah, tetapi waktu terbuang di sela-sela langkah tersebut.
Para pemimpin sebaiknya mulai dengan mengukur ke mana waktu sebenarnya tersita, karena hambatan yang sesungguhnya sering kali bukan yang selama ini diasumsikan semua orang. Setelah itu, rancang ulang alur kerja dari awal hingga akhir dengan memperbaiki serah terima, definisi, dan siklus umpan balik, alih-alih hanya mengoptimalkan tugas individual. Terakhir, kaitkan setiap inisiatif AI dengan KPI yang sudah menjadi tanggung jawab tim.
Yang terpenting, para pemimpin perlu mengubah pola pikir. Otomatisasi dan percepatan harus menjadi kebiasaan. Alih-alih menerima proses yang sudah ada begitu saja, tim harus terus mempertanyakan cara kerja yang berlaku agar dapat bergerak lebih cepat dan meningkatkan dampaknya tanpa mengorbankan kualitas.
Salah satu prinsip yang Anda tekankan adalah pentingnya menetapkan persyaratan dengan jelas sebelum memasukkan agen AI ke dalam alur kerja. Bagaimana sebaiknya organisasi memikirkan kembali cara mereka merumuskan tugas, menyampaikan ekspektasi, dan menetapkan kriteria keberhasilan saat agen AI bertanggung jawab melaksanakan sebagian besar pekerjaan?
Saat agen AI mengerjakan sebagian besar tugas, organisasi perlu memikirkan kembali cara mereka menyampaikan dan merumuskan tugas. Permintaan yang samar tidak akan menghentikan agen. Agen akan menebak, dan setiap tebakan yang keliru menambah pekerjaan ulang.
Saya melihatnya dalam tiga lapisan:
Tugas, tujuan, dan konteks yang jelas. Agen perlu memahami apa yang harus dilakukan, mengapa hal itu penting, dan konteks yang melingkupinya. Sebelum pekerjaan dimulai, agen seharusnya dapat menanyakan hal-hal yang belum jelas agar kekurangan informasi bisa diatasi sejak awal, bukan baru diketahui ketika pekerjaan sudah berjalan separuh.
Validasi mandiri. Kriteria keberhasilan harus ditetapkan sebelumnya dengan cara yang memungkinkan agen memeriksanya sendiri. Dalam pengembangan perangkat lunak, misalnya, agen seharusnya dapat menjalankan kode, menguji apakah kode berfungsi sesuai harapan, dan memastikan semua pengujian berhasil sebelum siapa pun meninjaunya.
Manusia sebagai lapisan terakhir. Orang-orang seharusnya menerima hasil yang telah disempurnakan agen melalui beberapa kali iterasi berdasarkan kriteria yang disepakati. Peran mereka adalah menerapkan pertimbangan, bukan memperbaiki kesalahan mendasar.
Semakin baik perumusannya, semakin sedikit waktu manusia yang dibutuhkan untuk setiap hasil.
Anda menganjurkan agar agen AI diberi kemampuan untuk memvalidasi pekerjaannya sendiri sebelum hasilnya sampai kepada peninjau manusia. Seperti apa proses validasi berbasis AI yang efektif dalam praktik, dan bagaimana organisasi dapat memastikan bahwa pemeriksaan kualitas otomatis tidak sekadar mengulang kesalahan yang sama dengan yang terjadi saat pekerjaan dilaksanakan?
Proses validasi yang efektif menguji pekerjaan dengan cara yang sama seperti saat pekerjaan itu benar-benar digunakan. Agen seharusnya menjalankan sistem yang sebenarnya dari awal hingga akhir, memastikan hasilnya memenuhi kriteria keberhasilan, lalu memperbaiki apa pun yang gagal sebelum hasilnya sampai kepada seseorang.
Agar validasi tidak mengulang kesalahan agen itu sendiri, ada beberapa prinsip yang perlu diperhatikan:
Pisahkan kriteria dari pelaksanaan. Orang-orang harus menetapkan seperti apa keberhasilan sebelum pekerjaan dimulai. Jika agen menentukan sendiri arti “selesai”, agen akan menilai pekerjaannya sendiri.
Tetapkan batasan tegas. Tidak setiap pemeriksaan seharusnya bergantung pada penilaian agen. Beberapa pemeriksaan harus berupa pengujian tetap dan deterministik yang memverifikasi parameter, standar, dan kebijakan tertentu. Pengujian ini memberi agen batasan yang jelas dan tidak dapat disiasatinya dengan penalaran.
Gunakan peninjau independen. Agen kedua, dengan konteks baru dan tanpa keterikatan pada pendekatan awal, dapat menemukan kesalahan yang luput dari agen pertama.
Tampilkan bukti, bukan sekadar putusan. Hasil pengujian, cuplikan layar, dan rekaman memungkinkan orang melihat apa yang terjadi, alih-alih hanya memercayai status “lulus”.
Dengan begitu, perhatian manusia dapat diarahkan ke bagian yang paling berisiko. Tujuannya bukan menyingkirkan manusia dari proses, melainkan memastikan waktu mereka digunakan untuk membuat penilaian, bukan melakukan pemeriksaan mekanis.
Organisasi tradisional sering mengandalkan beberapa lapis manajemen, persetujuan, dan serah terima antar-tim. Bagaimana model operasi berbasis AI mengubah cara tim teknik, produk, keamanan, dan bisnis berkolaborasi, serta apa yang terjadi pada peran dan tanggung jawab tradisional ketika agen mengambil alih lebih banyak pelaksanaan?
AI memungkinkan setiap orang dan setiap tim menghasilkan lebih banyak. Namun, jika serah terima, persetujuan, dan koordinasi tetap sama, tambahan hasil itu hanya akan menumpuk sambil menunggu langkah berikutnya. Organisasi tidak bergerak lebih cepat. Sebaliknya, muncul hambatan baru. Model operasi berbasis AI harus merancang ulang cara tim bekerja sama, bukan hanya cara masing-masing tim bekerja.
Perubahan itu dimulai dari cara informasi mengalir. Lebih banyak informasi seharusnya disalurkan melalui otomatisasi agar rapat dapat digunakan untuk mengambil keputusan, bukan sekadar menyampaikan perkembangan. Ketika wawasan dari lapangan langsung sampai ke tim produk, keputusan dapat diambil lebih cepat dan akurat, sehingga menghasilkan perumusan yang lebih jelas dan pelaksanaan yang lebih baik.
Proses persetujuan juga perlu dipikirkan ulang. Inilah bagian tersulit karena berarti mengubah apa yang dianggap lumrah oleh organisasi. Persetujuan tetap penting, tetapi tidak seharusnya memperlakukan setiap perubahan dengan cara yang sama. Misalnya, menambahkan penilaian risiko ke dalam proses persetujuan tertentu dapat mengurangi persetujuan manual untuk pekerjaan berisiko rendah, sekaligus mempertahankan tinjauan manusia pada bagian yang memang memerlukannya. Itu hanya salah satu cara untuk mempercepat proses tanpa kehilangan kendali.
Peran juga sedang didefinisikan ulang. Ketika agen mengambil alih lebih banyak pelaksanaan, orang beralih dari bertanggung jawab atas tugas menjadi bertanggung jawab atas hasil. Mereka perlu memahami konteks secara menyeluruh, mempertanyakan asumsi, dan melampaui batas peran tradisional. Organisasi yang akan unggul adalah organisasi yang merancang ulang cara orang bekerja sama, bukan hanya organisasi yang menambahkan AI paling banyak.
Ocean sendiri menggunakan agen AI khusus untuk menyelidiki ancaman email yang canggih. Bagaimana pengalaman Anda mengembangkan AI berbasis agen untuk keamanan siber memengaruhi cara Anda menerapkan AI secara internal, dan adakah pelajaran dari membangun sistem keamanan otonom yang dapat diterapkan dalam mengelola organisasi berbasis AI?
Membangun agen otonom untuk keamanan email membentuk cara kami menggunakan AI secara internal dalam dua hal.
Pelajaran pertama adalah bahwa kinerja agen hanya sebaik pemahamannya terhadap konteks. Agen keamanan mengambil keputusan yang lebih baik jika memahami organisasi yang dilindunginya. Hal yang sama berlaku di dalam organisasi. Agar agen memberikan hasil yang baik, kita perlu membekalinya dengan pemahaman mendalam tentang cara kerja organisasi, tujuan setiap tugas, dan kaitannya dengan gambaran yang lebih besar.
Pelajaran kedua adalah bahwa agen perlu dievaluasi secara berkelanjutan. Dalam penggunaan nyata, kami terus mengevaluasi kinerja agen, bagian mana yang membuatnya gagal, serta alat atau data apa yang belum dimilikinya. Kami menerapkan pendekatan yang sama di dalam organisasi. Kita perlu menyediakan ruang khusus untuk menguji dan melatih agen, serta mendapatkan masukan tentang kinerjanya. Tanpa itu, sulit mengetahui apakah kinerja agen membaik atau apa yang dibutuhkannya selanjutnya.
Menjalankan organisasi yang berpusat pada AI sangat mirip dengan membangun sistem keamanan otonom: bekali agen dengan konteks yang mendalam, terus evaluasi kinerjanya, dan libatkan manusia dalam proses ketika pertimbangan manusia diperlukan.
Seiring organisasi memberikan otonomi yang lebih besar kepada agen AI, muncul kekhawatiran terkait akuntabilitas, keamanan, dan konsekuensi yang tidak diinginkan. Berdasarkan pengalaman Anda di bidang keamanan siber, bagaimana sebaiknya perusahaan menetapkan pagar pengaman agar agen dapat beroperasi secara mandiri tanpa mengorbankan keamanan atau menghilangkan pengawasan manusia yang bermakna?
Agen bergerak menuju otonomi, dan organisasi sebaiknya mencapainya secara bertahap. Mulailah dari area yang dampaknya sudah dipahami dengan baik, buktikan manfaatnya, lalu perluas penerapannya.
Pagar pengaman yang sesungguhnya bukanlah instruksi. Mengatakan kepada agen, “jangan lakukan ini”, bukanlah kendali keamanan. Pagar pengaman harus benar-benar diterapkan: membatasi dengan ketat hal-hal yang dapat diakses agen, memastikan agen tidak dapat menjangkau apa pun di luar cakupannya, serta melakukan pemantauan berkelanjutan untuk memblokir tindakan yang tidak direncanakan siapa pun. Seperti bagian lain dari sistem, pagar pengaman harus diuji dan divalidasi secara berkala.
Akuntabilitas dimulai dari operator. Orang yang menjalankan agen menetapkan batasannya: apa yang boleh dilakukannya sendiri, apa yang memerlukan persetujuan, dan ke mana agen tidak boleh pergi. Ambil contoh agen yang menangani ancaman melalui email. Agen itu dapat mengarantina pesan mencurigakan sendiri dengan cepat dan andal. Untuk tindakan yang dampaknya lebih luas, seperti memblokir pengirim di seluruh organisasi, operator dapat memulai dengan tahap peninjauan. Seiring rekam jejak agen bertambah, batasan tersebut dapat diperluas dengan yakin. Pagar pengaman yang jelas memungkinkan otonomi yang lebih besar.
Hal ini semakin penting karena penyerang kian gencar menargetkan agen AI. Bisnis ingin bergerak lebih cepat, tetapi tim keamanan masih belum memiliki panduan yang jelas untuk melindungi agen. Karena itu, fondasinya harus berupa izin yang ditegakkan dan pemantauan terus-menerus.
Banyak perusahaan mengukur adopsi AI berdasarkan waktu yang dihemat, tugas yang diotomatisasi, atau produktivitas karyawan. Menurut Anda, metrik apa yang benar-benar menunjukkan apakah model operasi berbasis AI memberikan nilai bisnis yang berkelanjutan, terutama jika memperhitungkan pengerjaan ulang, kualitas, dan biaya koordinasi?
Waktu yang dihemat merupakan metrik penting dan sering kali menjadi tanda jelas pertama bahwa AI menciptakan nilai. Namun, dampak penuhnya terlihat ketika metrik ini dipadukan dengan metrik yang menunjukkan bagaimana organisasi memanfaatkan waktu tersebut dan apakah manfaatnya bertahan dalam jangka panjang.
Kualitas. Kecepatan yang lebih tinggi hanya lebih baik jika kualitas tetap terjaga atau meningkat. Pantau pengerjaan ulang, cacat, dan seberapa sering hasil perlu diperbaiki setelah diserahkan. Jika kecepatan dan kualitas meningkat bersama-sama, manfaatnya nyata dan bertahan lama.
Ekspansi bisnis. Nilai sesungguhnya dari organisasi yang berpusat pada AI terletak pada hal-hal yang dapat diwujudkan berkat waktu yang dihemat. Kami mengukur jumlah kapabilitas dan inisiatif baru yang kami jalankan tanpa menambah jumlah karyawan.
Kecepatan dari awal hingga akhir. Waktu yang dibutuhkan agen untuk mengembangkan sebuah fitur hanyalah salah satu bagian dari gambaran. Ukuran yang sesungguhnya adalah keseluruhan proses, termasuk setiap serah terima, sejak kami memutuskan untuk memprioritaskan sesuatu hingga fitur tersebut tersedia di produk. Itulah ukuran kecepatan kerja kami yang sebenarnya, sekaligus menunjukkan biaya koordinasi yang luput dari metrik di tingkat tugas. Dalam bidang keamanan, kecepatan dari awal hingga akhir sangat penting. Penyerang sudah menggunakan agen AI, sehingga waktu yang dibutuhkan untuk mendeteksi dan merespons ancaman harus terus dipersingkat.
Waktu yang dihemat menunjukkan bahwa AI berfungsi. Metrik-metrik ini menunjukkan bahwa AI menciptakan nilai bisnis yang bertahan lama.
Anda menyatakan bahwa perusahaan teknologi yang lebih kecil dan lebih gesit dapat meraih keunggulan kompetitif yang berarti dengan merancang ulang operasionalnya menggunakan AI. Apa keunggulan yang dimiliki perusahaan rintisan yang berpusat pada AI dibandingkan perusahaan mapan, dan bagaimana Anda membayangkan struktur perusahaan teknologi yang sukses akan berkembang dalam tiga hingga lima tahun ke depan?
Perusahaan rintisan yang berpusat pada AI memiliki keunggulan struktural. Sejak awal, mereka dapat membangun alur kerja, teknologi, dan tim di sekitar agen AI, sementara perusahaan mapan harus menghadapi infrastruktur lama dan kerumitan organisasi yang telah terbentuk selama puluhan tahun. Kesenjangan yang lebih besar bukanlah soal teknis. Semua orang memiliki akses ke perangkat AI yang sama. Keunggulan ada pada perusahaan yang mampu merancang ulang cara kerjanya tanpa harus terlebih dahulu membenahi lapisan persetujuan, serah terima, dan pembagian peran yang kaku.
Dalam tiga hingga lima tahun ke depan, saya yakin perusahaan teknologi yang sukses akan beralih dari otomatisasi AI dasar ke model operasi berbasis agen, yang memungkinkan agen AI khusus menjalankan seluruh alur kerja. Tim manusia tidak akan menghilang, tetapi orang-orang akan menghabiskan lebih sedikit waktu untuk mengerjakan tugas secara manual dan lebih banyak waktu untuk memberikan konteks, menetapkan batasan, serta mengarahkan hasil. Hasilnya adalah organisasi yang lebih ramping, mampu berkembang lebih cepat, beroperasi dengan lebih efisien, dan bersaing dengan perusahaan yang ukurannya berkali-kali lipat lebih besar.
Terima kasih atas wawancara yang luar biasa ini. Pembaca yang ingin mengetahui lebih lanjut tentang keamanan email berbasis agen AI dapat mengunjungi Ocean Security.












