Nati Hazut, CEO dan Salah Satu Pendiri Bold Security – Seri Wawancara

Nati Hazut adalah CEO dan salah satu pendiri Bold Security. Sebelumnya, ia turut mendirikan SAM Seamless Network dan Polyrize, serta membangun pengalaman di bidang keamanan perangkat terhubung, identitas, izin akses cloud, dan perlindungan data. Di Bold, ia menerapkan pelajaran tersebut untuk mengamankan interaksi antara karyawan, agen AI, dan data perusahaan yang sensitif.

Bold Security mengembangkan teknologi perlindungan data titik akhir yang menggunakan model bahasa kecil yang berjalan langsung di perangkat untuk mengklasifikasikan informasi sensitif dan memahami cara informasi tersebut digunakan. Platformnya menyediakan kendali bagi tim keamanan untuk membimbing pengguna, mengalihkan aktivitas, atau memblokir tindakan berisiko di peramban, aplikasi desktop, dan agen AI. Dalam wawancara ini, Hazut membahas AI bayangan, kecerdasan di perangkat, agen otonom, dan batas keamanan data perusahaan yang terus berubah.

Anda sebelumnya turut mendirikan SAM Seamless Network dan Polyrize sebelum memulai Bold Security bersama Hadar Krasner dan Omri Mallis. Perubahan apa yang Anda lihat dalam keamanan perusahaan dan AI hingga meyakinkan Anda bahwa ada kebutuhan untuk membangun perusahaan keamanan baru dari nol?

Hal utama yang dilakukan AI adalah mengubah tempat pekerjaan berlangsung. Selama puluhan tahun, aktivitas paling sensitif yang dilakukan orang dengan data perusahaan berlangsung di peramban dan aplikasi SaaS—tepat di tempat yang menjadi fokus tumpukan keamanan. Kini, semakin banyak pekerjaan berlangsung langsung di perangkat: orang menyusun draf dengan asisten AI desktop, menempelkan kode sumber ke aplikasi asli, dan menjalankan agen yang berinteraksi langsung dengan berkas, aplikasi, serta sistem perusahaan di laptop.

Perubahan itu meruntuhkan asumsi yang menjadi landasan sebagian besar produk keamanan. Pemeriksaan jaringan hanya dapat melihat lalu lintas yang melewatinya, sementara aplikasi desktop mengenkripsi lalu lintasnya dan melewati proksi. CASB melihat aplikasi cloud yang disetujui. DSPM melihat data yang tersimpan di penyimpanan cloud. Tak satu pun dari semua itu dapat melihat berkas lokal yang dimasukkan ke aplikasi AI desktop, atau agen yang memindahkan data tanpa ada orang di depan papan ketik.

Kami mendirikan Bold karena titik akhir adalah satu-satunya tempat semua hal itu bertemu. Anda dapat melihat datanya, karyawan atau agen yang berinteraksi dengannya, tindakan yang ingin mereka lakukan, dan tujuan informasi tersebut. Anda pun dapat mengambil tindakan sebelum data sensitif lepas dari kendali perusahaan.

AI bayangan dapat mencakup beragam hal, mulai dari karyawan yang menggunakan akun ChatGPT pribadi hingga aplikasi desktop, ekstensi peramban, API, koneksi Model Context Protocol, dan agen yang kian otonom. Bentuk AI bayangan mana yang saat ini paling sulit dideteksi dan dikendalikan oleh tim keamanan perusahaan?

Setahun lalu, semua orang mencemaskan “AI bayangan”, tetapi pembahasannya kini mulai lebih mendalam. Tim keamanan perusahaan mulai menyadari bahwa karyawan mengadopsi perangkat AI baru dengan lebih cepat daripada sebelumnya. Jadi, pertanyaannya bukan lagi sekadar mendata perangkat yang digunakan, melainkan mengendalikan data yang mengalir melaluinya.

Tentu saja, Anda tidak dapat mengendalikan sesuatu yang tidak dapat Anda lihat. Saluran yang paling sulit terlihat adalah saluran yang tidak pernah melewati jalur jaringan yang dipantau siapa pun. Aplikasi desktop membaca berkas langsung dari perangkat dan mengenkripsi lalu lintasnya, sehingga tidak ada yang melewati alat yang dirancang untuk memeriksanya. Agen memiliki akses ke informasi perusahaan dan terus menggunakannya tanpa harus menerima sesuatu dari karyawan setiap kali.

Semua itu merupakan saluran baru untuk mengekstraksi data; yang terpenting adalah apa yang melewatinya. Memasukkan dokumen publik ke akun perusahaan yang disetujui tidak sama dengan memasukkan basis data pelanggan atau kode sumber eksklusif ke akun pribadi. Perbedaan itu hanya terlihat di tempat data berada dan tindakan dilakukan. Jadi, AI bayangan yang tidak dapat Anda lihat juga menjadi tempat persoalan data paling penting.

Bold mengutamakan pendekatan berbasis titik akhir, dengan menjalankan AI secara lokal di perangkat alih-alih terutama mengandalkan pemantauan jaringan atau cloud. Apa yang dapat dipahami model di perangkat tentang interaksi dengan AI yang tidak dapat dipahami oleh Pencegahan Kehilangan Data (DLP) tradisional?

Bold melakukan dua hal dengan cara berbeda. Pertama, kami menggunakan AI untuk melindungi data sensitif tanpa harus mengirimkannya ke layanan AI lain untuk dianalisis. Model bahasa kecil kami berjalan langsung di perangkat, sehingga dapat memahami data mana yang sensitif, siapa yang mengaksesnya, dan ke mana data itu dikirim. Dengan demikian, kami dapat mengenali dan menghentikan tindakan berisiko secara langsung, tanpa latensi dan biaya yang timbul jika semuanya dikirim ke cloud.

Kedua, kami menjangkau saluran di luar pemantauan alat keamanan tradisional. Sebagian besar pasar masih berfokus pada peramban dan lalu lintas jaringan, padahal data sensitif semakin sering berpindah melalui aplikasi AI desktop, alat pemrograman, terminal, dan agen otonom. Produk DLP konvensional dan keamanan cloud jauh lebih sulit melihat aktivitas tersebut.

Dengan beroperasi di titik akhir, kami dapat melindungi data di semua lingkungan tersebut dan mengambil tindakan sebelum informasi sensitif lepas dari kendali perusahaan.

Teknologi Anda dirancang untuk memahami bukan hanya data apa yang diakses, tetapi juga konteks dan maksud di balik suatu tindakan. Bagaimana Anda membedakan penggunaan informasi sensitif yang sah dari perilaku yang benar-benar menimbulkan risiko keamanan tanpa menghasilkan terlalu banyak positif palsu?

Konteks adalah segalanya dalam hal ini. Anda tidak bisa menganggap setiap unggahan berkas atau setiap agen yang mengakses data sebagai insiden keamanan, atau tidak akan ada pekerjaan yang bisa diselesaikan.

Berkas yang sama bisa menjadi hal biasa di satu tempat dan masalah serius di tempat lain. Daftar pelanggan wajar berada di dalam perangkat dukungan, tetapi menjadi masalah nyata jika diunggah ke akun pribadi. Kode sumber semestinya berada di repositori, bukan di dalam perintah untuk alat AI konsumen.

Alat yang hanya mengetahui bahwa konten cocok dengan suatu aturan harus menandai kedua kasus tersebut atau tidak menandai keduanya. Di situlah positif palsu muncul. Mengetahui jenis datanya, siapa yang memindahkannya, dan ke mana data itu dikirim adalah cara untuk membedakan penggunaan AI yang wajar dari risiko nyata.

Agen AI menghadirkan model keamanan yang berbeda karena perangkat lunak semakin mampu mengakses berkas, menjalankan alat, terhubung melalui server MCP, dan melakukan tindakan dengan keterlibatan manusia yang terbatas. Bagaimana keamanan endpoint perlu berkembang ketika pihak yang berinteraksi dengan data perusahaan yang sensitif mungkin merupakan agen otonom, bukan karyawan?

Keamanan selama ini sebagian besar dirancang untuk manusia, tetapi agen kini dapat bertindak secepat mesin, membuka berkas, menjalankan alat, dan memindahkan data tanpa persetujuan seseorang di setiap langkah. Keamanan harus beroperasi dengan kecepatan yang sama. Banyak produk menggunakan AI untuk menganalisis insiden setelah terjadi. Kami menggunakannya untuk memahami dan menghentikan tindakan berisiko secara waktu nyata, termasuk tindakan yang terjadi di luar peramban.

Agen dapat bekerja melalui aplikasi desktop, terminal, atau alat lain yang ditemukannya saat menyelesaikan tugas. Keamanan harus mengikuti data dan tindakan di berbagai lingkungan tersebut, baik yang bertanggung jawab adalah manusia maupun agen.

Hal ini juga memunculkan pertanyaan yang sebelumnya belum perlu diajukan oleh tim keamanan. Ketika sesuatu yang berisiko terjadi, apakah orang itu sengaja melakukannya, atau apakah agen melakukan kesalahan? Keduanya memerlukan respons yang berbeda. Jika seorang karyawan mengambil keputusan yang keliru, Anda membimbingnya. Jika agen melakukan sesuatu yang tidak diminta siapa pun, Anda menghentikannya.

Di endpoint, Anda dapat mengetahui perbedaannya karena data, proses, dan tindakan muncul bersama di sana.

Banyak perusahaan menanggapi risiko AI generatif dengan membatasi atau melarang alat tertentu. Menurut Anda, apakah organisasi sedang beralih ke model yang memungkinkan hampir semua alat AI digunakan, asalkan ada kontrol atas data yang dapat diaksesnya dan tujuan pengiriman data tersebut?

Larangan menyeluruh tidak akan menyelesaikan masalah ini. Karyawan dapat menemukan alat AI baru dan mulai menggunakannya dalam hitungan detik, dan kebanyakan dari mereka tidak berusaha mengakali keamanan. Mereka hanya ingin menyelesaikan pekerjaan dengan lebih cepat.

Pertanyaan yang lebih tepat adalah apa yang terjadi pada data perusahaan saat mereka menggunakan alat-alat tersebut.

Jika seseorang menggunakan akun AI pribadi untuk pekerjaan yang tidak berbahaya, mungkin Anda cukup mengarahkannya ke akun perusahaan. Jika mereka akan mengirim kode sumber, informasi pelanggan, atau kredensial ke tempat yang tidak diizinkan perusahaan, keamanan perlu turun tangan.

Menurut saya, arah perkembangannya akan seperti itu. Beri orang keleluasaan untuk menggunakan AI, tetapi terapkan kontrol atas data. Ketahui apa yang diakses, ke mana data itu dikirim, dan kapan Anda perlu turun tangan.

Menjalankan AI secara lokal berpotensi memberikan keuntungan dalam hal latensi dan privasi, tetapi perangkat endpoint juga memiliki kapasitas komputasi dan memori yang terbatas. Kompromi teknis apa yang Anda hadapi saat membangun model yang mampu mengklasifikasikan data secara semantis dan menegakkan kebijakan secara waktu nyata langsung di perangkat karyawan?

Anda tidak bisa memasang model raksasa di laptop seseorang, menghabiskan CPU dan memorinya, lalu menyebutnya keamanan. Jika produk keamanan Anda membuat komputer sulit digunakan, karyawan akan membencinya dan tim TI akan mematikannya.

Jadi, komprominya benar-benar nyata. Model harus cukup memahami data untuk membedakan sesuatu yang tidak berbahaya dari sesuatu yang sensitif, tetapi juga harus cukup cepat, kecil, dan andal untuk terus berjalan di latar belakang.

Pekerjaan awalnya adalah membangun model yang dapat memberikan klasifikasi yang bermanfaat di berbagai jenis komputer tanpa memperlambatnya. Kami sudah menyelesaikan pekerjaan rekayasa tersebut, sehingga pelanggan tidak perlu menghadapi sendiri kompromi itu.

Pengalaman pengguna menjadi prioritas utama kami selama proses pengembangan. Produk kami menggunakan sekitar 20% sumber daya komputasi yang digunakan agen non-AI milik para pesaing lama, sekaligus mengambil keputusan secara lokal saat suatu tindakan berlangsung. Data sensitif tidak perlu meninggalkan perangkat hanya untuk menentukan apakah data tersebut sensitif.

Bold dapat mengidentifikasi alat AI, akun, dan aktivitas agen, sekaligus membimbing pengguna, mengarahkannya ke pilihan lain, atau memblokir tindakan berisiko. Bagaimana Anda menentukan kapan sistem cukup memperingatkan pengguna dan kapan sistem harus otomatis menghentikan suatu tindakan?

Bayangkan bagaimana rekan kerja yang baik akan menanganinya. Jika Anda hendak menempelkan draf ke ChatGPT pribadi, mereka akan mencondongkan badan dan berkata, “Hei, kita punya akun perusahaan untuk itu.” Jika Anda hendak mengunggah basis data pelanggan ke Drive pribadi, mereka akan segera menahan Anda.

Kami berupaya menerapkan pendekatan yang sama dan mendapati bahwa pembinaan setidaknya 90% efektif mengarahkan pengguna ke pilihan yang aman. Dalam kebanyakan kasus, seseorang tidak sengaja menggunakan akun yang salah atau tidak mengetahui kebijakan perusahaan tentang tempat data boleh disimpan.

Pada akhirnya, keputusan untuk memblokir sesuatu ada di tangan pelanggan, dan setiap perusahaan menetapkan batas yang berbeda. Tugas kami adalah memberi mereka konteks dan keyakinan untuk mengambil keputusan yang tepat. Untuk alur berisiko yang lebih kompleks, konteks tersebut adalah yang telah kita bahas sebelumnya, dengan mempertimbangkan riwayat pengguna sendiri, bahkan kelompok rekan kerjanya.

Karier Anda berkembang dari mengamankan perangkat terhubung di SAM, ke identitas dan izin cloud di Polyrize, hingga kini melindungi interaksi antara manusia, agen AI, dan data perusahaan di Bold. Bagaimana pandangan Anda tentang batas keamanan yang mendasar berubah di sepanjang tiga generasi keamanan siber tersebut?

Pemahaman saya tentang prinsip-prinsip dasarnya semakin tajam. Benang merahnya adalah menghadirkan keamanan sedekat mungkin dengan tempat aktivitas berlangsung dan membuatnya berfungsi dalam skala besar.

Di SAM, kami menghadirkan keamanan setingkat perusahaan pada router dengan sumber daya yang sangat terbatas. Pengalaman itu mengajari kami cara menghadirkan teknologi canggih secara efisien ke komputasi tepi. Di Polyrize, fokus kami adalah melindungi data di lingkungan cloud dan SaaS melalui visibilitas serta pengelolaan postur keamanan. Memahami paparan risiko memang penting, tetapi belum tentu memungkinkan Anda mencegah tindakan berisiko.

Bold menyatukan pelajaran-pelajaran tersebut. Kami menempatkan kecerdasan pada perangkat endpoint, tempat manusia dan agen AI berinteraksi dengan data, serta memberikan konteks kepada tim keamanan agar mereka dapat memahami risiko dan melakukan intervensi secara waktu nyata.

Keamanan jaringan dan cloud tetap penting, tetapi perangkat endpoint dapat melihat aktivitas melalui aplikasi desktop, berkas lokal, akun pribadi, dan agen yang berjalan di perangkat. Saya belajar bahwa di mana dan kapan keamanan beroperasi sama pentingnya dengan seberapa cerdas sistem tersebut.

Jika melihat tiga hingga lima tahun ke depan, ketika karyawan bekerja berdampingan dengan agen AI yang semakin otonom, menurut Anda akan menjadi seperti apa perangkat endpoint perusahaan? Mungkinkah setiap perangkat pada akhirnya memiliki lapisan keamanan cerdasnya sendiri yang terus-menerus menentukan manusia dan agen mana yang boleh berinteraksi dengan data tertentu?

Menurut saya, memang ke arah itulah kita menuju.

Perangkat endpoint akan menjadi lapisan keamanan cerdas yang memahami data di perangkat tersebut, mengetahui apakah yang berinteraksi dengannya adalah manusia atau agen, dan mengambil keputusan secara lokal tentang hal yang boleh maupun tidak boleh dilakukan.

Hal ini semakin penting seiring makin otonomnya agen. Seseorang bisa memiliki beberapa agen yang bekerja atas namanya sekaligus, mengakses berkas, aplikasi, dan sistem perusahaan. Keamanan tidak bisa bergantung pada orang tersebut untuk menyetujui setiap langkah, karena mereka akan semakin jarang memantau aktivitas itu.

Data tetap perlu dilindungi, tetapi jumlah pihak yang mengaksesnya akan jauh melampaui satu orang di depan papan ketik. Sistem keamanan perlu berkomunikasi dengan agen, mengambil keputusan, dan merespons secara otonom saat tindakan berlangsung. Orang yang mengoperasikan sistem tersebut akan semakin banyak mengawasi kendali dan keputusan, alih-alih meninjau setiap peristiwa satu per satu. Perangkat endpoint menjadi tempat keputusan tersebut dapat diambil selagi data masih berada dalam kendali perusahaan.

Terima kasih atas wawancara yang menarik ini. Pembaca yang ingin mengetahui lebih lanjut tentang perlindungan data di perangkat endpoint dan penerapan AI perusahaan secara aman dapat mengunjungi Bold Security.