Liat Hayun, Wakil Presiden Manajemen Produk & Riset di Tenable – Seri Wawancara

Liat Hayun adalah Wakil Presiden Manajemen Produk dan Riset di Tenable Cloud Security. Sebelum bergabung dengan Tenable, Liat mendirikan dan menjabat sebagai CEO Eureka Security, perusahaan keamanan data yang diakuisisi oleh Tenable. Sebelum mendirikan Eureka Security, Liat menghabiskan lebih dari satu dekade memimpin upaya keamanan siber di Komando Siber Israel dan Palo Alto Networks (PANW ). Sebagai Wakil Presiden Manajemen Produk di Palo Alto Networks, Liat memimpin pengembangan Cortex XDR dan layanan berburu ancaman terkelola perusahaan.

Tenable adalah perusahaan keamanan siber yang berbasis di AS yang fokus membantu organisasi mengidentifikasi, memahami, memprioritaskan, dan memperbaiki kerentanan keamanan di seluruh permukaan serangan digital. Perusahaan ini paling dikenal dengan platform manajemen eksposur dan alat seperti pemindai kerentanan Nessus yang banyak digunakan, yang memungkinkan bisnis memperoleh visibilitas ke ancaman yang meliputi infrastruktur TI, cloud, OT/IoT, dan sistem identitas, serta mengambil tindakan yang tepat untuk mengurangi risiko yang berdampak pada bisnis. Solusi Tenable memberikan penemuan terus-menerus, prioritisasi, dan wawasan ancaman untuk mendukung manajemen risiko siber proaktif untuk puluhan ribu pelanggan di seluruh dunia.

Apa yang secara fundamental membuat agen AI otonom lebih berbahaya daripada model AI tradisional yang hanya merespons prompt pengguna, bukan bertindak secara independen?

Agen AI otonom mengubah sifat risiko karena mereka dapat memulai tugas, mengakses sistem, membuat keputusan, dan berinteraksi dengan layanan lain tanpa pengawasan manusia.

Kemandirian itu memperluas kecepatan dan skala dampak potensial, meningkatkan kemungkinan eksposur data, gangguan operasional, dan kerugian keuangan. Sebuah agen AI dapat mengquery toko data, memicu alur kerja, memanggil API, atau memodifikasi infrastruktur secara real-time. Jika dikonfigurasi dengan salah atau dikompromikan, agen tersebut dapat bergerak secara lateral di seluruh sistem menggunakan izin yang telah diberikan, seringkali lebih cepat daripada yang dapat dideteksi atau diintervensi oleh manusia.

Menurut Laporan Risiko Keamanan Cloud dan AI Tenable 2026, 52% organisasi sekarang memiliki identitas non-manusia dengan izin berlebihan, dan hampir setengah dari mereka tidak aktif, menciptakan akses yang tidak dikelola secara luas di lingkungan produksi. Artinya, banyak proses yang digerakkan AI sudah memiliki akses yang tidak mereka gunakan secara aktif, tetapi dapat dieksploitasi oleh penyerang.

Penyerang semakin banyak mengeksploitasi apa yang dikenal sebagai masalah Deputi yang Bingung. Mereka tidak perlu mengompromikan agen itu sendiri. Sebagai gantinya, mereka menipu agen yang berwenang untuk melakukan tindakan atas nama mereka, seringkali melalui injeksi prompt tidak langsung atau input yang dimanipulasi. Agen tersebut menjalankan permintaan menggunakan izin yang sah, secara efektif melakukan pekerjaan penyerang. Ketika sistem otonom mewarisi izin yang luas atau mengasumsikan peran yang berlebihan, waktu antara konfigurasi yang salah dan eksploitasi secara efektif menghilang, menciptakan celah eksposur AI dengan margin nol.

Banyak perusahaan bereksperimen dengan agen AI secara tidak formal. Apa langkah-langkah konkret yang harus diambil tim keamanan untuk menilai apakah agen AI sudah beroperasi di dalam lingkungan mereka?

Menutup celah eksposur AI dimulai dengan penemuan yang meluas di luar inventori aset tradisional. Fase eksperimen seringkali merupakan fase yang paling berbahaya karena organisasi tidak sepenuhnya tahu apa AI yang digunakan, bagaimana konfigurasinya, atau apa akses yang telah diberikan.

Agen AI jarang hidup dalam satu sistem yang jelas dan terlabel. Banyak di antaranya beroperasi di luar pengawasan formal. Mereka muncul dalam alat pengembang, integrasi SaaS, alur kerja otomatisasi, ekstensi browser, dan layanan cloud, yang menciptakan penerapan yang terdistribusi dan meningkatkan blind spot serta membatasi kontrol terpusat. Ini sudah sangat umum, karena lebih dari 70% organisasi telah mengintegrasikan setidaknya satu paket AI atau model terkait pihak ketiga, seringkali menyematkan AI dalam aplikasi dan infrastruktur dengan pengawasan terpusat yang terbatas.

Penelitian terbaru tentang Clawdbot menunjukkan bahwa penerapan agen eksperimental dapat menimbulkan risiko serius ketika kemampuan diterapkan sebelum kontrol keamanan atau standar konfigurasi sepenuhnya dipahami. Bahkan setelah eksperimen berakhir dan organisasi memutuskan aplikasi AI mana yang akan diadopsi, mereka masih memerlukan pengawasan yang kuat atas cara sistem tersebut digunakan, apa izin yang mereka miliki, dan bagaimana mereka berinteraksi dengan aset kritis.

Fase penemuan harus dimulai dengan membangun inventori terpadu tentang di mana AI ada di seluruh titik akhir, infrastruktur cloud, dan permukaan serangan eksternal. Ini termasuk mengidentifikasi perpustakaan AI, agen, API, layanan model, dan integrasi pihak ketiga, tidak hanya sistem yang diterapkan secara internal, tetapi apa pun yang dapat dijangkau dari luar.

Selanjutnya, tim harus memetakan bagaimana agen-agen tersebut terhubung dan apa data yang mereka akses, identitas mana yang mereka gunakan, apa izin yang mereka miliki, dan sistem mana yang dapat mereka jangkau. Visibilitas memerlukan konteks karena risiko muncul dari hubungan.

Terakhir, setelah eksperimen, organisasi harus mengidentifikasi koneksi mana yang menciptakan jalur yang dapat dijangkau ke aset kritis dan menutup celah eksposur AI.

Bagaimana risiko seperti kontrol permukaan yang terbuka atau “keterampilan” pihak ketiga yang tidak diverifikasi membandingkan dengan ancaman yang lebih familiar seperti serangan rantai pasokan atau eskalasi privilegi?

Keterampilan agen pihak ketiga yang tidak diverifikasi dan kontrol permukaan yang terbuka memperluas risiko serupa dengan kompromi rantai pasokan dan eskalasi privilegi, tetapi dengan kecepatan, skala, dan koneksi yang diperkuat.

Keterampilan agen pihak ketiga berfungsi banyak seperti dependensi rantai pasokan perangkat lunak, dan permukaan eksposur sudah membawa bobot yang signifikan. Delapan puluh enam persen organisasi menyimpan paket kode pihak ketiga dengan kerentanan berat. Ketika komponen-komponen ini beroperasi di dalam agen AI otonom, eksekusi menjadi terus-menerus dan otomatis, menghilangkan waktu antara kompromi dan dampak.

Kontrol permukaan yang terbuka memperluas lapisan identitas dan akses risiko dengan menciptakan antarmuka operasional baru yang membawa izin yang ditingkatkan. Delapan belas persen organisasi sudah memungkinkan layanan AI untuk mengasumsikan peran yang berlebihan, memberikan sistem otomatis jangkauan yang luas di seluruh lingkungan. AI agenik menghubungkan eksposur-eksposur ini ke dalam rantai operasional tunggal. Sebuah dependensi yang rentan, izin berlebihan, dan antarmuka yang terbuka menggabungkan menjadi jalur serangan yang dapat dijangkau. Organisasi beroperasi dalam lingkungan dengan margin kesalahan nol di mana eksposur dan eksploitasi sejajar hampir secara instan.

Dari sudut pandang pertahanan, apa yang terlihat seperti “kebersihan yang baik” untuk organisasi yang menerapkan agen AI dengan akses ke sistem internal atau data sensitif?

Kebersihan yang baik dimulai dengan memperlakukan agen AI sebagai aktor digital yang berwenang dengan otoritas nyata di seluruh sistem dan data. Organisasi memerlukan visibilitas terus-menerus ke setiap agen, apa yang mereka lakukan, dan apa yang dapat mereka jangkau. Tim harus menerapkan prinsip izin minimal untuk identitas mesin dan layanan, menghapus akses yang tidak aktif, dan membatasi izin secara ketat. Setiap agen harus didedikasikan untuk jenis tugas tertentu, dengan izin dan akses yang terbatas secara ketat pada fungsi tersebut.

Hal ini penting karena akses yang tidak digunakan sangat umum. Hampir setengah dari identitas dengan izin berlebihan yang kritis tidak aktif, dan lebih dari 70% peran eksekusi AI default tetap tidak digunakan. Kondisi-kondisi ini menciptakan jalur eskalasi yang siap digunakan yang membawa risiko tanpa memberikan nilai.

Tim keamanan juga harus memahami hubungan di seluruh infrastruktur, toko data, API, dan aplikasi. Memetakan koneksi-koneksi ini mengungkapkan kombinasi eksposur yang beracun, seperti beban kerja yang rentan yang dapat dijangkau melalui agen yang berlebihan dengan akses ke data sensitif.

Kebersihan yang kuat juga memerlukan tata kelola terus-menerus. Organisasi harus memantau perilaku agen, mengontrol integrasi, menerapkan pengawasan data, dan secara teratur memvalidasi izin. Praktik-praktik ini menutup celah eksposur AI dan menghilangkan jalur serangan yang dapat dijangkau.

Apa yang Anda sarankan organisasi lakukan untuk melindungi permukaan serangan AI dengan cepat tanpa memperlambat inovasi?

Organisasi dapat melindungi permukaan serangan AI dengan mengurangi eksposur dengan kecepatan dan presisi.

Untuk melakukan itu, prioritas pertama adalah mengidentifikasi sistem AI mana yang menciptakan jalur yang dapat dijangkau ke aset kritis. Lebih dari 80% organisasi menjalankan beban kerja dengan kerentanan yang sudah dieksploitasi di alam liar. Risiko sudah ada di dalam sebagian besar lingkungan. Tim keamanan perlu fokus pada koneksi yang menciptakan dampak nyata.

Kemudian, sadari bahwa otomatisasi memungkinkan skala. Penemuan terus-menerus, prioritisasi kontekstual, dan perbaikan yang dipandu memungkinkan tim untuk mengurangi risiko sambil mempertahankan kecepatan pengembangan.

Sementara pengawasan kebijakan melindungi adopsi, akses just-in-time, aliran data yang dipantau, dan integrasi yang dikontrol membantu organisasi mengelola aktivitas AI sambil mempertahankan inovasi.

Bersama-sama, langkah-langkah ini mengurangi celah eksposur AI dengan menghilangkan akses berisiko tinggi dan koneksi yang tidak aman. Pengurangan eksposur yang cepat melindungi sistem sambil memungkinkan adopsi AI untuk melanjutkan.

Bagaimana CISO harus memikirkan identitas, izin, dan cakupan ketika memberikan agen AI akses ke sistem produksi?

CISO harus memperlakukan agen AI sebagai identitas non-manusia dengan otoritas operasional di seluruh sistem dan data.

Keputusan akses harus fokus pada presisi. Izin harus selaras dengan tugas tertentu, tetap terikat waktu, dan menjalani tinjauan terus-menerus. Izin berlebihan memperluas jangkauan dan meningkatkan dampak ketika sistem berinteraksi pada kecepatan mesin.

Pemimpin keamanan juga memerlukan wawasan yang jelas ke dalam jangkauan efektif. Izin, dikombinasikan dengan jalur jaringan, akses data, dan integrasi layanan, mendefinisikan apa yang dapat dilakukan agen secara nyata. Memahami hubungan-hubungan ini mengungkapkan eksposur potensial sebelum menjadi dampak.

Identitas menghubungkan infrastruktur, data, dan aplikasi di seluruh celah eksposur AI. Desain izin yang ketat membatasi radius ledakan dan mempertahankan kontrol. Ketika waktu dari penemuan eksposur ke eksploitasi hampir nol, tata kelola identitas menentukan seberapa aman AI beroperasi di produksi.

Apakah Anda berharap agen AI agenik akan memaksa pemikiran ulang tentang kerangka keamanan yang ada, atau apakah model saat ini dapat disesuaikan untuk menangani risiko baru ini?

Prinsip-prinsip keamanan tetap konsisten, tetapi model operasional berevolusi. AI agenik menghubungkan sistem, identitas, dan data ke dalam lingkungan dinamis yang berubah terus-menerus dan beroperasi pada kecepatan mesin. Tidak seperti operator manusia, agen tidak menerapkan penilaian pada tindakan mereka atau membedakan antara permintaan yang tepat dan tidak tepat. Mereka menjalankan berdasarkan instruksi dan izin, yang meningkatkan pentingnya kontrol yang ketat dan tata kelola.

Risiko muncul dari hubungan di seluruh infrastruktur, rantai pasokan perangkat lunak, dan lapisan identitas. Organisasi mewarisi eksposur lebih cepat daripada siklus perbaikan dapat mengimbanginya. Penerapan otomatis dan eksploitasi otomatis mempercepat waktu respons dan meningkatkan tekanan operasional.

Kerangka keamanan perlu berfokus pada visibilitas eksposur dan pengurangan. Tim memerlukan wawasan terus-menerus ke dalam apa yang ada, bagaimana sistem terhubung, dan jalur mana yang menuju ke aset kritis.

Tantangan yang menentukan adalah mengelola risiko yang terhubung di seluruh celah eksposur AI. Program keamanan sukses dengan terus-menerus mengurangi eksposur yang dapat dijangkau dan mempertahankan kontrol di seluruh lingkungan yang kompleks.

Menghadap ke depan, apa area penelitian keamanan AI agenik yang Anda percaya layak mendapatkan perhatian lebih sebagai alat-alat ini berpindah dari eksperimental ke kritis?

Beberapa area penelitian akan membentuk masa depan keamanan AI agenik.

Pertama, pertumbuhan ekosistem identitas non-manusia memerlukan analisis yang lebih dalam. Organisasi dengan cepat memperluas identitas mesin yang beroperasi di seluruh infrastruktur, data, dan layanan. Memahami pola privilegi, perilaku, dan manajemen siklus hidup akan sangat penting.

Kedua, penelitian harus maju dalam pemodelan jalur serangan multi-langkah. Sistem AI menghubungkan rantai pasokan perangkat lunak, infrastruktur cloud, dan lapisan identitas. Memetakan bagaimana elemen-elemen ini berinteraksi akan meningkatkan prediksi risiko dan prioritisasi.

Ketiga, tata kelola pengambilan keputusan otonom memerlukan fokus yang lebih besar. Tim keamanan memerlukan visibilitas ke dalam bagaimana agen mengakses, memproses, dan mentransfer data sensitif dari waktu ke waktu.

Terakhir, kecepatan eksploitasi terus-menerus dipercepat. Mempelajari bagaimana penyerang dan pembela beroperasi pada kecepatan mesin akan membentuk strategi respons.

Keamanan masa depan bergantung pada memahami dan mengurangi celah eksposur AI. Penelitian harus fokus pada mengontrol eksposur yang terhubung di seluruh permukaan serangan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Tenable.