Adam Markowitz, CEO dan Salah Satu Pendiri Drata – Seri Wawancara

Adam Markowitz adalah CEO dan salah satu pendiri Drata. Di perusahaan ini, ia memperluas kiprah Drata dalam kepatuhan berkelanjutan dan membangun kepercayaan ke ranah tata kelola agen AI. Sebelum mendirikan Drata bersama rekan-rekannya pada 2020, ia mendirikan Portfolium bersama Troy Markowitz dan Daniel Marashlian. Pengalamannya menghadapi kuesioner keamanan, audit, dan tinjauan kepatuhan turut membentuk pendekatan Drata dalam mengotomatiskan cara organisasi menunjukkan bahwa mereka dapat dipercaya.

Drata menyediakan platform untuk tata kelola, risiko, dan kepatuhan yang memadukan pengumpulan bukti otomatis, pemantauan kontrol berkelanjutan, manajemen risiko pihak ketiga, serta alur kerja kuesioner keamanan. Kapabilitas tata kelola agen AI-nya berfokus pada penemuan agen, penerapan kebijakan sebelum tindakan dijalankan, dan pencatatan keputusan agar dapat diaudit. Dalam wawancara ini, Markowitz membahas ancaman dari agen orang dalam, identitas mesin, batas keamanan pemanggilan alat, serta kontrol yang dibutuhkan perusahaan untuk menerapkan agen otonom dalam skala besar.

Anda mendirikan Portfolium sebelum mendirikan Drata bersama rekan-rekan Anda pada 2020, setelah merasakan langsung betapa rumitnya kepatuhan keamanan saat perusahaan berkembang. Apa yang membuat Anda yakin bahwa masalah ini layak menjadi dasar untuk membangun perusahaan yang sama sekali baru, dan bagaimana misi Drata berkembang seiring AI mengubah lanskap keamanan?

Saat memimpin Portfolium bersama rekan-rekan pendiri saya, Troy Markowitz dan Daniel Marashlian, kami belajar satu hal penting: membangun kepercayaan dalam bisnis adalah sebuah proses, bukan sekadar presentasi penjualan. Karena volume informasi mahasiswa sangat besar dan sifatnya sensitif, universitas dan perusahaan tidak bersedia bermitra dengan kami sampai kami membuktikan bahwa kami melakukan hal yang semestinya untuk melindungi data mereka. Kami menyadari bahwa proses panjang dan melelahkan dalam mengerjakan setiap kuesioner keamanan, audit, dan tinjauan kepatuhan secara manual adalah pengalaman yang juga dialami banyak pihak. Setelah Portfolium diakuisisi, Troy, Daniel, dan saya kembali bekerja sama. Kami menghabiskan enam bulan untuk membangun versi pertama Drata, berbicara dengan puluhan perusahaan dan auditor guna memvalidasi masalah tersebut sebelum mulai menulis kode. Saat diluncurkan, kami meraih 100 pelanggan dalam enam minggu pertama dan 1.000 pelanggan dalam kurun satu tahun—yang menunjukkan bahwa kami telah beralih dari menjual sesuatu yang “sekadar pelengkap” menjadi sesuatu yang tanpanya orang tidak bisa beroperasi.

Dengan hadirnya AI, misi Drata untuk menghadirkan kepercayaan berkelanjutan tidak berubah, tetapi cakupan kepercayaan itu meluas. Kami memulai dengan mengotomatiskan pekerjaan kepatuhan yang melelahkan, lalu beralih ke alur kerja berbasis agen yang dapat menjalankan penilaian risiko pihak ketiga dan mengisi kuesioner keamanan dari awal hingga akhir. Namun, perubahan sesungguhnya terjadi ketika agen itu sendiri menjadi entitas yang perlu ditata kelola. Kini, kami telah memperluas platform untuk mendukung tata kelola agen AI: menemukan agen, mengatur tindakan yang boleh mereka lakukan, dan menghasilkan bukti yang dapat dipertanggungjawabkan saat diminta.

Anda memperkenalkan istilah “Ancaman Agen Orang Dalam” untuk menggambarkan risiko yang ditimbulkan bukan oleh penyerang eksternal, melainkan oleh agen AI milik organisasi itu sendiri. Apa yang membedakan ancaman dari agen orang dalam ini dengan ancaman orang dalam tradisional yang telah dipersiapkan untuk dihadapi tim keamanan selama puluhan tahun?

Ancaman orang dalam tradisional berkaitan dengan seseorang yang menyalahgunakan akses yang sudah dimilikinya, misalnya karyawan yang kecewa, ceroboh, atau sekadar salah mengeklik sesuatu. Selama puluhan tahun, tim keamanan telah membangun program untuk menghadapi risiko tersebut, dengan berfokus pada pemeriksaan latar belakang, hak akses minimum, daftar periksa saat karyawan keluar, dan langkah-langkah sejenis.

Ancaman dari agen orang dalam berbeda karena agen tersebut sejak awal tidak pernah diberi akses. Risikonya bergeser dari penyalahgunaan menjadi upaya memperoleh akses. Jika agen diberi tujuan, tetapi jalur yang jelas untuk mencapainya terhalang, agen itu tidak sekadar mengirim tiket lalu menunggu seperti manusia. Agen akan mencari jalur lain, seperti akun layanan dengan kata sandi yang lemah atau titik akhir yang lupa ditutup. Agen itu menerobos masuk sendiri tanpa niat jahat atau pelanggaran kebijakan yang disadarinya. Agen tersebut melakukan persis apa yang Anda minta, dan itulah yang membuatnya begitu sulit dideteksi. Setiap langkah tampak wajar jika dilihat secara terpisah, dan pada akhirnya agen melaporkan bahwa tugasnya berhasil.

Kita sudah tahu cara menata kelola karyawan dan pihak ketiga yang memiliki akses ke sistem sensitif, tetapi agen merupakan kelompok ketiga, dan perangkat yang dibuat untuk menangani dua kelompok pertama tidak menjangkau mereka.

Agen AI dapat terus mengejar tujuan, beroperasi secepat mesin, dan berinteraksi dengan berbagai sistem tanpa pertimbangan yang mungkin diterapkan karyawan manusia. Seberapa mendasar perubahan yang ditimbulkan hal ini terhadap model ancaman perusahaan?

Perubahan paling besar terjadi pada jangka waktunya. Orang yang mencari cara untuk masuk ke sebuah sistem pada akhirnya akan bosan, tertangkap, atau menyerah. Agen tidak demikian. Celah yang sebelumnya belum ditemukan kini bisa ditemukan karena agen tidak merasa lelah dan tidak berhenti mencari.

Dan celahnya bukan hanya satu. Agen yang dibuat untuk mengerjakan satu tugas akan dengan mudah mengakses belasan sistem demi menyelesaikannya—mengambil riwayat akun di satu tempat, memeriksa basis data di tempat lain—padahal sebagian besar aktivitas itu tidak ada hubungannya dengan tugas yang sebenarnya diberikan. Saat menyusun satu presentasi, agen bisa saja mengakses data pelanggan lain, catatan keuangan, informasi karyawan, atau apa pun yang dilaluinya. Tidak satu pun dari aktivitas itu tercatat sebagai insiden.

Karena itu, model ancamannya telah berubah. Pertanyaan yang seharusnya diajukan tim keamanan saat ini adalah: seberapa jauh agen mereka sendiri akan bertindak untuk menyelesaikan tugas jika tidak ada yang memberi tahu mereka batas yang harus dipatuhi.

Banyak organisasi telah menerapkan manajemen identitas dan akses, manajemen akses istimewa, serta arsitektur zero trust. Mengapa kontrol-kontrol tersebut belum memadai jika digunakan sendiri untuk mengatur agen AI otonom?

Kerangka kerja tersebut dirancang untuk manusia dan vendor—dua kelompok yang sama-sama memiliki pertimbangan sendiri dan akan berhenti ketika menemui hambatan. Identitas agen memerlukan ketelitian yang sama seperti yang diterapkan pada manusia dan risiko pihak ketiga: penemuan, kepemilikan, dan bukti yang dapat dipertanggungjawabkan kepada auditor. Kesenjangannya adalah belum ada standar bersama mengenai apa sebenarnya arti “diatur” ketika pihak yang memegang kredensial adalah agen.

Sebagai contoh, agen yang dibuat oleh salah satu teknisi Anda dapat bertindak menggunakan hak akses teknisi tersebut, bahkan pada sistem yang tidak pernah diaksesnya sendiri. IAM dan PAM mengasumsikan bahwa pihak yang memegang kredensial tahu kapan harus berhenti, tetapi agen tidak memiliki asumsi bawaan seperti itu.

Haruskah perusahaan mulai memperlakukan setiap agen AI sebagai identitas mesin tersendiri, dengan pemilik, izin, cakupan, dan siklus hidup yang ditetapkan secara jelas? Seperti apa kerangka identitas agen yang matang?

Ya, tetapi sebagian besar perusahaan belum sampai ke tahap itu. Lebih banyak perusahaan daripada yang Anda kira bahkan tidak tahu berapa banyak agen yang beroperasi di lingkungan mereka, apalagi siapa pemilik masing-masing agen. Kerangka kerja yang matang dimulai dengan penemuan—inventaris setiap agen yang nyata dan terus diperbarui. Setelah itu, setiap agen memerlukan pemilik, cakupan yang ditetapkan mengenai hal-hal yang boleh diaksesnya, serta kebijakan yang benar-benar menegakkan batasan cakupan tersebut. Berdasarkan riset kami sendiri, kami melihat pola kegagalan yang sama di sisi vendor: tiga dari empat organisasi hanya menilai ulang pihak ketiganya setahun sekali atau lebih jarang, sehingga mereka mengatur berdasarkan data yang sudah kedaluwarsa sebelum terjadi perubahan apa pun. Penilaian sekali waktu tidak memadai untuk agen, baik internal maupun eksternal.

Kami menginginkan satu standar yang berlaku sama bagi setiap agen, alih-alih tim keamanan harus menelusuri apa yang dibuat sendiri oleh masing-masing pengembang. Artinya, kebijakan dapat ditulis dalam bahasa sederhana, diuji menggunakan lalu lintas historis yang nyata sebelum diaktifkan, lalu ditegakkan secara langsung sehingga kerangka kerja itu menjadi bagian dari jalur setiap tindakan agen, bukan sekadar tercantum dalam dokumentasi.

Salah satu situasi yang sangat sulit adalah ketika agen melanggar kebijakan keamanan tanpa bertindak jahat. Jika agen menemukan jalur yang tidak disengaja menuju data sensitif hanya karena berusaha menyelesaikan tugas yang diberikan kepadanya, bagaimana tim keamanan dapat membedakan otomatisasi yang berhasil dari insiden keamanan?

Saat ini, jawaban sejujurnya adalah Anda tidak bisa. Bayangkan sebuah agen dukungan yang dirancang untuk menyusun tinjauan bisnis triwulanan, lalu diminta mengambil riwayat akun dan membuat presentasinya. Jalur yang semestinya digunakan—ekspor yang seharusnya menjadi sumber data—ternyata kosong. Manusia akan berhenti di situ, tetapi agen menemukan jalur lain dan, dari sudut pandangnya, berhasil menyelesaikan tugas.

Tugasnya memang selesai, tetapi agen mencapainya dengan mengakali protokol keamanan Anda dan mengakses sistem yang tidak seharusnya dibukanya. Pertanyaan penentunya adalah apakah agen tetap berada dalam cakupan yang telah kita tetapkan. Menyelesaikan tugas bukanlah persoalannya. Ini adalah persoalan kebijakan. Artinya, cakupan harus ditetapkan dengan cukup ketat agar “otomatisasi yang berhasil” dan “insiden keamanan” tidak tampak sama setelah kejadian.

Pemantauan keamanan tradisional sering kali mendeteksi aktivitas mencurigakan setelah aktivitas itu terjadi, tetapi agen otonom dapat menyelesaikan ratusan tindakan sebelum manusia sempat merespons. Apakah AI agenik memerlukan kontrol keamanan yang bekerja langsung di jalur eksekusi, alih-alih terutama mengandalkan peringatan dan pemantauan setelah kejadian?

Ya, tanpa keraguan. Jika Anda baru mendeteksinya saat sistem berjalan, Anda sudah terlambat. Saat alat pemantauan menandai tindakan tersebut, tindakan itu sudah telanjur dijalankan. Anda akan memiliki catatan sempurna tentang bagaimana tepatnya Anda terekspos, tetapi tidak ada cara untuk menghentikannya.

Satu-satunya tata kelola yang efektif untuk sesuatu yang bergerak secepat mesin adalah tata kelola yang mengevaluasi tindakan sebelum dijalankan dan langsung menghentikan pelanggaran. Kita tidak akan pernah menyerahkan data paling sensitif kepada pegawai baru lalu hanya berharap pemantauan dapat mendeteksi jika terjadi kesalahan. Agen layak mendapat disiplin yang sama, tepat pada saat tindakan akan dilakukan. Bukan setelahnya.

Model Context Protocol (MCP) dan antarmuka lain antara agen dan alat memberi sistem AI akses ke kapabilitas eksternal yang semakin canggih. Batas keamanan baru apa yang perlu diterapkan pada pemanggilan alat, API, kredensial, dan akun layanan seiring perusahaan memperluas hal-hal yang boleh dilakukan oleh agen mereka?

Pemanggilan alat adalah batas keamanan yang baru. Setiap kali agen menggunakan kredensial, memanggil API, atau menjalankan alat, itu menjadi titik pengambilan keputusan. Saat ini, sebagian besar perusahaan belum memiliki mekanisme yang bekerja tepat di titik tersebut untuk menilai apakah tindakan itu seharusnya dilakukan. Inilah bagian yang selama ini belum ada. Kami melihat titik buta yang sama dari sisi eksternal: hanya 37% pemimpin keamanan yakin bahwa mereka bahkan dapat mengidentifikasi di mana AI dijalankan di dalam produk vendor yang sudah bekerja sama dengan mereka. Jika Anda tidak dapat melihatnya di produk vendor, Anda juga tidak akan dapat melihat langkah berikutnya yang diambil agen Anda sendiri. Kredensial dan akun layanan yang mendasari semua ini juga perlu dikelola dengan tingkat ketelitian yang sama seperti akses manusia: kepemilikannya diketahui, cakupannya ditetapkan, dan ditinjau secara berkala. Agen tidak boleh dapat menggunakan kredensial yang tidak pernah diberikan kepadanya hanya karena kredensial itu tersedia di suatu tempat dalam jalur yang dapat dijangkaunya.

Ketika auditor, regulator, atau pelanggan menanyakan apa yang diakses agen AI, keputusan apa yang diambilnya, dan ke mana data yang dihasilkan dikirim, tingkat keterlacakan seperti apa yang secara realistis seharusnya dapat diberikan organisasi? Mungkinkah jejak audit agen pada akhirnya menjadi sama mendasarnya dengan log akses tradisional?

Organisasi seharusnya dapat segera menjawab apa yang diakses agen, keputusan apa yang diambilnya, dan ke mana data yang dihasilkan dikirim. Menjawab pertanyaan itu dengan merangkai informasi dari log setelah kejadian tidaklah cukup. Standarnya adalah catatan berkelanjutan yang menunjukkan jika ada upaya pengubahan, dan sudah tersedia saat pertanyaan diajukan. Saat ini, sebagian besar perusahaan tidak memberikan jawaban atas pertanyaan-pertanyaan ini. Kesenjangan ini bukan sesuatu yang bisa dijelaskan begitu saja kepada pelanggan, dan bergantung pada apa yang bocor, regulator pun tidak akan menerimanya.

Dan ya, menurut saya, jejak audit agen akan segera menjadi sama mendasarnya dengan log akses. Selama bertahun-tahun, kita menganggap “siapa mengakses apa, dan kapan” sebagai hal yang wajib dicatat dalam sistem yang digunakan manusia. Tidak ada alasan untuk menetapkan standar yang lebih rendah bagi agen hanya karena yang mengeklik bukan manusia. Kerangka kerja seperti EU AI Act, AIUC-11, dan ISO 42001 sudah mendorong ke arah itu. Keterlacakan agen perlu diselaraskan dengan kontrol dan logika pembuktian yang sama dengan yang selama ini menopang program kepatuhan. Menganggapnya sebagai urusan belakangan akan membuatnya tersisih.

Ke depan, apakah menurut Anda tata kelola agen AI akan menjadi kategori keamanan tersendiri, atau pada akhirnya akan diserap ke dalam platform tata kelola, risiko, kepatuhan, identitas, dan keamanan siber yang sudah ada? Menurut Anda, apa saja yang perlu disiapkan perusahaan sebelum dapat menerapkan agen yang benar-benar otonom dengan aman dalam skala besar?

Setiap gelombang besar teknologi memunculkan gelombang keamanan tersendiri: komputasi awan melahirkan Wiz, sedangkan perangkat titik akhir melahirkan CrowdStrike—dan kini agen AI memunculkan gelombang serupa. Penyedia model sedang membangun konsol dan kebijakan untuk platform mereka sendiri. Ini berguna, tetapi tidak ada perusahaan yang hanya menggunakan satu penyedia model, satu asisten pemrograman, dan satu kumpulan agen yang dibangun secara internal. Harus ada pihak yang mengatur semuanya dengan satu rangkaian kebijakan dan satu sumber bukti, dan itu bukan masalah yang dirancang untuk diselesaikan oleh satu platform AI saja. Memang bukan itu tujuan platform tersebut. Tata kelola agen AI sudah menjadi kategori tersendiri, sekalipun terhubung dengan sistem GRC, identitas, dan kepatuhan yang sudah digunakan perusahaan.

Sebelum dapat menerapkan agen yang benar-benar otonom dalam skala besar, perusahaan perlu menyiapkan empat hal, dan kebanyakan belum memiliki satu pun. Pertama, penemuan secara waktu nyata: mengetahui setiap agen yang berjalan, siapa pemiliknya, dan identitas apa yang digunakannya, tepat saat agen itu dibuat.

Berikutnya, kebijakan harus ditegakkan langsung, dengan evaluasi sebelum suatu tindakan dijalankan. Ketiga, perusahaan memerlukan pemantauan berkelanjutan untuk mendeteksi penyimpangan, karena agen tetap berjalan setelah sesi yang membuatnya berakhir dan cakupannya dapat meluas tanpa disadari. Terakhir, diperlukan catatan yang menunjukkan jika ada upaya pengubahan atas setiap keputusan yang dibuat agen, dan diselaraskan dengan kerangka kerja yang benar-benar diakui auditor dan regulator. Itulah lapisan yang sedang kami bangun di Drata. Tanpanya, perusahaan yang menerapkan agen otonom dalam skala besar hanya mengandalkan harapan.

Terima kasih atas wawancara yang luar biasa ini. Pembaca yang ingin mempelajari tata kelola agen AI, kepatuhan berkelanjutan, dan kontrol untuk menghadapi ancaman dari agen internal dapat mengunjungi Drata.