Jeff Margolies, Chief Product dan Strategi Officer di Saviynt – Seri Wawancara

Jeff Margolies, Chief Product dan Strategi Officer di Saviynt, memimpin manajemen produk, strategi perusahaan, kemitraan teknologi, dan pengembangan perusahaan, bekerja dengan pelanggan, mitra, dan tim di seluruh organisasi untuk membentuk visi produk jangka panjang perusahaan dan peta pertumbuhan. Ia membawa lebih dari 25 tahun pengalaman di identitas dan keamanan siber, setelah sebelumnya menjabat sebagai Chief Strategi Officer Saviynt dan menduduki posisi kepemimpinan senior di Mandiant, Deloitte, dan Accenture. Di Mandiant, ia mengawasi strategi, kemitraan strategis, dan pengembangan perusahaan, sementara karir awalnya termasuk membantu membangun dan menskala praktik manajemen identitas dan akses Accenture menjadi organisasi global dengan lebih dari 700 profesional. Margolies memegang gelar sarjana dalam Teknik Optik dari Universitas Rochester dan gelar master dalam Teknik Elektro dari Universitas California, Berkeley.

Saviynt adalah perusahaan keamanan identitas yang ditenagai AI yang fokus membantu perusahaan mengatur dan mengamankan akses di seluruh pengguna manusia, identitas non-manusia, mesin, aplikasi, infrastruktur, dan agen AI. Platform Identitas Saviynt menggabungkan pemerintahan identitas, manajemen akses istimewa, pemerintahan akses aplikasi, manajemen identitas eksternal, keamanan identitas non-manusia, dan manajemen postur keamanan identitas dalam platform awan yang terintegrasi dirancang untuk awan, on-premises, SaaS, IaaS, dan lingkungan hybrid. Perusahaan ini telah semakin memposisikan diri di sekitar kebutuhan era AI, termasuk alat untuk mengamankan agen AI, mengatur alur kerja agen, dan memungkinkan operasi identitas bahasa alami melalui penawaran seperti Saviynt MCP Server di AWS Marketplace.

Sebagai Chief Product dan Strategi Officer, Anda memiliki tempat duduk di barisan depan untuk melihat bagaimana kebutuhan keamanan identitas perusahaan berubah. Bagaimana munculnya agen AI telah mengubah cara organisasi memikirkan identitas, akses, dan pemerintahan, dan bagaimana perubahan tersebut mempengaruhi pengembangan Saviynt dari Agent Access Gateway dan Intent-Aware Runtime Authorization?

Agen AI mengubah keamanan identitas karena identitas manusia dan mesin beroperasi dengan cara yang sangat berbeda. Ini tidak lagi hanya mengelola orang yang masuk ke aplikasi. Organisasi mengelola perangkat lunak yang dapat bernalar, membuat keputusan, dan bertindak secara otonom di seluruh sistem. Saya menganggap agen sebagai generasi aplikasi berikutnya. Setelah mainframe, klien-server, web, dan aplikasi SaaS, kita sekarang memasuki era aplikasi agen.

Prinsip-prinsip dasar masih sama. Organisasi perlu tahu siapa yang memiliki agen, siapa yang dapat menggunakannya, sistem apa yang dapat diakses, dan bagaimana aktivitasnya diatur. Identitas mesin mengubah kecepatan dan skala. Pengguna bisnis sekarang dapat membuat agen dalam hitungan menit, yang berarti pemerintahan harus bergerak sama cepat. Itulah yang memimpin kita untuk mengembangkan Agent Access Gateway dan Intent-Aware Runtime Authorization — untuk membantu perusahaan mengadopsi agen dengan kontrol akses yang tepat, akuntabilitas, dan pengawasan dari awal.

Agen AI dengan cepat berpindah dari eksperimen ke lingkungan produksi. Bagaimana agen otonom mengubah model identitas dan akses tradisional yang telah digunakan perusahaan selama dekade?

Manajemen identitas dan akses tradisional dibangun di sekitar orang dan perangkat lunak yang dapat diprediksi. Pengguna mengotentikasi, meminta akses, dan melakukan tindakan tertentu dalam sistem yang ditentukan. Kami memahami siklus hidup identitas manusia dengan jelas dalam konteks ini, termasuk bagaimana memprovisikan akses. Agen AI memperkenalkan siklus hidup yang berbeda. Mereka dapat dibuat dengan cepat, bertindak terus-menerus, beradaptasi di seluruh alur kerja, dan berinteraksi dengan banyak aplikasi, API, dan sumber data dengan otonomi yang jauh lebih besar.

Prinsip-prinsip identitas inti masih berlaku: setiap identitas memerlukan autentikasi, otorisasi, pemerintahan, dan akuntabilitas. Kecepatan sangat berbeda. Alih-alih beberapa aplikasi perusahaan yang dibangun oleh tim terpusat, organisasi mungkin memiliki ribuan agen yang dibuat oleh pengguna bisnis. Faktanya, 92% dari CISO kekurangan visibilitas penuh ke identitas AI, dan 95% meragukan kemampuan mereka untuk mendeteksi atau mengandalkan penyalahgunaan jika itu terjadi. Keamanan identitas harus berkembang sehingga kepemilikan, kontrol akses, persetujuan, dan pemantauan secara otomatis ditetapkan saat agen dibuat.

Banyak organisasi masih menggunakan izin dan kontrol akses yang dirancang untuk karyawan manusia dan aplikasi perangkat lunak konvensional. Mengapa pendekatan tersebut tidak memadai saat menangani agen AI yang dapat bernalar, beradaptasi, dan mengeksekusi tindakan secara mandiri?

Otorisasi tradisional biasanya bertanya, “Apakah identitas ini diizinkan untuk melakukan tindakan ini?” Itu tidak lagi cukup untuk agen AI karena agen mungkin secara teknis memiliki izin untuk melakukan sesuatu, namun masih bertindak di luar niat pengguna.

Misalnya, jika pengguna meminta agen untuk “membersihkan” basis data, agen mungkin menafsirkan itu sebagai menghapus catatan. Mungkin agen memiliki izin untuk menghapus catatan tersebut, namun itu mungkin tidak apa yang dimaksud pengguna. Dengan agen, organisasi perlu mengevaluasi tidak hanya apakah tindakan diizinkan, tetapi juga apakah tindakan tersebut selaras dengan rencana dan niat asli di balik tugas.

Saviynt baru-baru ini memperkenalkan Intent-Aware Runtime Authorization™. Apa yang dimaksud dengan “intent-aware” otorisasi, dan bagaimana itu berbeda dari model autentikasi dan otorisasi tradisional?

Otorisasi yang sadar niat berarti mengevaluasi apakah tindakan agen selaras dengan apa yang dimaksud pengguna untuk dilakukan. Setiap agen dibuat atau dikirim untuk menyelesaikan tugas, dan tugas itu menciptakan konteks untuk apa yang seharusnya dan tidak boleh dilakukan agen.

Otorisasi tradisional membuat keputusan biner: apakah ini diizinkan atau tidak? Otorisasi yang sadar niat menambahkan lapisan lain dengan bertanya apakah tindakan masuk akal dalam konteks tugas asli. Jika agen diminta untuk mengarsipkan data lama tetapi mulai menghapus catatan aktif, itu mungkin secara teknis diizinkan, namun tidak selaras dengan niat pengguna. Tujuan dari otorisasi yang sadar niat adalah untuk mengatur tindakan agen secara real-time berdasarkan konteks tugas, kebijakan, dan hasil yang diinginkan.

Bagaimana perusahaan dapat menentukan apakah agen AI harus diizinkan untuk melakukan tindakan tertentu bahkan jika secara teknis memiliki izin untuk mengakses sistem yang mendasarinya?

Hal ini dimulai dengan perencanaan. Sebelum agen mengambil tindakan, organisasi perlu menentukan apa yang seharusnya dicapai, sistem apa yang seharusnya diakses, pengawasan apa yang berlaku, dan kebijakan apa yang harus diikuti. Rencana itu menjadi dasar untuk mengevaluasi perilaku agen.

Pertanyaan kunci bukan hanya apakah agen memiliki akses, tetapi apakah tindakannya konsisten dengan tugas yang dibuat untuk dilakukan. Banyak aplikasi dan API yang ada tidak dibangun untuk menegakkan tingkat konteks ini, yang mengapa model gateway sangat penting. Agent Access Gateway menyediakan lapisan kontrol tambahan untuk mengevaluasi rencana versus tindakan, dan membantu mengelola overentitlement atau celah di sistem warisan.

Salah satu kekhawatiran terbesar seputar agen AI adalah bahwa mereka dapat bertindak di seluruh aplikasi dan sumber data dalam hitungan detik. Apa risiko baru yang diciptakan untuk tim keamanan, dan risiko mana yang saat ini kurang diperkirakan?

Agen AI tidak selalu menciptakan risiko yang sepenuhnya baru. Dalam banyak kasus, mereka meningkatkan kemungkinan bahwa risiko yang ada akan dieksploitasi. Jika organisasi sudah memiliki akun yang memiliki izin berlebihan, kontrol yang lemah, atau sistem yang bergantung pada ketidakjelasan, agen dapat menemukan dan bertindak pada kelemahan tersebut jauh lebih cepat daripada manusia, meningkatkan risiko.

Saya kadang-kadang membandingkannya dengan meninggalkan pintu belakang yang tidak terkunci. Kerentanan sudah ada, tetapi kemungkinan seseorang menemukannya mungkin rendah. Sekarang bayangkan agen memeriksa setiap pintu belakang di seluruh ribuan lingkungan dalam hitungan detik. Itulah mengapa organisasi perlu memastikan dasar-dasar yang benar: tahu apa agen yang ada, memahami apa yang dapat diakses, membatasi izin yang tidak perlu, dan mengatur aktivitasnya secara terus-menerus.

Bagaimana organisasi harus mengatur siapa yang dapat berinteraksi dengan agen-agen tersebut dan informasi atau sistem apa yang dapat diakses oleh agen-agen tersebut saat perusahaan menggelar banyak agen AI di seluruh departemen?

Cara yang berguna untuk memikirkan agen AI adalah sebagai aplikasi. Perusahaan sudah tahu bagaimana mengatur aplikasi: siapa yang memiliki, siapa yang dapat menggunakannya, sistem apa yang terhubung, data apa yang dapat diakses, dan bagaimana akses itu ditinjau. Pertanyaan yang sama berlaku untuk agen.

Perbedaannya adalah bahwa agen dapat dibuat dalam hitungan menit oleh pengguna bisnis, bukan dalam berbulan-bulan oleh tim pengembangan besar dan hanya 5% dari CISO merasa yakin mereka bisa mengandalkan agen AI yang dikompromikan. Pemerintahan perlu dibangun ke dalam proses pembuatan sehingga kepemilikan, akses, persetujuan, hak, dan tinjauan berkala ditetapkan dari awal daripada ditambahkan setelah agen sudah beroperasi.

Shadow AI telah menjadi kekhawatiran yang semakin meningkat karena karyawan mengadopsi alat AI di luar pengawasan resmi IT. Bagaimana agen AI memperkuat tantangan ini, dan langkah-langkah praktis apa yang dapat diambil organisasi untuk mendapatkan kembali visibilitas dan kontrol?

Agen AI memperkuat Shadow AI karena mereka mudah dibuat dan dapat bertindak di seluruh sistem. Itu tidak berarti organisasi harus mencoba menghentikan orang menggunakan mereka. Manfaat produktivitasnya nyata, dan bisnis akan mengejarinya.

Jawaban praktis adalah visibilitas dan pengawasan. Organisasi perlu tahu apa agen yang ada, siapa yang memiliki, apa yang dimaksudkan untuk dilakukan, dan sistem atau data apa yang dapat diakses. Setiap agen harus memiliki identitas, izin yang ditentukan, dan pemantauan berkelanjutan. Banyak perusahaan masih berada pada tahap awal eksperimen, sehingga masih ada waktu untuk membangun pemerintahan sebelum adopsi agen mencapai skala yang jauh lebih besar. Tapi waktu itu segera habis.

Menghadap ke depan, apakah Anda percaya bahwa setiap agen AI pada akhirnya akan memerlukan identitas digital, kerangka pemerintahan, dan jejak audit yang sama seperti karyawan manusia? Apa yang terlihat seperti model masa depan?

Setiap agen AI harus memiliki identitasnya sendiri tanpa keraguan sehingga organisasi tahu apa itu, siapa yang memiliki, apa yang dapat diakses, dan apa yang dilakukan. Identitas manusia dan identitas non-manusia, termasuk agen AI, harus semua diatur melalui model keamanan identitas yang terintegrasi.

Konsep-konsepnya sudah familiar: autentikasi, otorisasi, kepemilikan, hak, pelacakan aktivitas, dan pemerintahan. Yang berubah adalah skala. Perusahaan mungkin segera menciptakan ratusan agen per minggu, yang pada akhirnya akan mengarah ke puluhan ribu atau bahkan jutaan aplikasi agen. Masa depan adalah tentang menerapkan prinsip-prinsip keamanan identitas pada setiap jenis identitas dengan kecepatan dan skala yang jauh lebih besar. Sekarang adalah waktu untuk memulai implementasi.

Bagaimana perusahaan dapat menentukan apakah agen AI harus diizinkan untuk melakukan tindakan tertentu bahkan jika secara teknis memiliki izin untuk mengakses sistem yang mendasarinya?

Hal ini dimulai dengan perencanaan. Sebelum agen mengambil tindakan, organisasi perlu menentukan apa yang seharusnya dicapai, sistem apa yang seharusnya diakses, pengawasan apa yang berlaku, dan kebijakan apa yang harus diikuti. Rencana itu menjadi dasar untuk mengevaluasi perilaku agen.

Pertanyaan kunci bukan hanya apakah agen memiliki akses, tetapi apakah tindakannya konsisten dengan tugas yang dibuat untuk dilakukan. Banyak aplikasi dan API yang ada tidak dibangun untuk menegakkan tingkat konteks ini, yang mengapa model gateway sangat penting. Agent Access Gateway menyediakan lapisan kontrol tambahan untuk mengevaluasi rencana versus tindakan, dan membantu mengelola overentitlement atau celah di sistem warisan.

Sebagai perusahaan berlomba untuk menggelar AI agenik, apa kesalahan paling umum yang Anda lihat perusahaan melakukan saat ini, dan apa yang harus diprioritaskan oleh pemimpin keamanan dan teknologi dalam 12 hingga 24 bulan ke depan untuk memastikan agen AI tetap produktif dan dapat dipercaya?

Akan menjadi kelalaian besar untuk meninggalkan keamanan di era ini pada kebetulan. Manfaat produktivitas yang terkait dengan AI agenik sangat nyata, dan organisasi perlu menangkapnya. Risiko terbesar adalah bahwa keamanan dan pemerintahan tidak mengikuti.

Dalam 12 hingga 24 bulan ke depan, pemimpin harus fokus pada visibilitas dan pemerintahan dasar: mempertahankan inventori agen, menetapkan kepemilikan, memberi setiap agen identitas, memahami apa yang dapat diakses, dan membuat pemerintahan bagian dari proses pembuatan. Ini adalah kesempatan untuk membangun keamanan ke dalam perubahan platform besar dari awal daripada mencoba memasangnya nanti.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Saviynt.