Jacob Ideskog, CTO of Curity – Seri Wawancara

Jacob Ideskog adalah Spesialis Identitas dan CTO di Curity. Sebagian besar waktunya dihabiskan untuk bekerja dengan solusi keamanan di ruang API dan Web. Ia telah bekerja dengan merancang dan mengimplementasikan solusi OAuth dan OpenID Connect untuk penggunaan perusahaan besar serta startup kecil.

Curity adalah platform manajemen identitas dan akses modern yang dibangun di sekitar Curity Identity Server, solusi berbasis standar yang dirancang untuk mengamankan autentikasi dan otorisasi untuk aplikasi, API, dan layanan digital dalam skala besar. Ini mendukung protokol seperti OAuth 2.0 dan OpenID Connect untuk mengentralisasi alur masuk, menerapkan kebijakan akses yang halus, dan mengeluarkan token yang aman untuk pengguna manusia dan klien mesin, termasuk API dan layanan. Platform ini dirancang untuk fleksibilitas dan skalabilitas, memungkinkan organisasi untuk mengirimkan di seluruh cloud, hybrid, atau lingkungan on-prem, mengintegrasikan dengan sistem yang ada, dan memberikan pengalaman pengguna yang aman dan mulus tanpa mengandalkan infrastruktur keamanan yang dibangun khusus.

Anda telah menghabiskan sebagian besar karir Anda membangun sistem identitas dan keamanan API, dari co-pendiri Curity hingga memimpinnya sebagai CTO melalui era cloud dan sekarang AI. Bagaimana perjalanan itu membentuk pandangan Anda bahwa agen AI harus diperlakukan sebagai identitas digital kelas satu daripada hanya perangkat lunak lain?

Di setiap bidang teknologi yang saya kerjakan, satu masalah terus muncul. Baik itu komputasi awan atau sekarang AI, jika perangkat lunak bertindak atas nama orang atau sistem lain, Anda memiliki masalah identitas.

Dengan adopsi massal agen AI yang beragensi, masalah ini diperparah. Perilaku mereka tidak lagi terikat erat dengan skrip dan mereka beroperasi dengan tingkat otonomi yang belum pernah dilihat sebelumnya oleh perusahaan. Agen AI membuat keputusan, memanggil API, dan menghubungkan tindakan di seluruh sistem – seringkali tanpa pengawasan langsung manusia. Perilaku ini menciptakan tantangan identitas dan akses yang secara fundamental berbeda dari perangkat lunak tradisional.

Mengobati agen AI sebagai identitas digital kelas satu adalah satu-satunya cara untuk mengatasi masalah ini dengan benar. Jika organisasi memperlakukan mereka hanya sebagai proses atau akun layanan, mereka kehilangan visibilitas dan kontrol dengan cepat – dan itu adalah resep untuk krisis keamanan.

Banyak perusahaan sangat antusias dengan agen AI yang beragensi tetapi masih terjebak dalam eksperimen. Dari apa yang Anda lihat dalam penggunaan nyata, apa celah identitas dan tata kelola yang paling umum yang mencegah organisasi dari penskalaan agen dengan aman?

Sebagian besar eksperimen terjadi dalam sandbox yang terisolasi yang mengabaikan apa yang terjadi dalam skala besar. Selama percobaan awal, tim sering memberikan agen kunci API yang luas, kredensial bersama, atau izin cloud yang luas hanya untuk memulai.

Pendekatan itu runtuh seketika agen diterapkan di luar percobaan. Ini karena tim keamanan tidak dapat melihat data apa yang diakses oleh agen, tindakannya, atau apakah agen dapat atau telah melebihi ruang lingkup yang dimaksudkan; baik secara tidak sengaja atau dengan niat jahat. Kegelapan ini membuat mustahil untuk mengatur agen dengan aman, yang merupakan alasan mengapa banyak organisasi kesulitan melampaui percobaan.

Anda telah berargumen bahwa batasan yang ketat sangat penting untuk agen AI yang beragensi. Bagaimana desain identitas yang “baik” terlihat untuk agen AI dalam praktik, dan di mana perusahaan biasanya salah?

Desain identitas yang baik dimulai dengan prinsip izin minimal dan izin yang terikat dengan niat eksplisit. Setiap agen AI harus memiliki identitasnya sendiri, izin yang terbatas, dan hubungan kepercayaan yang jelas (aturan eksplisit untuk sistem mana yang diizinkan untuk berinteraksi). Pada dasarnya, akses harus terikat tujuan, terbatas waktu, dan mudah dibatalkan.

Di mana perusahaan salah adalah dengan menggunakan kembali akun layanan yang ada atau berasumsi bahwa agen internal aman secara default. Asumsi itu tidak berlaku terhadap ancaman dunia nyata. Pelaku jahat secara aktif mencari kelemahan ini, dan agen AI secara dramatis meningkatkan radius ledakan ketika desain identitas longgar.

Curity telah lama bekerja dengan standar seperti OAuth dan OpenID Connect. Seberapa penting standar identitas terbuka untuk membuat agen AI yang beragensi dapat dioperasikan dan aman di seluruh lingkungan perusahaan yang kompleks?

Standar terbuka sangat kritis. Perusahaan sudah menjalankan kain identitas yang kompleks yang mencakup platform cloud, layanan SaaS, dan API internal. Agen AI hanya menambah kompleksitas.

Tanpa standar, setiap agen menjadi integrasi tersendiri dan pengecualian keamanan permanen. Dengan standar seperti OAuth dan OpenID Connect, agen dapat diotentikasi, diotorisasi, dan diaudit seperti beban kerja lainnya. Ini adalah satu-satunya pendekatan yang dapat memfasilitasi penskalaan aman di seluruh lingkungan perusahaan yang nyata.

Identitas non-manusia menjadi lebih umum, dari akun layanan hingga identitas mesin. Apa yang membuat agen AI secara fundamental berbeda dari identitas non-manusia sebelumnya dari perspektif keamanan?

Perbedaan kunci antara agen AI modern dan identitas non-manusia (NHIs) sebelumnya adalah otonomi. Akun layanan tradisional melakukan tepat apa yang dikodekan untuk dilakukan, terikat ketat pada tugasnya. Agen AI menafsirkan instruksi, menyesuaikan perilakunya, dan mengambil tindakan yang tidak pernah secara eksplisit ditulis sebelumnya – semuanya meningkatkan bahaya jika tidak ada batasan yang tepat.

Kesalahan identitas atau akses yang kecil dapat dengan cepat berubah menjadi bencana, karena agen dapat bertindak dengan kecepatan dan di seluruh sistem. Dari perspektif keamanan, ini menyajikan risiko besar.

Seberapa penting jejak audit dan logging berbasis identitas untuk mengatur agen AI, terutama di industri yang diatur?

Jejak audit tidak boleh “enak untuk dimiliki”. Mereka perlu dibangun dari awal. Di lingkungan yang diatur, organisasi diharapkan untuk menjawab pertanyaan sederhana tetapi kritis: apa yang diakses oleh agen ini, kapan itu terjadi, dan siapa yang mengotorisasi?

Logging berbasis identitas adalah satu-satunya cara yang dapat diandalkan untuk mendapatkan tingkat pertanggungjawaban tersebut. Ini juga memainkan peran kunci dalam respons insiden. Tanpa konteks identitas yang jelas, hampir mustahil untuk mengetahui apakah masalah berasal dari agen yang salah, identitas yang dikompromikan, atau hanya prompt yang buruk.

Apa risiko dunia nyata yang Anda lihat muncul ketika organisasi mengirimkan agen AI yang memiliki hak akses berlebihan atau kurang dipantau dalam produksi?

Satu risiko umum adalah agregasi data sunyi. Agen yang memiliki hak akses berlebihan dapat menarik informasi sensitif dari beberapa sistem (catatan pelanggan, dokumen internal, log) dan kemudian memaparkan data tersebut melalui prompt, ringkasan, atau integrasi eksternal.

Risiko lainnya adalah agen dengan akses administratif membuat perubahan besar dengan kecepatan mesin, menyebabkan kerusakan jauh lebih besar daripada yang dapat dilakukan manusia dalam waktu singkat. Ini dapat mencakup modifikasi sumber daya cloud, menonaktifkan kontrol keamanan, atau memicu alur kerja otomatis tanpa pengawasan.

Insiden ini mungkin bersifat malisis, tetapi tidak harus. Agen yang memiliki hak akses berlebihan atau kurang dipantau dapat hanya beroperasi berdasarkan asumsi yang sudah ketinggalan zaman atau salah, memperbesar kesalahan di seluruh sistem sebelum seseorang menyadari.

Tetapi, dari perspektif penyerang, identitas agen yang dikompromikan sangat berharga. Ini memungkinkan gerakan lateral di seluruh API dan layanan, seringkali dengan tingkat akses yang tidak pernah diberikan kepada pengguna manusia. Tanpa kontrol identitas dan pemantauan yang kuat, organisasi sering hanya menemukan kegagalan ini setelah kerusakan nyata telah dilakukan.

Untuk perusahaan yang berpindah dari percobaan ke penerapan agen AI yang sebenarnya, apa keputusan identitas dan akses yang harus dibuat lebih awal untuk menghindari perancangan ulang yang mahal kemudian?

Organisasi harus memutuskan lebih awal bagaimana agen diberi identitas, bagaimana izin diberikan, dan bagaimana akses ditinjau dari waktu ke waktu, menentukan batas identitas dari awal.

Membawa kontrol identitas secara retroaktif hampir selalu bermasalah. Agen sering terintegrasi dalam alur kerja menggunakan kredensial bersama atau peran yang luas, sehingga memperketat akses setelahnya memutus asumsi yang sistem andalkan. Ini pada akhirnya menyebabkan alur kerja gagal dan merusak kepercayaan pada teknologi. Lebih murah, serta lebih aman, untuk merancang identitas, ruang lingkup, dan batas akses yang tepat dari awal.

Di mana integrasi identitas paling sering menjadi bottleneck ketika menggelar agen AI, dan apa praktik terbaik yang membantu mengurangi gesekan?

Manajemen identitas dapat menjadi bottleneck, tetapi hanya ketika dianggap sebagai pemikiran kedua. Tim fokus pada membangun kemampuan agen yang mengesankan terlebih dahulu, hanya untuk kemudian menyadari bahwa mereka perlu diintegrasikan dengan sistem IAM, gerbang API, dan platform logging untuk benar-benar aman.

Pendekatan terbaik adalah memulai dengan pemahaman yang jelas dan implementasi yang tepat dari platform identitas, lalu merancang agen untuk sesuai dengan mereka. Organisasi harus menggunakan kembali standar dan infrastruktur yang ada daripada melewati mereka; memotong sudut ini akan menyebabkan masalah di masa depan. Ketika identitas dibangun dari awal, itu mempercepat penerapan daripada memperlambatnya.

Untuk pemimpin keamanan dan teknis yang ingin mengadopsi agen AI yang beragensi tetapi khawatir tentang tata kelola dan risiko, apa saran yang Anda berikan ketika mereka merencanakan roadmap mereka?

Lambatkan langkah Anda hanya cukup untuk mendapatkan fondasi yang tepat. Agen AI harus diperlakukan sebagai identitas dan Anda perlu menerapkan tata kelola yang sama yang Anda harapkan dari manusia, dan bersikeras pada visibilitas dari awal. Jika organisasi melakukan itu, maka penskalaan agen AI yang beragensi menjadi latihan keamanan, bukan lompatan iman yang buta dan berisiko.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Curity.