Pemimpin pemikiran
Perubahan Arsitektur yang Diperlukan untuk Mengatur Agen AI

Poin utamaPerlakukan agen sebagai kolega digital dengan lencana akses dan batasan pengungkapan…
Lihat selengkapnya
- Perlakukan agen sebagai kolega digital dengan lencana akses dan batasan pengungkapan, bukan perbaikan cepat pada prompt.
- Tata kelola berdasarkan desain memerlukan bidang kendali terpadu untuk menegakkan kebijakan secara konsisten di semua lingkungan.
- Tanpa observabilitas dan garis keturunan waktu nyata, perusahaan tidak dapat mengaudit tindakan agen atau membuktikan kepatuhan saat proses berjalan.
AI tidak lagi hanya sebuah chatbot yang menghasilkan teks. Di lingkungan perusahaan, agen AI melakukan tindakan seperti mengambil data sensitif, memicu alur kerja, memanggil alat, dan mencatat aktivitas di seluruh sistem. Otonomi mengubah diskusi tata kelola secara keseluruhan; kontrol dan prosedur yang awalnya dirancang untuk pengguna manusia dan aplikasi tradisional tidak dibangun untuk mengatur perangkat lunak yang dapat mengeksekusi tindakan multi-langkah pada runtime.
Risikonya tidak teoritis. Celah kecil dalam visibilitas, kontrol akses, dan auditabilitas dapat menumpuk dengan cepat, berubah menjadi kegagalan runtime yang sulit dideteksi dan bahkan lebih sulit untuk dipulihkan dampaknya.
Untuk mengikuti era baru ini, mengatur agen AI tidak dapat dilakukan dengan menambahkan lebih banyak dokumen kebijakan. Ini memerlukan tata kelola sejak tahap desain: pendekatan arsitektural di mana kontrol ditanamkan dalam bidang kendali dan ditegakkan terus-menerus pada runtime. Jika agen akan bertindak seperti rekan digital, mereka harus mewarisi guardrails perusahaan yang sama dengan manusia, plus pengawasan runtime yang lebih kuat.
Mengapa tata kelola rusak di era konvergensi
Arsitektur perusahaan telah memasuki era konvergensi. Data dan beban kerja sekarang melintasi beberapa cloud, pusat data privat, dan lingkungan edge.
Ada organisasi yang menjalankan platform mereka dalam sistem paralel karena mereka memiliki beberapa proses untuk dikelola secara bersamaan. Ini termasuk sistem identitas terpisah, jalur pemrosesan log, katalog, dan proses yang disetujui. Hasilnya adalah apa yang disebut beberapa orang sebagai “platform Frankenstein,” di mana overhead integrasi meningkat dengan setiap alat atau lingkungan cloud baru. Faktanya, fragmentasi ini muncul dalam kenyataan sehari-hari.
Menurut survei terbaru, 47% responden menyebutkan persyaratan dan proses akses yang rumit, dan 44% menyebutkan keterbatasan visibilitas mengenai lokasi data sebagai hambatan untuk menggunakan data secara efektif.
Ini adalah tempat di mana agen mengekspos celah antara sistem.
Untuk menjawab pertanyaan bisnis, agen mungkin perlu menarik data dari sistem ERP on-premises, CRM cloud, telemetri operasional di cloud lain, dan dokumen di suite kolaborasi. Jika organisasi menegakkan kebijakan secara berbeda di setiap tempat, agen akan gagal atau, lebih buruk, berhasil dengan cara yang tidak dapat dijelaskan atau dikendalikan.
Ini adalah saat ketika pemimpin perusahaan harus memperhatikan. Agen menetapkan standar yang lebih tinggi yang menuntut konsistensi di seluruh lingkungan dan akuntabilitas pada runtime.
Karena itu, regulator dan lembaga keamanan menempatkan tata kelola dalam sorotan. Contoh dari ini adalah NIST AI Risk Management Framework, yang menekankan manajemen risiko di seluruh siklus hidup AI, bukan hanya pada waktu pembangunan. Ini adalah pengingat bahwa kepatuhan dan kepercayaan adalah tanggung jawab operasional, bukan daftar periksa satu kali.
Dari kebijakan ke platform
Tata kelola sejak tahap desain berarti bahwa tata kelola mengikuti beban kerja, bukan diterapkan ulang di setiap silo. Dalam praktik, ini bergantung pada tiga komponen dasar:
-
Bidang kendali terpadu
Satu tempat untuk mendefinisikan dan menegakkan identitas, akses, kebijakan, katalog, dan hak di seluruh cloud dan pusat data.
Tujuannya adalah untuk menulis kebijakan sekali dan menegakkannya di mana pun data dan model berjalan, bukan membangun kembali sistem kontrol sistem per sistem. Ini mencegah perilaku agen yang berbeda-beda, di mana agen yang sama berperilaku aman di satu lingkungan tetapi berbahaya di lingkungan lain.
Tes praktisnya sederhana: jika pengguna tidak dapat mengakses kolom, verifikasi bahwa agen yang bertindak atas nama mereka tidak dapat mengaksesnya juga. Ini harus menunjukkan apakah kebijakan yang ditulis ditegakkan di seluruh bidang kendali.
-
Fabric data yang didasarkan pada standar terbuka
Agen memerlukan konteks untuk beroperasi. Ketika konteks tersebut tersebar di struktur yang berbeda yang dimiliki oleh tim yang berbeda, fabric data membantu memstandarisasi semantik dan pola akses, sehingga agen tidak perlu mempelajari set aturan baru untuk setiap dataset.
Format tabel terbuka seperti Apache Iceberg mendukung ini dengan memungkinkan beberapa mesin untuk berbagi data yang sama dan berada di bawah tata kelola tanpa menyalinnya ke silo baru. Ini penting karena duplikasi data adalah tempat di mana tata kelola biasanya gagal. Setelah tim mulai menyalin “hanya apa yang dibutuhkan agen,” Anda telah menciptakan lingkungan baru yang kurang dikelola.
Jika agen dapat beroperasi di seluruh dataset tanpa memperkenalkan celah izin baru, tata kelola bekerja sebagaimana mestinya.
-
Observabilitas waktu nyata dan penelusuran asal-usul data
Agen hanya dapat dikelola jika Anda dapat melihat apa yang mereka lakukan pada runtime.
Observabilitas di sini tidak hanya “nice-to-have,” tetapi merupakan dasar untuk kontrol runtime dan respons insiden.
Secara khusus, perlu ada bukti tindakan agen dari ujung ke ujung. Agen harus dapat membuktikan tindakan, seperti data mana yang diakses dan alat mana yang dipanggil, dan dari sana, penelusuran asal-usul data dapat menghubungkan output kembali ke input. Ini memungkinkan tim untuk memeriksa keputusan tersebut dan menelusuri dan mengatasi kegagalan, jika perlu, sehingga membuktikan kepatuhan secara keseluruhan.
Perlakukan agen seperti “rekan digital”
Salah satu model mental yang paling berguna adalah memperlakukan agen sebagai rekan digital.
Perbandingan berikut menjelaskan hal ini: sama seperti karyawan memiliki kartu akses yang memberikan akses ke beberapa bangunan dan ruangan, tetapi tidak ke yang lain, tata kelola memungkinkan agen untuk memiliki akses dengan pembatasan. Salah satu tambahan kunci adalah bahwa agen harus memahami sesuai situasinya informasi apa yang boleh mereka ungkapkan.
Pertimbangkan agen dukungan. Mungkin perlu mengakses kasus dukungan sebelumnya untuk memecahkan masalah, tetapi tidak boleh membocorkan rincian pribadi pelanggan lain saat melakukannya. Dengan kata lain, agen dapat menggunakan pengetahuan dengan akses terbatas untuk bernalar, tetapi masih perlu menegakkan batas pengungkapan. Ini bukanlah “masalah penulisan prompt” seperti yang selama ini kita ketahui cara menanganinya; sebaliknya, ini adalah masalah identitas dan penegakan runtime.
Apa yang berubah pada 2026: agen pindah dari eksperimen ke produksi
2026 adalah tahun ketika eksperimen berakhir, dan agen mulai mengambil peran di lingkungan produksi.
Perubahan ini memaksa perusahaan untuk beroperasi pada dua kecepatan. Satu adalah kecepatan inovasi, di mana tim menguji model, alat, dan alur kerja agen baru untuk mendapatkan keunggulan kompetitif. Dan yang lain adalah kecepatan aman, di mana sistem harus memenuhi persyaratan kepatuhan dan operasional, yang dapat mencakup kontrol akses yang ketat dan blind spot.
Tanpa tata kelola arsitektural yang ditetapkan, dua kecepatan ini akan bertentangan.
Jika tim menerapkan agen-agen ini sebelum mereka dikelola, akan ada gabungan tambal sulam kontrol yang berdiri sendiri dan kegagalan operasional. Dan jika sebaliknya terjadi, Anda akan mendapatkan mode kegagalan di mana keamanan memblokir semua, dan inovasi pindah ke IT bayangan, melemahkan tata kelola.
Tujuannya bukanlah memilih kecepatan. Ini adalah membangun arsitektur yang mendukung keduanya.
Daftar periksa praktis untuk mengatur agen pada runtime
- Jika Anda membangun atau menskalakan agen, sangat penting untuk bertanya pada diri sendiri pertanyaan-pertanyaan berikut untuk menunjukkan apakah tata kelola benar-benar arsitektural: Apakah Anda dapat menjelaskan, dari ujung ke ujung, data apa yang diakses agen untuk menghasilkan jawaban atau mengambil tindakan?
- Apakah keputusan akses konsisten di seluruh lingkungan hybrid, atau apakah mereka berbeda-beda tergantung platform?
- Apakah Anda memiliki telemetri untuk tindakan agen, termasuk panggilan alat, pemeriksaan kebijakan, dan eskalasi kepada manusia?
- Apakah Anda dapat membatasi laju kerja, menjeda, atau mengarantina agen pada runtime jika agen berperilaku tidak terduga?
- Apakah Anda memiliki rencana pemantauan pascapenerapan yang selaras dengan kewajiban regulasi dan selera risiko Anda?
Jika Anda tidak dapat menjawab ini, perlakukan penerapan agen Anda seperti insiden produksi yang menunggu untuk terjadi.
Perubahan tata kelola perlu menjadi arsitektural, atau tidak ada
Agen akan menjadi tambahan standar untuk operasi perusahaan. Pertanyaannya adalah apakah mereka akan menjadi bagian yang dapat diandalkan dari operasi perusahaan.
Jika agen tidak dikelola setidaknya dengan keyakinan yang sama dengan manusia dan perangkat lunak kritis misi, konsekuensinya akan nyata. Kami akan melihat akibatnya dalam kebocoran data, kegagalan kepatuhan, gangguan operasional, dan kehilangan kepercayaan pada program AI.
Pemimpin perlu berhenti memperlakukan tata kelola agen sebagai latihan pendokumentasian. Ketika kemampuan platform berkembang, tata kelola agen harus menjadi salah satu yang mengambil alih pengawasan peran lain. Ini berarti menanamkan kontrol dalam bidang kendali, membuat tindakan dapat diamati dan keputusan dapat diaudit. Kemudian, perluas skalanya.
Itulah cara Anda mendapatkan agen yang bergerak cepat tanpa merusak perusahaan.











