Kemitraan
Microsoft Meluncurkan Inisiatif Transparansi AI untuk Agen Perusahaan

Poin utamaKontrol yang ada mengamati aktivitas di sekitar model tetapi tidak dapat memverifikasi…
Lihat selengkapnya
- Kontrol yang ada mengamati aktivitas di sekitar model tetapi tidak dapat memverifikasi apa yang terjadi di dalamnya.
- Kerangka kerja tersebut memerlukan bukti yang tetap portabel ketika perusahaan beralih model atau penyedia.
- Microsoft akan memperluas partisipasinya dalam Inisiatif Standar Agen SI NIST untuk mengembangkan standar terbuka.
Microsoft mengumumkan Inisiatif Transparansi AI pada 17 November 2026 di Microsoft Ignite. Inisiatif ini menyatukan lebih dari 40 organisasi untuk mengembangkan standar terbuka guna mengamankan dan mengatur model serta agen AI di berbagai penyedia.
Ketua sekaligus CEO Satya Nadella memperkenalkan upaya ini bersama para pelanggan dan mitra, termasuk Accenture, Adobe, KPMG, Mastercard, dan Volvo Cars. Kolaborasi ini bertujuan menjadikan sistem AI akuntabel, dapat diverifikasi secara independen, dan aman sejak tahap perancangan, apa pun model atau penyedianya. Prinsip utamanya adalah semakin otonom AI, semakin besar pula kebutuhan akan transparansi.
Kesenjangan Bukti di Lingkungan Perusahaan
Perusahaan menghubungkan model dengan data, alat, kredensial, dan infrastruktur sehingga agen dapat melakukan tindakan tanpa persetujuan manusia pada setiap langkah. Microsoft menyatakan bahwa kendali yang ada dapat mengamati aktivitas di sekitar model, tetapi tidak dapat melihat apa yang terjadi di dalamnya atau memverifikasi secara independen laporan model tentang perilakunya sendiri.
Blog Security milik perusahaan ini membuat pembedaan serupa terkait pembatasan agen: menemukan, mengatur, dan membatasi agen tetap tidak mengungkapkan perilaku model yang mendasarinya. Akibatnya, setelah aktivitas yang berdampak besar terjadi, muncul tiga pertanyaan: apa yang diminta dan diizinkan untuk dilakukan oleh AI, apa yang terjadi antara permintaan dan hasil, serta apakah aktivitas tersebut dapat diverifikasi secara independen.
Microsoft menyamakan agen yang memiliki akses ke data, alat, dan kredensial dengan orang dalam berhak istimewa yang beroperasi pada kecepatan dan skala mesin. Kesenjangan bukti yang timbul menimbulkan risiko keamanan, kepatuhan, audit, dan akuntabilitas. Tanggung jawab tetap berada pada organisasi yang menerapkan agen ketika para pemimpinnya harus memberikan jawaban kepada pelanggan, karyawan, dewan direksi, auditor, dan regulator.
Kerangka Lihat, Verifikasi, dan Kendalikan
Kerangka inisiatif ini mengelompokkan persyaratan tersebut ke dalam tiga bagian. Lihat mencakup permintaan dan otorisasi, model dan lingkungan eksekusi, data dan alat yang diakses, serta tindakan yang dilakukan. Kerangka ini juga mengharuskan pemantauan berkelanjutan atas aktivitas agen dan sinyal risiko berdasarkan kebijakan dan ambang batas.
Verifikasi berfokus pada sumber bukti. Catatan tentang identitas agen, maksud yang didelegasikan, dan tindakan yang dilakukan akan menunjukkan apakah informasi berasal dari model, lingkungan eksekusinya, atau sistem identitas dan kebijakan independen. Sinyal yang dilaporkan model selanjutnya dapat diperiksa dengan membandingkannya dengan catatan yang diamati secara independen melalui sistem keamanan dan kepatuhan milik organisasi, alih-alih hanya mengandalkan laporan penyedia.
Kendalikan menggunakan bukti mengenai tujuan, pemilik, data, dan kewenangan yang didelegasikan untuk setiap alur kerja guna menegakkan kebijakan sebelum tindakan yang berdampak besar dilakukan. Catatan yang sama juga akan mendukung rekonstruksi selama penyelidikan, pembatasan, pemulihan, dan audit. Catatan tersebut dirancang agar tetap dapat digunakan ketika organisasi berganti model atau penyedia, termasuk saat beralih antara model tertutup dan model berbobot terbuka. Dengan demikian, tim pengembangan dapat memperbarui agen tanpa mengorbankan tata kelola keamanan atau audit kepatuhan.
Pengembangan Standar dan Penerapan Produk
Microsoft akan memperluas partisipasinya dalam Inisiatif Standar Agen SI milik NIST dan memanfaatkan penelitiannya sendiri untuk mengembangkan standar terbuka tingkat industri bagi transparansi, keamanan, dan tata kelola AI. Program NIST ini dirancang untuk mendorong pengembangan standar teknis yang dipimpin industri dan protokol terbuka agar agen otonom dapat beroperasi dengan aman serta saling terhubung di berbagai sistem digital.
Pilar strategisnya mencakup pedoman sukarela dan analisis kesenjangan untuk mendukung standar yang dipimpin industri, upaya mengurangi hambatan bagi protokol interoperabel yang dikembangkan komunitas, serta penelitian tentang autentikasi agen, infrastruktur identitas, dan evaluasi keamanan.
Microsoft juga berencana mengintegrasikan hasil kerja inisiatif ini ke dalam Microsoft AI, Microsoft Foundry, dan Microsoft Copilot. Pelanggan dapat menggunakan bukti yang dihasilkan bersama alat keamanan dan kepatuhan dari Microsoft maupun penyedia lain.
Tolok ukur praktis inisiatif ini adalah apakah para pesertanya dapat mengubah kerangka tersebut menjadi standar bersama dan bukti portabel: catatan yang memungkinkan perusahaan mengatur agen sebelum agen bertindak dan merekonstruksi perilakunya setelah itu, bahkan ketika model atau penyedia yang mendasarinya berubah.












