Ortaklıklar
Microsoft, Kurumsal Ajanlar için Yapay Zekâ Şeffaflığı Girişimi’ni Başlattı

Öne çıkan noktalarMevcut kontroller modellerin etrafındaki etkinliği gözlemler ancak modellerin içinde ne…
Daha fazla göster
- Mevcut kontroller modellerin etrafındaki etkinliği gözlemler ancak modellerin içinde ne olduğunu doğrulayamaz.
- Çerçeve, işletmeler model veya sağlayıcı değiştirdiğinde taşınabilir kalan kanıtlar gerektirir.
- Microsoft, açık standartlar geliştirmek için NIST'in SI Agent Standards Initiative girişimine katılımını genişletecek.
Microsoft, 17 Kasım 2026’da Microsoft Ignite’ta Yapay Zekâ Şeffaflığı Girişimi’ni duyurdu. Girişim, farklı sağlayıcıların sunduğu yapay zekâ modellerinin ve ajanlarının güvenliğini sağlamak ve yönetmek için açık standartlar geliştirmek üzere 40’tan fazla kuruluşu bir araya getiriyor.
Yönetim Kurulu Başkanı ve CEO Satya Nadella, Accenture, Adobe, KPMG, Mastercard ve Volvo Cars’ın da aralarında bulunduğu müşteriler ve iş ortaklarıyla birlikte girişimi tanıttı. İş birliği, model veya sağlayıcıdan bağımsız olarak yapay zekâ sistemlerini hesap verebilir, bağımsız biçimde doğrulanabilir ve tasarımları gereği güvenli hâle getirmeyi amaçlıyor. Girişimin temel ilkesi, yapay zekâ özerkliği arttıkça şeffaflığın da artması gerektiği.
Kurumsal Yapay Zekâda Kanıt Açığı
Şirketler modelleri verilere, araçlara, kimlik bilgilerine ve altyapıya bağlıyor; böylece ajanlar her adımda insan onayı almadan işlem yapabiliyor. Microsoft’a göre mevcut denetim mekanizmaları modellerin çevresindeki etkinlikleri gözlemleyebiliyor, ancak modellerin içinde neler yaşandığını göremiyor veya modellerin kendi davranışlarına ilişkin beyanlarını bağımsız biçimde doğrulayamıyor.
Şirketin Güvenlik blogunda, ajanların sınırlandırılması konusunda da benzer bir ayrım yapılıyor: Bir ajanı keşfetmek, yönetmek ve sınırlandırmak, temelindeki modelin nasıl davrandığını yine de ortaya koymuyor. Bu nedenle önemli sonuçlar doğuran bir faaliyetin ardından üç soru yanıtsız kalıyor: Yapay zekâdan ne yapması istendi ve ne yapmasına izin verildi, istek ile sonuç arasında neler yaşandı ve faaliyet bağımsız biçimde doğrulanabilir mi?
Microsoft, verilere, araçlara ve kimlik bilgilerine erişimi olan ajanları makine hızında ve ölçeğinde çalışan ayrıcalıklı iç kullanıcılara benzetiyor. Ortaya çıkan kanıt açığı; güvenlik, uyumluluk, denetim ve hesap verebilirlik açısından risk oluşturuyor. Yöneticilerin müşterilere, çalışanlara, yönetim kurullarına, denetçilere ve düzenleyici kurumlara yanıt vermesi gerektiğinde sorumluluk ise ajanları devreye alan kuruluşta kalıyor.
Gör, Doğrula ve Kontrol Et Çerçevesi
Girişimin çerçevesi, bu gereklilikleri üç bölümde ele alıyor. Gör bölümü; isteği ve verilen yetkiyi, modeli ve çalışma ortamını, erişilen verileri ve araçları, ayrıca gerçekleştirilen işlemleri kapsıyor. Ayrıca ajan faaliyetlerinin ve risk göstergelerinin, politika ve eşik değerleri temelinde sürekli izlenmesini öngörüyor.
Doğrula bölümü, kanıtın kaynağına odaklanıyor. Ajanın kimliğine, devredilen amaca ve gerçekleştirdiği işlemlere ilişkin kayıtlar; bilgilerin modelden mi, modelin çalışma ortamından mı yoksa bağımsız kimlik ve politika sistemlerinden mi geldiğini gösterecek. Ardından, modelin bildirdiği sinyaller, yalnızca sağlayıcının beyanına dayanmak yerine kuruluşun kendi güvenlik ve uyumluluk sistemleri aracılığıyla bağımsız olarak gözlemlenen kayıtlarla karşılaştırılabilecek.
Kontrol Et bölümü, önemli sonuçlar doğurabilecek işlemlerden önce politikaları uygulamak için her iş akışının amacına, sahibine, verilerine ve devredilen yetkisine ilişkin kanıtlardan yararlanıyor. Aynı kayıtlar; soruşturmalar, sınırlandırma, kurtarma ve denetimler sırasında olayların yeniden oluşturulmasını da sağlayacak. Bu kayıtların, kuruluşlar model veya sağlayıcı değiştirdiğinde de kullanılabilir kalması amaçlanıyor. Buna kapalı modeller ve açık ağırlıklı modeller arasındaki geçişler de dâhil; böylece geliştirme ekipleri güvenlik yönetişiminden veya uyumluluk denetimlerinden ödün vermeden ajanları güncelleyebilecek.
Standart Çalışmaları ve Ürünlere Uygulama
Microsoft, NIST’in SI Ajan Standartları Girişimi’ne katılımını genişletecek ve yapay zekâ şeffaflığı, güvenliği ve yönetişimi için açık, sektör çapında standartlar geliştirmek üzere kendi araştırmalarından yararlanacak. NIST programı, sektör öncülüğündeki teknik standartları ve açık protokolleri teşvik ederek özerk ajanların dijital sistemlerde güvenli biçimde çalışmasını ve birlikte çalışabilmesini sağlamayı amaçlıyor.
Girişimin stratejik ayakları; sektör öncülüğündeki standartlar için gönüllü kılavuz ilkeleri ve boşluk analizlerini, topluluk öncülüğünde geliştirilen ve birlikte çalışabilir protokollerin önündeki engelleri azaltmaya yönelik çalışmaları ve ajan kimlik doğrulaması, kimlik altyapısı ve güvenlik değerlendirmeleri üzerine araştırmaları bir araya getiriyor.
Microsoft ayrıca girişim kapsamında yürütülen çalışmaları Microsoft AI, Microsoft Foundry ve Microsoft Copilot’a entegre etmeyi planlıyor. Müşteriler, ortaya çıkan kanıtları Microsoft’un veya diğer sağlayıcıların güvenlik ve uyumluluk araçlarıyla kullanabilecek.
Girişimin pratikteki ölçütü, katılımcıların bu çerçeveyi ortak standartlara ve taşınabilir kanıtlara dönüştürüp dönüştüremeyeceği: Kurumların, temelindeki model veya sağlayıcı değişse bile ajanları harekete geçmeden önce yönetmesini ve sonrasında davranışlarını yeniden oluşturmasını sağlayan kayıtlara.












