Tek politika, binlerce ajan: Kurumsal yapay zekâ yönetişimi ölçek büyüdükçe neden başarısız oluyor?

Özerk yapay zekâ ajanlarının benimsenmesine ilişkin tartışmaların büyük bölümü, haklı olarak, belirleyici bir sorun olan yönetişime odaklandı. Gartner kısa süre önce işletmelerin %40’ının 2027’ye kadar özerk yapay zekâ ajanlarını daha düşük önceliğe alacağını veya devre dışı bırakacağını öngördü. Bunun nedeni teknolojinin başarısız olması değil, yönetişimlerinin başarısız olması. Gartner Kıdemli Direktör Analisti Shiva Varma’ya göre sorun, ajanları arada hiçbir seçenek olmaksızın ya tamamen kısıtlamak ya da onlara tamamen güvenmek anlamına gelen “ikili yönetişim”.

Günümüzde pek çok kuruluş ya yapay zekâ araçlarını tamamen yasaklama yoluna gidiyor ya da ajanları yetersiz güvenlik önlemleriyle devreye alıyor. Her iki yaklaşımın da ölçeklenmesi zor. BT, harici yapay zekâ araçlarını yasaklasa bile gölge yapay zekâ kullanımı sürüyor. Geliştiriciler doğal olarak bir şeyler üretmek ve sorunları çözmek ister; yönetişim aşırı bürokratik görünürse işleri yürütmek için denetimleri aşar ve denenmemiş araçlar kullanırlar. Öte yandan yetersiz güvenlik önlemleri, kuruluşları zaman içinde katlanarak artan güvenlik, uyumluluk ve operasyonel risklere maruz bırakır. 

Buradaki zorluk, yapay zekâ ajanlarının statik ve herkese uyan tek bir yaklaşımla tek tip biçimde yönetilememesidir. Herkese uyan tek tip yönetişim dönemi sona eriyor; çünkü bu sistemlerin risk profilleri aynı değil. Temel yazılımları, yetenekleri, erişim düzeyleri ve özerklik dereceleri birbirinden farklı. Makine hızında çalışan yazılımlara sanayi çağından kalma statik denetimleri uygulamak işe yaramayacak. Etkili yönetişim, kuruluşların her ajanın arkasındaki yazılım tedarik zincirini anlamasına ve denetimleri ajanın beraberinde getirdiği risklerle uyumlu hâle getirmesine bağlı olacak.  

Ajan tabanlı yazılım geliştirme ortamlarının yönetimi

Etkili denetim, ajanın oluşumuna katkıda bulunan tüm yazılım bileşenlerini yönetmek demektir. Pek çok ekip, bu ajanları yanlışlıkla “güvenilir ve itimat edilir” olarak görüp işlevlerini ve güvenliklerini etkileyen standart bileşenleri göz ardı ediyor. 

Her özerk yapay zekâ ajanı, bilinen bileşenlerden oluşan bir yığın üzerine kurulur: bir temel model, onu şirket verilerine ve harici sistemlere bağlayan MCP sunucuları (Model Context Protocol), yeteneklerini genişleten eklentiler ve nasıl davranacağını belirten beceri dosyaları. BT yöneticilerinin şunları akılda tutması gerekir: 

• Yapay zekâ ajanları birer yazılım ekosistemidir: Modeller, MCP’ler, araçlar, eklentiler, beceriler ve açık kaynaklı yazılımlardan oluşan standart bir yapıya dayanırlar.
• MCP sunucuları risk oluşturabilir: Ajanları şirket verilerine bağlarlar ve diğer yazılımlar gibi indirilebilirler. Güvenlik incelemesinden geçirilmezlerse bilgisayar korsanlarının sisteminize girmesine olanak tanıyabilirler. Örneğin, JFrog’un yakın tarihli güvenlik araştırması bu tür yazılım tedarik zinciri risklerinin tam da mcp-run-python içinde bulunduğunu ortaya koyuyor; bunlar arasında Sunucu Tarafı İstek Sahteciliği (SSRF) açığı (CVE-2026-25904) ve bir izolasyon eksikliği güvenlik açığı (CVE-2026-25905) yer alıyor. Bu açıklar MCP’nin tamamen ele geçirilmesine yol açabilir.
• Eklentiler riski artırabilir: Farklı ajanlar farklı eklentilere ihtiyaç duyar (örneğin OpenAI eklentisi Microsoft Copilot’ta çalışmaz). Bu nedenle şirketler çoğu zaman birden fazla sürümle uğraşır; bunlardan tek birinin kötü amaçlı olması bile hassas bilgileri çalabilir.
• Beceri dosyaları ajan davranışını belirler: Bu talimat dosyaları, ajana nasıl çalışacağını söyler. Geliştiriciler bunları topluluk kaynaklarından aldığından, değiştirilmiş bir beceri dosyası ajanın çalışma biçimini sessizce değiştirebilir.
• Açık kaynaklı yazılımların riskleri: Ajan tabanlı kodlamayla geliştirilen çözümlerin sunduğu tüm işlevlerin temelinde, bu işlevleri sağlamak için açık kaynaklı ikili dosyalardan yararlanılması yatar. Kodlama ajanları, riskin farkına varmadan güvenli paketler yerine kötü amaçlı paketlerden de kolaylıkla yararlanabilir.
• Görünürlük kilit önem taşır: Pek çok ekip bu sorunların varlığından haberdar değil; bu da ajanlarını son derece savunmasız bırakıyor. Kuruluşlar yazılım bağımlılıklarını hâlâ kapsamlı kontroller yerine güven esasına göre yönetiyor.

Etkili yapay zekâ yönetişiminde kayıt sisteminin rolü

Kurumsal yapay zekâ ajanlarını devreye alma yarışı, dünün bakış açısıyla kazanılamaz. Her iş akışında tek parça, katı ve manuel onay zincirleri dayatmak yeniliği köstekler; ajanları izlemeden bırakmaksa gereksiz risk yaratır.

Yapay zekâyı güvenli biçimde ölçeklendirmek için kuruluşlar paketler, ikili dosyalar, MCP’ler, beceriler ve bağımlılıklar dâhil yazılım bileşenlerini yönetme ve güvence altına alma konusunda katmanlı bir yaklaşım benimsemelidir. Kuruluşlar bir kayıt sistemi oluşturarak kullanılan tüm bileşenleri seçip düzenleyebilir, her şeyi kullanımdan önce tarayabilir, politikaları geliştirme yaşam döngüsünün doğru aşamasında uygulayabilir ve anında geri alma olanağını koruyabilir. Böylece bir sonraki güvenlik açığı duyurulduğunda “etkilendik mi?” sorusunun yanıtı günler değil, dakikalar içinde verilir.

Ancak yapay zekâ ajanları, daha geniş ve çok daha hızlı değişen bir saldırı yüzeyi oluşturur. Yüksek özerkliğe sahip ajanlar dakikada yüzlerce karar verebildiğinden araç çağrılarını art arda gerçekleştirebilir, verilere erişebilir ve kod çalıştırabilir; bunları geleneksel kabul kontrollerinin yetişemeyeceği bir hızda yaparlar. Ön incelemeler ve onay süreçleri hâlâ önemli bir rol oynasa da makine hızında çalışan sistemleri tek başlarına güvence altına alamazlar.

Bu ajanlar, anormal davranışları gerçekleştiği anda tespit edebilen ve zarar yayılmadan müdahale edebilen dinamik çalışma zamanı denetimi gerektirir. Bunu bir devre kesici gibi düşünün: bir sorun çıktığı anda güvenliği ihlal edilmiş bir beceriye erişimi iptal etmek, güvenilmeyen bir veri bağlamının bağlantısını kesmek veya belirli bir araç çağrısını engellemek.

“Tek Tip Yaklaşımın” Ötesine Geçmek

Katı ve herkese aynı şekilde uygulanan yönetişim, başarısızlığı kaçınılmaz kılar. Bu konuda öne geçmek için kalan süre daralıyor; ajanların kullanıma alınması hızlandıkça yönetişim açığı da büyüyor. Bu nedenle, güvenlik ve mühendislik liderlerinin kurumsal sistemlerini güçlendirmek için şimdi atabileceği dört adım şunlar:

1. Halihazırda nelerin çalıştığının envanterini çıkarın. Çoğu kurum, bünyesinde çalışan yapay zekâ ajanlarının tamamını, bunları çalıştıran MCP sunucularını, eklentileri ve beceri dosyalarını saymaya bile gerek kalmadan, eksiksiz biçimde belirleyemiyor. Riskinizi değerlendirebilmek veya herhangi bir şeyi yönetişim kapsamına alabilmek için önce nelerin mevcut olduğunu bilmeniz gerekir.
2. Yapay zekâ bileşenlerini yazılım ürünleri olarak ele alın. MCP sunucuları, beceri dosyaları ve eklentiler yapılandırma değil, koddur; açık kaynaklı tüm bağımlılıklarla aynı tedarik zinciri risklerini taşırlar. Herhangi bir üçüncü taraf kitaplığı için uygulayacağınız inceleme, tarama ve kaynak takibi süreçlerini bunlara da uygulayın.
3. Ajanları özerklik düzeylerine göre sınıflandırın ve denetimleri buna göre ayarlayın. Kuruluşunuz için “yüksek özerkliğin” ne anlama geldiğini tanımlayın ve buna dayalı katmanlı bir politika çerçevesi oluşturun. Yüksek özerkliğe sahip ajanlar yalnızca ilk kabul kontrollerine değil, çalışma zamanı denetimine de ihtiyaç duyar. En hassas sistemlerinizden başlayın ve kapsamı giderek genişletin.
4. Yönetişim süreçlerini, geliştiricilerin (insan ya da yapay zekâ ajanı) bunları devre dışı bırakmaya yönelmeyeceği kadar hızlı hâle getirin. Gölge yapay zekâ, süreçlerdeki sürtüşmenin yarattığı bir sorundur. Yeni bir MCP sunucusunu onaylamak iki hafta sürerse geliştiriciler başka bir yol bulur. Yapay zekâ geliştirme çalışmalarının gerçek hızına ayak uydurabilecek tek model, net politika uygulamalarıyla desteklenen otomatik taramadır.

Yönetişim, tüm ajanları aynı şekilde ele almak yerine her birinin oluşturduğu gerçek riskleri yansıttığında çok daha etkili olur. Öne geçecek kurumlar, yönetişimi her ajanın gerçek koşullarına uyarlayan; her sınırda politikaları uygulayan, her bileşen hakkında görünürlük sağlayan ve bir sorun çıktığı anda ekiplerin müdahale etmesine olanak tanıyan bir kayıt sistemiyle bunu destekleyen kurumlar olacaktır.