Gölgeli AI Kolay Bir Sorundu: Gerçek Risk Onaylı Yazılımlardaki Gizli Ajanlar

İki yıl önce, gölgeli AI, müşterilerin verilerini ChatGPT’ye yapıştıran çalışanları ifade ediyordu. Çözüm, geniş anlamda, yönetilebilirdi: araçları keşfet, iyi olanlarını onayla, kötü olanlarını engelle, insanları eğit. Çoğu organizasyon, bu oyun kitabının ortasındadır ve %61’i already çevrelerinde gölgeli AI ile karşılaştı ve oyun kitabı büyük ölçüde çalışıyor.

Ancak, bu tanım artık sorunu tanımlamıyor. Gölgeli AI, bir davranış sorunundan bir mimari soruna dönüşmüştür. Geleneksel yönetim, satıcı tarafından gömülü ve çalışanlar tarafından tellenmiş AI ajanlarının inherited kimlik bilgileriyle onaylı sistemler içinde çalıştığı modern manzarayla başa çıkamaz.

İzlemiyor Olabileceğiniz İki Gölgeli Alan

2026’da intéressan soru, bir çalışanın hangi AI aracını açtığı değil, onaylı bir satıcının son çeyrekteki ürün güncellemesinde sessizce hangi AI ajanını gönderdiği ve bu ajanın kurulumu yapan insandan hangi izinleri devraldığıdır.

Gölgeli AI以前 bir davranış sorusuydu. Bunu görebilirdiniz, adlandırdınız ve buna karşı bir politika oluşturabilirdiniz. Şimdi yayılan versiyon yapısal. Onaylı yazılımla, inherited kimlik bilgileriyle ve already denetlenen iş akışlarıyla geliyor. Gölgeli artık davranışsal değil, mimaridir. Çalışanlar hala resim içinde, ancak AI kullanmaktan, onu sistemlerine tellerken, already erişimi olan sistemlere tellerken ve bunu self-serve arayüzlerle yapıyorlar. İlk davranış için yazılan politikalar, ikinci davranışa ulaşmıyor.

Bu pourquoi “yasakla” gerçek tartışma olmadı. Gölgeli AI’nin önünde olan CISO’lar, kurumsal araçları onaylayarak ve çalışanları yönetilen alternatiflere yönlendirerek bu turu kazandılar, ancak bir sonraki turun already başladığını ve iki vektörü olduğunu keşfettiler. Birincisi, onaylı satıcıların already üretime alınan ürünlere göndereceği şeyler: gömülü modeller, ajan modları, yeni entegrasyonlar ve kimsenin okumadığı sürüm notlarında gelenler. İkincisi, çalışanların kendilerinin telladığı şeyler: bir LLM, bir CRM’ye no-code otomasyonla bağlanan, bir Custom GPT, bir API anahtarı verilen bir veri ambarı, bir MCP bağlantısı, bir masaüstü asistanı ve bir üretim sistemi. Her ikisi de aynı sonucu üretiyor: inherited kimlik bilgileriyle, onaylı sistemlere karşı, already denetlenmeyen iş akışlarında çalışan ajanlar. Satın alma ilk vektörü görebilir, ancak ikincisini tamamen kaçırabilir.

İlk turun gerçekten nasıl kazanıldığını samimi olarak kabul etmek önemlidir. 10 kuruluşun 9’u AI ile ilgili IT bütçe artışlarını planlıyor ve çoğu, sonraki 6-24 ay içinde IT operasyonları genelinde daha geniş bir genişleme planlıyor. Harcamalar akıllı kapasitelere doğru akıyor. Kontroller inç inç yaklaşıyor. Bu dengesizlik, sorun değil, onun bir yan etkisi değil.

Çevre Her Zaman İnsandı

İlk dalganın çalıştığı zihinsel model, bu dalgada çalışmıyor. Gölgeli AI olarak çalışan davranışı varsayan bir insan, güvenlik ekibinin etkileyebileceği bir seçim yapıyordu. Gölgeli AI olarak satıcı mimarisi, seçimi ortadan kaldırıyor. E-postayı oluşturan model, toplantı düzenleyen ajan, belgeyi özetleyen ve onu ilerleten asistan… Bunların hiçbiri, çalışanın kullanmaya devam ettiği yazılımlar dışında bir şey yapmasını gerektirmedi.

Samimi cevap, güvenlik programlarının hâlâ savunduğu periminin insan eylemi perimi olduğu. Çalışanların araçları açması, erişimi vermesi, güvenlik ekibinin gözlemleyebileceği ve şekillendirebileceği kararlar alması… Bu perimetre, aynı anda iki yönde de eriyor. Üstten, satıcılar onaylı ürünlere ajanları daha hızlı bir şekilde gönderiyorlar ve hiçbir inceleme süreci bunu takip edemiyor. Altından, çalışanlar kullanıcı rolünden entegratör rolüne geçiyorlar ve self-serve arayüzlerle sistemlere ajanları telliyorlar ve bu arayüzler yönetimsiz olarak tasarlandı. İdentytif etrafında inşa edilen yeni perimetre, kimliklerin ne yaptığını, bunların insan olup olmadığını, kimin tarafından dağıtıldığını dikkate alır ve çoğu kuruluşun henüz sahip olmadığı bir kontrol kumaşı gerektirir.

Bakabileceğiniz Tek Yer

İdentite, doğru kontrol noktasıdır, ancak çerçeve değişmelidir. Geleneksel formülasyon, “kimlik, yeni perimetre” der, çünkü kullanıcılar her yerde, cihazlar her yerde ve SaaS her yerde. Bu, bir on yıl önce doğruydu, şimdi ise taban Becerileri. 2026’da önemli olan versiyon farklı: kimlik, AI’nin gerçekten ne yaptığını görebileceğiniz tek yer, çünkü AI bunu yaptığında, araç sınırı already geçmiş durumda. Ajan, birisinin kimlik bilgileriyle hareket ediyor. Kimin, hangi kapsamda, hangi verilere karşı, kimin yetkisiyle… Bunlar, faydalı bir denetim izi üreten sorular. Araç düzeyindeki yönetim, bu sorulara cevap veremez, çünkü araç artık analiz birimi değil.

IT liderlerinin neredeyse %90’ı, birleştirme’nin AI’yi güvenli bir şekilde uygulamaya ve ölçeklemeye yönelik yeteneklerini doğrudan etkilediğini zaten biliyor. Daha zor soru, kontrol katmanında birleştirme’nin ne anlama geldiği. Daha az panelden ibaret olamaz. Bu, her aktörün, insan, hizmet hesabı, ajan, gömülü modelin, aynı mekaniklerle sağlandığı, kapsamlı, izlendiği ve emekli edildiği tek bir kimlik kumaşını gerektirir. Bunun kısa sürümü, parçalı bir yönetim izlenimi verir, ancak aslında parçalı bir uygulama vardır.

Satıcı İncelemenizin Son Kullanma Tarihi Var

Maalesef, bir satıcı incelemesi sadece belirli bir süre geçerli. Bu, güvenlik programlarının nasıl yapılandırıldığı konusunda rahatsız edici sonuçlar doğuruyor. Çoğu AI Yönetim komitesi, araç inceleme etrafında organize ediliyor ve satıcılar gelip değerlendiriliyor, onaylanıyor veya reddediliyor ve kayıt defterine eklendi. Bu süreç, aracın davranışının, onaylandığı sırada üretimdeki davranışıyla aynı olduğunu varsayar. AI gömülü yazılımlar için, bu varsayım already onaylandığı anda bozulur. Satıcı, yeni bir model, yeni bir ajan modu, yeni bir entegrasyon gönderecek ve altı ay önce onaylanan yönetim incelemesi, artık mevcut olmayan bir ürünü tanımlayan bir şey haline gelecek.

Araçtan Çıkıp Kimliğe Doğru

Tutunan programlar, yönetimin araçtan çıkıp kimliğe doğru gittiği programlar olacak. Verilerinize karşı her eylem, herhangi bir aktör tarafından, bilinen bir sahibi, kapsamlı bir izin kümesi ve tanımlı bir ömre sahip bir kimlikten kaynaklanabilir. İnsanmış, değilmiş, çalışansanız, ajanmış, onaylı araçmış veya gömülü modmuş… Soru aynı: bu kim, neye izin verildi, ve bunu ne zaman bırakması gerektiği bilinir? Bu sorulara cevap verebilen programlar, araç onaylama yarışını kazanmak zorunda değil. Cevaplayamayanlar, satıcılar ve çalışanların inceleme sürecinden daha hızlı hareket ettiği bir yarışta geri kalacaklar.

Gölgeli AI olarak bir kategori gitmiyor. Özellikle yeni nesil ajan işgücü ile, %72 kuruluşun already üretimdeki AI ajanları var. Bunun yerine, daha büyük bir sorunun küçük bir parçası haline geliyor. Bir sonraki bütçe döngüsünü, araç keşfi ve onay politikasına harcayan kuruluşlar, 2024 sorununu 2026 zaman çizelgesinde çözüyorlar. İnsanlar, ajanlar ve aralarındaki karmaşık süreklilik için kimlik katmanını enstrümantasyonuna harcayanlar, gerçekten yaşayacakları sorunu çözüyorlar.

İlk gölgeli AI dalgası, güvenlik ekiplerine, çalışanların meraklılığını geçemeyeceklerini öğretti. İkinci dalga, güvenlik ekiplerine, satıcıların hızını veya çalışanların zekasını geçemeyeceklerini öğretmeye geliyor. Her iki ders de aynı sonuca işaret ediyor: yönetim birimi, araç değil, aracıyı kullanan kimlikti.