Gölge AI Ormanı: Bir Platformı Onaylamak, Üzerinde Yapılanları Güvenli Kılmakla Aynı Şey Değildir

Kurumsal AI benimsemesi sürtünmesiz değil. Veri kontrolü, düzenleyici uyumluluk ve güvenlik konusunda endişeler her aşamada ortaya çıktı. Ancak şirketler, Microsoft, Salesforce ve ServiceNow gibi büyük platformlarda operasyonlarını artırırken, en zorlu yönetim sorularının en azından kısmen çözüldüğü konusunda bir güven duygusu oluşuyor. Şirket anlaşmaları yerinde. Güvenlik incelemeleri tamamlandı. Platformlar onaylandı.

Bu güven duygusu genellikle başka bir soruyu göz ardı ediyor: platformun güvenli olup olmadığı değil, neyin ve kimin inşa edildiği.

Sektörler boyunca, geleneksel geliştirme zaman çizelgesi ve kısıtlamalardan özgür olan, non-teknik çalışanların, kurumsal AI platformlarını kullanarak otonom ajanlar, otomatik iş akışları ve veri bağlantılı uygulamalar oluşturduğu bir sessiz devrim probíyor. Bu araçlar, geleneksel güvenlik sistemleri tarafından gözden kaçırılmış ve çoğu durumda güvenlik ekipleri tarafından bilinmiyor.

Bu araçlar, uygulamalar, ajanlar veya otomasyonlar olarak sınıflandırılsın, Shadow AI olarak bilinen bir sorunun parçasıdır ve bu, son on yıldaentreprise riskinde en önemli değişikliklerden birini temsil ediyor, çünkü tehditler artık içeride.

Orijinal Shadow IT problemi nispeten basittı: çalışanlar, organizasyon dışından yetkisiz araçlar kullanıyordu ve güvenlik ekibinin işi bunları bulup engellemekti. Shadow AI tamamen farklı bir zorluk. Araçlar onayladığınız platformların içindedir. Onları inşa edenler kendi çalışanlarınızdır. Kullanılan erişim meşrudur. Ve hiçbiri, sorunları üretim aşamasına ulaşmadan yakalamak üzere tasarlanan güvenlik süreçlerinden geçmez.

Bunu ele almayı özellikle zor kılan şey, ölçek. Çoğu güvenlik lideri, kendi ortamlarında ne kadar şey inşa edildiğini önemli ölçüde küçümsüyor. 200’den fazla kurumsal CISO ve güvenlik liderinden yapılan recent bir araştırmaya göre, ortalama bir entreprise güvenlik ekibi, iş kullanıcılarının oluşturduğu AI ajanları, otomasyonları ve uygulamaların yalnızca %44’ünü hesaba katıyor. Bu bir boşluk değil, çoğu şeyin çalıştığı bir kör nokta.

Nedeni basittir: iş kullanıcıları, bazı organizasyonlarda profesyonel geliştiricilere kıyasla 10’a 1 oranında daha fazla. Her departmanda sürekli olarak inşa ediyorlar, inşa etmeyi kolaylaştıran platformlar üzerinde ve C-suite tarafından inşa etmeye teşvik ediliyorlar. Güvenlik ekipleri, geliştirici boru hatları ve kod depoları etrafında yönlendiriliyor. Bunları izlemek için tasarlanmadılar.

En yaygın yanlış anlama, bir platformu onaylamanın güvenlik sorununu çözdüğü inancıdır. Çözmez, sadece yerini değiştirir. Bir entreprise, Microsoft, Salesforce veya UiPath ile bir anlaşma imzaladığında, platform sağlayıcısı altyapısını güvence altına alır. Çalışanlar tarafından üzerine inşa edilenler ve nasıl yapılandırıldıkları, tamamen entreprise’in sorumluluğundadır.

Sorun, iş kullanıcıları tarafından oluşturulan araçların geleneksel güvenlik sistemlerine göre yazılım gibi görünmemesidir. Taranacak kod yok, izlenecek bir depo yok, incelenecek bir boru hattı yok. Bir HR yöneticisi tarafından menü ve metin istemleri yoluyla oluşturulan bir AI ajanı, çoğu güvenlik aracı açısından görünmezdir.

Araştırmalar, daha fazla CISO’nun, iş tarafından oluşturulan uygulamaların artık iş açısından kritik süreçleri desteklediğini ve hassas şirket verilerine erişim sağladığını onayladığını buldu. Riskler gerçek ve denetim henüz yetişmedi.

Sıfırdan Felakete

Kullanım örnekleri, neredeyse her departmandan gelen ve güvenlik ekibinin göz önünde bulundurmayacağı birçok örnekten oluşuyor.

Örneğin, bir pazarlama koordinatörü, tamamen onaylanmış bir platformda ürün sorularını yanıtlamak için bir müşteri odaklı AI ajanı oluşturur. Dakikalar içinde uygulama çalışmaya başlar, ancak güvenlik eğitimi olmayan biri olarak, iki küçük yapılandırma hatası fark edilmez ve ajan, şirketin tüm veritabanına doğrudan erişim sağlar ve alabileceği veri sınırı yoktur. Üretimde bir kullanıcı, kayıtları çekmesini ister. Yapar. Ajan ayrıca bir e-posta yeteneğine sahip olduğu için, kullanıcı verilerin kişisel bir adrese gönderilmesini ister. Tüm dizi altmış saniyeden kısa sürer. Yetkisiz erişim yok. Platform ihlali yok. Güvenlik uyarısı yok.

Bu, karmaşık bir saldırı değil, iyi niyetli bir çalışanın, governance’in isteğe bağlı olduğu bir platformda inşa ettiği şeyin tam olarak anlamadığının öngörülebilir sonucu.

Kimse Fiyatını Koymadığı Yönetim Açığı

Çoğu organizasyon için, Shadow AI problemi, bir şey yanlış gidene kadar soyut kalır. Ancak iş riski, ihlal yanıtından daha derine gider.

Bir iş tarafından oluşturulan ajan, hassas verileri sızdırırsa, bir yönetim kurulu soracağı soru, “nasıl yapıldığı” değil, “hiç kimsenin aracın çalıştığını bilmediği” olacaktır. Dış bir saldırgan tarafından gâyılan bir ihlal ve bir iç araç tarafından gâyılan bir ihlal arasında ayrım yapmayacaklar. Kişisel veriler ortaya çıktıysa ve organizasyon neyin çalıştığını göremiyorsa, denetimsizlik itself bir sorumluluktur. “Bir çalışan, onaylanmış bir platformda inşa etti” bir savunma değil, açığın tanımı.

Aciliyet gerçek, ancak niyet ve uygulama aynı şey değil ve çoğu entreprise için, aradaki açıklık hala açık.

Cevap, kimin inşa edebileceği konusunda kısıtlamalar koymak değil. Vatandaş geliştirmeyi kısıtlamak, gerçek verimlilik kazanımlarından vazgeçmek anlamına gelir ve uygulamada tutmaz. Çalışanlar, alternatif yollar bulacaktır. Cevap, inşa edilenlerin görünür olması ve riskin ortaya çıktığı noktada, çalışma zamanında yönetmektir.

Bu, yalnızca mevcut ajanların neler olduğunu değil, nasıl davrandıklarını, hangi verilere erişim sağladıklarını, hangi sistemlere dokunduklarını ve eylemlerinin inşa edenlerin amaçladığı sınırlar içinde kalıp kalmadığını anlamak anlamına gelir. Bu, yapılandırma noktasında değil, kurumsal düzeyde çalışacak koruyucuları koymak anlamına gelir. Ve güvenlik ekiplerinin, ortamındaki herhangi bir ajan hakkında en temel soruları cevaplayabilecekleri bir noktaya ulaşmak anlamına gelir: kim inşa etti, neye erişim sağlıyor ve tasarlandığı şekilde davranıyor mu?

Çoğu entreprise bugün bu soruları cevaplayamaz. İlk olarak oraya ulaşan şirketler, AI benimsemesini güvenle ölçeklendirebilenler olacaktır, çünkü gerçekten ne çalıştırdıklarını bilecekler.