Gölgeli AI Ormanı: Bir Platformı Onaylamanın Üzerine Kuruldukları Güvenliğini Sağlamakla Aynı Şey Olmadığının Nedeni

Kurumsal AI benimsemesi sürtünmesiz değil. Veri kontrolü, düzenleyici uyumluluk ve güvenlik endişeleri her aşamada seyahat etmiştir. Ancak organizasyonlar büyük platformlar gibi Microsoft, Salesforce ve ServiceNow üzerinde operasyonlarını hızlandırırken, en zorlu yönetim sorularının en azından kısmen ele alındığına dair artan bir his vardır. Kurumsal anlaşmalar yerinde. Güvenlik incelemeleri tamamlandı. Platformlar onaylandı.

Bu güvenin genellikle göz ardı ettiği farklı bir soru var: platformun güvenli olup olmadığı değil, neyin ve kimin inşa edildiği.

Endüstriler boyunca, geleneksel geliştirme zaman çizelgesi ve kısıtlamalardan özgür olarak, non-teknik çalışanlar tarafından oluşturulan otonom ajanlar, otomatik iş akışları ve veri bağlantılı uygulamalar, genellikle dakikalar içinde, tek bir satır kod yazmadan inşa ediliyor. Bu araçlar, geleneksel güvenlik sistemlerine görünmez.

Bu araçlar, uygulamalar, ajanlar veya otomatikleştirilmeleri olarak sınıflandırılsınlar, Shadow AI olarak bilinen büyüyen bir sorunun parçasıdır ve bu, son on yılda kurumsal riskte en önemli değişikliklerden birini temsil etmektedir, çünkü tehditler artık içeride.

Orijinal Shadow IT problemi nispeten basitti: çalışanlar, organizasyon dışından yetkilendirilmemiş araçları kullanıyordu ve güvenlik ekibinin işi bunları bulmak ve engellemekti. Shadow AI farklı bir zorluk. Araçlar onayladığınız platformların içindedir. Onları inşa edenler kendi çalışanlarınızdır. Kullanılan erişim meşrudur. Ve hiçbiri üretim öncesi sorunları yakalamak için tasarlanan güvenlik süreçlerinden geçmez.

Bunu ele almak özellikle zor, çünkü güvenlik liderlerinin kendi ortamlarında ne kadar şey inşa edildiğini önemli ölçüde küçümsemeleri. Son araştırmalar, 200’den fazla kurumsal CISO ve güvenlik lideri, ortalama bir kurumsal güvenlik ekibinin yalnızca AI ajanları, otomatikleştirilmeleri ve iş kullanıcıları tarafından oluşturulan uygulamaların %44’ünü hesaba katacaklarını buldu. Bu bir boşluk değil, çoğu şeyin çalıştığı bir kör nokta.

Nedeni basittir: iş kullanıcıları artık bazı organizasyonlarda profesyonel geliştiricilere kıyasla 10’a 1 oranında daha fazla. Her departmanda, inşa etmeyi kolaylaştıran platformlar üzerinde sürekli olarak inşa ediyorlar ve C-suite tarafından inşa etmeye teşvik ediliyorlar. Güvenlik ekipleri geliştirici boru hatlarına ve kod depolarına yönlendiriliyor. Bunlar izlemek için tasarlanmadı.

En yaygın yanlış anlama, bir platformu onaylamanın güvenlik sorununu çözdüğü inancıdır. Çözmez, sadece onu taşır. Bir kuruluş Microsoft (MSFT ), Salesforce (CRM ) veya UiPath (PATH ) ile bir anlaşma imzaladığında, platform sağlayıcısı altyapısını güvence altına alır. Çalışanlar üzerine ne inşa ederse, nasıl yapılandırırlarsa, tamamen kuruluşun sorumluluğundadır.

Sorun, iş kullanıcıları tarafından oluşturulan araçların geleneksel güvenlik sistemlerine yazılım gibi görünmemesidir. Taranacak kod yok, izlenecek bir depo yok, incelenecek bir boru hattı yok. Bir HR müdürü tarafından menü ve metin istemleri yoluyla oluşturulan bir AI ajanı, çoğu güvenlik aracı için görünmezdir.

Araştırmalar, potvrilen CISO’ların yarısından fazlasının, iş tarafından oluşturulan uygulamaların artık iş açısından kritik süreçleri desteklediğini ve hassas şirket verilerine erişim sağladığını buldu. Risk gerçek ve denetim buna yetişmedi.

Sıfırdan Felakete

Kullanım örnekleri, neredeyse her departmandan gelen ve güvenlik ekibinin gözünü üzerinde tutması için asla ortaya çıkmayacak olan, çok çeşitli ve sayısız.

Örneğin, bir pazarlama koordinatörü, tamamen onaylanmış bir platformda ürün sorularını yanıtlamak için bir müşteri odaklı AI ajanı oluşturur. Dakikalar içinde, uygulama çalışmaya başlar, ancak güvenlik eğitimi olmayan biri olarak, iki küçük yapılandırma hatası fark edilmez ve ajanı şirketin tüm veritabanına doğrudan erişimle ve alabileceği şeylerde hiçbir sınır olmadan bırakır. Üretim aşamasında, bir kullanıcı onu personel kayıtlarını çekmeye yönlendirir. Bunu yapar. Ajan ayrıca bir e-posta yeteneğine sahip olduğu için, kullanıcı onu kişisel bir adrese bu verileri göndermeye yönlendirir. Tüm dizi altmış saniyeden kısa sürer. Yetkilendirilmemiş erişim yok. Platform ihlali yok. Güvenlik uyarısı yok.

Bu, sofistike bir saldırı değil. İyi niyetli bir çalışanın, güvenlik ve yönetim konusunda isteğe bağlı olan bir platformda, tam olarak anlamadığı bir şey inşa etmesinin öngörülebilir sonucu.

Hiç Kimse Fiyata Dahil Etmediği Yönetim Açığı

Çoğu organizasyon için, Shadow AI problemi, bir şey yanlış gittiğinde soyut kalır. Ancak iş riski, ihlal yanıtından daha derine gider.

Bir iş tarafından oluşturulan ajan hassas verileri sızdırduğunda, bir yönetim kurulu soracağı soru “nasıl olur da kimse aracın çalıştığını bilmiyordu?” olacaktır. Dış bir saldırgan tarafından gâyılan bir ihlal ve bir iç araç tarafından gâyılan bir ihlal arasında ayrım yapmayacaklar. Kişisel veriler ortaya çıktıysa ve organizasyon neyin çalıştığına dair görünürlüğe sahip değilse, denetimin olmaması itself bir yükümlülüktür. “Bir çalışan, onaylanmış bir platformda inşa etti” bir savunma değil, açığın tanımı.

Aciliyet gerçek, ancak niyet ve uygulama aynı şey değil ve çoğu kuruluş için aralarındaki boşluk hala açık.

Cevap, kimin inşa edebileceği konusunda kısıtlamalar koymak değil. Vatandaş geliştirmeyi kısıtlamak, gerçek üretkenlik kazanımlarından vazgeçmek anlamına gelir ve uygulamada tutmayacaktır. Çalışanlar alternatifler bulacaktır. Cevap, inşa edilenlerin görünürlükte olmasını sağlamak ve riskin ortaya çıktığı noktada, yani çalışma zamanında, bunları yönetmektir.

Bu, sadece hangi ajanların var olduğunu değil, nasıl davrandıklarını, hangi verilere erişim sağladıklarını, hangi sistemleri etkilediklerini ve eylemlerinin inşa edenlerin amaçladığı sınırlar içinde kalıp kalmadığını anlamak anlamına gelir. Bu, yapılandırma noktasında değil, kurumsal düzeyde çalışacak sınırlar koymak anlamına gelir. Ve güvenlik ekiplerinin herhangi bir ajan hakkında en temel soruları cevaplayabileceği bir noktaya ulaşmak anlamına gelir: kim inşa etti, neye erişim sağlıyor ve tasarlandığı şekilde davranıyor mu?

Çoğu kuruluş bugün bu soruları cevaplayamaz. İlk olarak oraya ulaşan organizasyonlar, AI benimsemesini güvenle ölçeklendirebilecek olanlar olacaktır, çünkü gerçekten ne çalıştırdıklarını bilecekler.