Yapay Zeka Kırık Güvenlik Temellerini Düzeltmez

Yapay zeka, görünürlüğü, analizi ve karar verme süreçlerini keskinleştirir, ancak etkililiğini altındaki ortamın kalitesi sınırlar.

Güvenlik ürünleriyle ilgili konuşmalarda, güvenlik liderleri tarafından sorulan ve neredeyse her satıcı tarafından yinelenen soru, “Yapay zeka kullanıyor mu?” haline geldi. 

Sorun, bu sorunun yanlış olmasıdır. Bir ürünün yapay zeka kullanması, güvenlik duruşunu güçlendireceği anlamına gelmez. Yapay zeka, tüm siber güvenlik sorunlarının çözümü değildir. Değeri, nasıl uygulandığına bağlıdır ve bu, çözülmesi istenen problemi net bir şekilde tanımlamayla başlar. 

 Daha iyi soru şudur: “Hangi özel güvenlik açığını kapatmaya çalışıyoruz ve bu yapay zeka destekli teknoloji gerçekten bu açığı kapatmaya yardımcı oluyor mu?”  

Yapay Zeka Ne İyi Yapar 

Yapay zeka, güvenlik alanında üç ana alanda değer sağlar. İlk olarak, veri boşluklarını doldurur. Güvenlik ekipleri, eski varlık envanterlerinden, tüm erişim ilişkilerini yakalayamayan kimlik sistemlerinden ve belirli trafiği kaçıran ağ telemetrisinden veri çeker. Yapay zeka, eksik veri kümelerinden varlıklar, kimlikler, bağlantı, yük davranışları hakkında daha eksiksiz bir resim oluşturmak için bağlam çıkarabilir.  

Yapay zeka ayrıca büyük ölçekli analizi geliştirir. Güvenlik operasyonlarında sinyal-gürültü problemi nghiêmeshane ve kötüleşiyor. Yapay zeka, birden fazla veri kaynağındaki olayları ilişkilendirebilir, dikkat çekici uyarıları yüzeye çıkarabilir ve düşük öncelikli gürültüyü analistin görüş alanından çıkarabilir. Bu, çoğu güvenlik satıcısının yapay zeka yatırımlarını yoğunlaştırdığı alandır. SOC ekipleri, düşük değerli uyarıları ayıklamak için daha az zaman harcar ve insan yargısına gereksinim duyan faaliyetlere daha fazla zaman ayırmaya başlar. 

Üçüncüsü, yapay zeka veri zenginleştirdikten ve sinyalleri analiz ettikten sonra, sonraki adımı önererek eylemi yönlendirebilir, Örneğin, hangi ilke değişikliğinin riski azaltacağını, hangi yanıt eyleminin davranışsal modele uygun olduğunu veya hangi yapılandırmanın değiştirilmesi gerektiğini belirtebilir.  

Yapay zeka, bağlamı, analizi ve karar verme süreçlerini iyileştirdiğinde en fazla değeri sağlar. Güçlü güvenlik uygulamalarını geliştirir, ancak eksik olanları telafi edemez. 

Zayıf Temeller Neden Hala Başarısız Olur 

Yapay zeka, bir organizasyonun beslediği girdilerle sınırlıdır. Bu girdiler (örneğin, telemetri, mimari, politikalar, kontroller ve mevcut araçlar), yapay zeka’nın ne yapabileceğinin sınırlarını tanımlar. Bu girdileri keskinleştirin, yapay zeka daha keskin sonuçlar üretir. Zayıflatın, çıktı bozulur. 

Eksikliği tanımlamak için bağlam olmadan, yapay zeka bunu raporlayacak bir yol bulamaz. Bir ortamı incelemeyecek ve neyin eksik olduğunu belirtecek. Ağın yeterli segmentasyona sahip olmadığını, erişim kontrollerinin çok geniş olduğunu veya görünürlük boşluklarının tüm ortamın izlenmesini engellediğini güvenlik ekibine söylemeyecektir.  

Yapay zeka, “çöp içe, çöp dışa” ilkesinden kaçamaz, bunu pekiştirir. Zayıf telemetri zayıf analize yol açar. Hatalı kontroller, yapay zekaya yanlış yönde optimize edecek bir şey verir. Eksik görünürlük, kararların kısmi bir resimden verildiği anlamına gelir ve yapay zeka bu kararları daha hızlı verir, ancak daha doğru değil. Altındaki bilginin güvenilir olmadığı durumlarda hız bir iyileşme değildir. 

Bu nedenle, herhangi bir yapay zeka yeteneği devreye girmeden önce temelin kalitesi önemlidir. Güçlü bir temel, anlamlı sınırlar uygulayan kimlik ve erişim kontrollerini, kullanıcılar, iş yükleri, uygulamalar, veri, mikro segmentasyon ve ortam boyunca kapsamlı görünürlük/izlenebilirlik dahil olmak üzere içerir. Ayrıca, güvenilir telemetri ve sistemlerin birbirleriyle nasıl bağlandığı ve birbirlerine nasıl bağımlı olduğu konusunda net bir anlayış gerektirir. 

Hiçbiri yeni değildir. Bunlar, güvenlik ekiplerinin yıllardır tartıştığı aynı disiplinlerdir, mobildeki değişimden buluta geçişe kadar. Değişen, bunları ihmal etmenin maliyetidir. Yapay zeka, güçlü bir güvenlik temelini güçlendirebilir, ancak yerini alamaz. 

Agentic Yapay Zeka Risk Denklemini Değiştirir 

Değişim, yapay zekadan desteklenen yapay zekaya değil, yapay zekadan eyleme geçiren yapay zekaya doğru bir değişimdir. Geleneksel yapay zeka, verileri analiz eder, içgörüler sağlar ve sonraki adımları önerir. Agentic yapay zeka, insan kararı beklemeksizin sistemler, veri ve iş akışları boyunca yürütür. 

Bunu şöyle düşünün: 100 yapay zeka ajanını geceyarısı dağıtmak,Effectively, 100 yeni çalışanı işe almak ve onların asla oturmadan, insan hızında değil makine hızında ve sistemlere erişim izinlerine göre hareket etmelerine izin vermektir. Ancak insan çalışanlardan farklı olarak, bu ajanlar duraklamaz, sorgulamaz veya erişimlerinin ne zaman kullanılacağı hakkında yargıda bulunmazlar. Sürekli olarak, izin verilen sistemlere ve uygulamalara dokunarak hareket ederler. 

Bu, boşluktur. Erişim modeliniz, insan davranışını varsayar (örneğin, ayrı eylemler, daha yavaş tempo ve belirli bir yargı düzeyi). Yapay zeka ajanları bu kısıtlamaları kaldırır. Bu nedenle, izinler çok genişse (veya yanlışsa), bunlar sadece boşta durmaz veya arada sırada yanlış kullanılır; sürekli olarak, ölçekte ve dokundukları her sistemde kullanılır. 

Risk, bir organizasyonun bir ajanı belirli bir kullanıcıya verilen aynı erişim profilini atadığında ve bu, bir klon oluşturur, faydalı bir vekil değil. Bu klon, orijinalin aynı geniş izinlerine sahiptir, sürekli olarak çalışır ve davranışları kötü niyetli veya sadece yanlış yapılandırılmış olsa da, organizasyonu aynı risklere maruz bırakabilir. 

Yapay zeka çağındaki kimlik, erişim kontrolü, en düşük ayrıcalık, segmentasyon ve izlenebilirlik artık sadece iyi uygulamalar değil, temel güvenlik gereksinimleri haline geldi. Cloud Security Alliance’ın bir briefed SANS, OWASP Gen AI Güvenlik Projesi ve uygulayıcı topluluğu ile geliştirilen, agentic yapay zeka’nın bu temel ilkeleri geçersiz kılmadığını, bunları müzakere edilemez kıldığını vurguluyor.  

Yapay Zeka Hazır Güvenlik Nasıl Görünür 

Yapay zeka hazır olma durumunu, hangi yapay zeka destekli araçları uygulamaya koyacağını sorgulamak olarak ele almak ve bu soruyu görmezden gelmek, yapay zeka hazır olmasının aslında bir mimari, yönetim ve kontrol meselesi olduğunu unutmaktır. Soru, hangi araçları satın alacağını değil, ortamın yapay zekayı güvenli bir şekilde çalıştırıp çalıştıramayacağıdır. 

Görünürlükle başlayın. Herhangi bir yapay zeka yeteneğini dağıtmadan önce, güvenlik ekiplerinin ortamda neler olduğunu net bir şekilde görmeleri gerekir: varlıklar, iş yükleri, kimlikler, uygulamalar, veri, yapay zeka modelleri, ajanlar ve üçüncü taraf bağlantıları. Bu envanter, yapay zeka tarafından sizin için oluşturulabilecek bir şey değildir. Yapay zeka’nın herhangi bir şey yapabilmesi için gereken başlangıç noktasıdır. 

Oradan, problemi tanımlayın. Kontrol boşluğunu veya özel riski ilk olarak belirleyin. Hangi sonucun iyileşmesi gerektiğini kararlaştırın. Sonra, yapay zeka’nın bu boşluğu diğer yaklaşımlardan daha iyi kapatıp kapatamayacağını sorun. Problemi tanımlamadan önce bir yapay zeka aracını alıp sonra bu aracı uygulamak için bir sorun arayan organizasyonlar, güvenlik olmadan faaliyet üreterek sonuçlanır. 

Yapay zeka ajanlarına sıfır güven ilkesini uygulamak, burada işlevsel hale gelir. İnsanların ne yapmaması gerektiğini tanımlama içgüdüsü vardır, ancak bu liste her zaman eksik olacaktır. Daha güvenilir bir yaklaşım, her bir ajanın ne yapabileceğini belirlemek, yalnızca tanımlanan görevi gerçekleştirmek için gerekli erişimi vererek ve bu sınırları tüm yığın katmanları boyunca zorlamaktır. Ajanların erişebileceği sistemleri segmentleyin, böylece bir ajan tanımlı sınırların dışında davranırsa veya bir saldırgan onu suistimal ederse, zarar içerilir. 

Son olarak, faaliyet artışı bir başarı ölçütü değildir. Yapay zeka, güvenlik ekibinin aldığı eylemlerin hacmini artırır, ancak bu, güvenliği iyileştirdiği anlamına gelmez. Çok fazla faaliyet gösteren bir panonun, yapay zeka’nın değer teslim ettiğini gösterdiği anlamına gelmez. 

Sonuçları ölçün, Örneğin, uyarı hacminin gerçekten sinyal ve risk seviyesinin düşüşü açısından azaldığını, politika önerilerinin kontrolleri güçlendirdiğini, güvenlik ekibinin olayları daha hızlı içerdiğini ve SOC analistlerinin insan yargısına gereksinim duyan çalışmalara daha fazla zaman ayırdığını görün.  

Temel İlk Önemlidir 

Yapay zeka, güçlü bir güvenlik duruşunun temeli değildir. Bir çarpma faktörüdür ve herhangi bir çarpma faktörü gibi, değeri tamamen uygulandığı şeye bağlıdır. 

Açık görünürlüğe, en düşük ayrıcalığa, segmentasyona ve güçlü kimlik kontrollerine sahip sağlam bir mimariye sahip organizasyonlar, yapay zeka’yı bağlamı keskinleştirmek, analizi hızlandırmak ve daha iyi bilgilendirilmiş kararlar almak için kullanabilir. Bunlara sahip olmayanlar, yapay zeka’nın yanlış yönde daha hızlı hareket ettiğini, hatalı kontrolleri optimize ettiğini ve eksik bir resimden çıkarımlar sağladığını göreceklerdir. 

Herhangi bir yapay zeka yatırımı yapılmadan önce sorulması gereken soru, her güvenlik kararını yönlendiren aynı sorudur: Çözmeye çalıştığımız problem nedir? Cevap netse ve bunu destekleyecek mimari varsa, o zaman yapay zeka çözümü daha etkili kılabilir. Cevap belirsizse veya temel zayıfsa, yapay zeka eklemek bunu değiştirmeyecektir. Sadece boşluğu daha zor görünür kılacaktır. 

Yapay zeka, kırık bir temeli düzeltmez. Sadece çatlakları daha hızlı görünür kılar.