Düşünce Liderleri

AI Güvenliği Bozuk Değil, Yanlış Şeyleri Savunuyoruz

Piyush Sharma
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarSaldırganlar, modellerin kendisinden ziyade, AI entegrasyonlarını tüm kurumsal…
Daha fazla göster
  • Saldırganlar, modellerin kendisinden ziyade, AI entegrasyonlarını tüm kurumsal ekosistemlere açılan otoyollar olarak istismar ediyor.
  • Silos halinde çalışan güvenlik araçları, saldırganların yanlış yapılandırmaları farklı alanlarda nasıl zincirlediğini ortaya çıkaramaz.
  • AI entegre ortamlar için statik değerlendirmelerin yerini sürekli saldırı yolu simülasyonu almalıdır.

Siber güvenlik endüstrisi, yeni bir teknoloji ortaya çıktığında, hemen onu çevreleyen duvarlar inşa etme eğilimindedir. Bulut için, konteynırlar için ve şimdi AI için yapıyoruz, ancak bu kez inşa ettiğimiz duvarlar tamamen yanlış yerlerde.

Herhangi bir kurumsal güvenlik incelemesine girin ve aynı öncelikleri duyacaksınız: AI modellerini güvence altına almak, eğitim verilerini korumak, çıktıları doğrulamak ve AI destekli yardımcıları devreye almak. Satıcılar, model seviyesindeki kontrolleri odaklanan “AI güvenliği” araçlarını satmak için yarışıyorlar: guardrails, prompt-enjeksiyon savunmaları ve model-izleme platformları.

Ancak saldırganlar AI entegrasyonlarınızı her şeye ulaşmak için kullanıyor.

Kimsenin İzlemediği Gerçek Saldırı Yüzeyi

Gözlemlediğimiz bir örüntü, şirket güvenlik ekiplerinin AI geliştirme ortamlarını güvence altına almak için önemli yatırımlar yaptığını gösteriyor: model erişim kontrolleri, veri yönetimi çerçeveleri, MLOps güvenlik araçları. Bu, AI’nin “kilitli” olduğu konusunda yanlış bir güven duygusu veriyor.

Ancak gerçek saldırı yüzeyini haritaladığınızda, AI sohbet botlarının genellikle onlarca SaaS platformu için OAuth tokenlarına, aşırı bulut izinlerine sahip API anahtarlarına ve kimlik güven ilişkilerine sahip olduğunu görürsünüz ve bu, bir basit prompt enjeksiyonundan üretim altyapısına doğrudan yollar oluşturabilir. Modeller kendileri güvende olabilir, ancak içinde yaşadıkları ekosistemler genellikle açık ve bu bir kenar durumu değil.

Şirketler şimdi ortalama 130+ SaaS uygulamasını kullanıyor ve AI entegrasyonları kimlik sağlayıcıları, bulut altyapısı, veritabanları ve iş açısından kritik sistemleri kapsıyor. Her entegrasyon potansiyel bir saldırı yolu ve her API bağlantısı bir güven sınırıdır ve saldırganlar bunları aktif olarak araştırıyor.

Sorun, AI güvenlik araçlarımızın bozuk olması değil, bireysel bileşenleri güvence altına alırken saldırganların bunları birbirine bağlayarak yararlanmasından kaynaklanıyor.

Neden Model-Merkezli Güvenlik İşe Yaramaz

AI güvenliğine yönelik mevcut yaklaşım, modern saldırıların nasıl çalıştığı konusunda temel bir yanlış anlama üzerine kurulmuştur. AI’yi, bir veritabanı veya web uygulamasını güvence altına almak gibi, korumaya ihtiyaç duyan bağımsız bir varlık olarak ele alıyoruz. Ancak üretimdeki AI, izole olarak var olmaz. Kimlikler, izinler, API’ler ve veri akışları kompleks bir grafının bir düğümüdür.

Tipik bir şirket AI dağıtımı düşünün. Google Workspace’e erişimi olan bir AI aracınız var. Salesforce (CRM ) ile API’ler aracılığıyla bağlantılı. Slack ile entegre ve bildirimler için kullanılıyor. AWS S3 depolama alanlarından veri çekiyor. Okta veya Azure AD ile kimlik doğrulaması yapıyor ve ServiceNow’da iş akışlarını tetikliyor.

Geleneksel AI güvenliği, modelin kendisine odaklanıyor: güvenlik duruşu, prompt doğrulaması, çıktı güvenliği. Ancak saldırganlar entegrasyonlara odaklanıyor: ele geçirilmiş hizmet hesapları üzerinden neye ulaşabilirler, API manipülasyonlarıyla nerelere ilerleyebilirler, istismar edilen entegrasyonlar üzerinden hangi güven sınırlarını aşabilirler.

Saldırı, AI modeliyle başlamıyor veya bitmiyor. Model sadece giriş noktası.

Saldırı Yolları Ürün Sınırlarını Saygı Göstermez

Burada çoğu organizasyon takıldı. Güvenlik araçlarını her biri tek bir alana görünürlük sağlayan şekilde dağıtmışlar. Bir araç bulut izinlerini izliyor. Bir diğeri SaaS yapılandırmalarını takip ediyor. Bir üçüncüsü kimlik yönetimini ele alıyor. Bir dördüncüsü güvenlik açığı yönetimini yapıyor.

Her araç size puzzle’ın bir parçasını gösteriyor. Hiçbiri parçaların nasıl birleştiğini göstermiyor.

Gartner’a göre, şirketler şimdi ortalama 45+ güvenlik aracı kullanıyor. Buna rağmen, saldırganlar bu alanlar arasındaki yanlış yapılandırmaları zincirleyerek saldırıyor çünkü hiçbir araç tüm saldırı yolunu göremiyor.

Bir saldırganın AI modelinizde kritik bir güvenlik açığı bulmasına ihtiyacı yok. Sadece bir zincire ihtiyacı var. Belki AI hizmetinize bağlı, yanlış yapılandırılmış bir IAM rolü var, bu rol S3 bucket’ına erişim izni veriyor, bu bucket üretim ortamınıza yönetici erişimi olan bir SaaS uygulamasına kimlik bilgilerini içeriyor.

Her bir yanlış yapılandırma, güvenlik araçlarınızda “orta” veya “düşük” puan alabilir. Ancak zincirleyerek birleştirildiğinde? Bu, kritik bir maruz kalma ve bu, her güvenlik alanını ayrı ayrı ele aldığınızda tamamen görünmez.

Maruz Kalma Yönetimi Zorunluluğu

Bu nedenle konuşma, “AI güvenliğinden” AI entegrasyonlu ortamlar için sürekli tehdit maruz kalma yönetimine geçmeli.

AI modellerimizin güvende olup olmadığını sormak yeterli değil. Güvenlik ekipleri, bir AI hizmet hesabını ele geçirdiklerinde bir saldırganın gerçekten neye ulaşabileceğini anlamalıdır. Bulut, SaaS ve kimlik sistemlerindeki yanlış yapılandırmaların nasıl birleştirilebileceğini görme yeteneğine sahip olmalılar. AI entegrasyonlarının saldırı yüzeyini gerçek zamanlı olarak nasıl değiştirdiğini bilmeleri gerekir. Ve riskleri, sadece ciddiyet puanlarına göre değil, gerçek saldırılabilirliğe göre önceliklendirmelidir.

Çoğu güvenlik programı hâlâ riskleri ayrı ayrı önceliklendiriyor; bir açığın sizin ortamınızda gerçekten istismar edilip edilemeyeceğini tamamen göz ardı eden CVSS puanlarını ve uyumluluk kontrol listelerini kullanıyor.

AI sistemlerinde bu boşluk daha da belirgin çünkü bunlar sürekli değişiyor. Yeni entegrasyonlar haftalık olarak ekleniyor. İzinler evrim geçiriyor. API bağlantıları değişiyor. Geçen ayki saldırı yüzeyiniz, bugünün saldırı yüzeyiniz değil, ancak güvenlik değerlendirmeniz muhtemelen aynı kalmış durumda.

Saldırı Yolu Bilincine Sahip Güvenlik Nasıl Olmalıdır

Üretimdeki AI’yi güvence altına almak için temelde farklı bir yaklaşım gerekiyor ve bu, dört temel düşünce değişikliğine dayaniyor.

İlk olarak, güvenlik alanları boyunca birleşik görünürlüğe ihtiyacınız var. Her güvenlik aracının kendi silosunda çalışmasını istemeyi bırakın. Bulut güvenliğiniz, kimlik yönetiminiz, SaaS yönetiminiz ve güvenlik açığı tarama araçlarınız, saldırı yolu puzzle’ının parçalarını tutuyor. Gerçek zamanlı olarak veri paylaşmaları gerekiyor, böylece yanlış yapılandırmaların nasıl birleştirilebileceğini görebilesiniz.

İkincisi, sürekli saldırı yolu simülasyonunu benimseyin. Penetrasyon testlerini veya kırmızı takım egzersizlerini beklemeyin, istismar edilebilir yolları keşfetmek için beklemeyin. Bir saldırganın ortamınızdan nasıl geçebileceğini sürekli test edin, teorik ciddiyet puanlarına güvenmek yerine gerçek istismar edilebilirliğe odaklanın.

Üçüncüsü, bağlam içinde önceliklendirin. Yanlış yapılandırılmış bir S3 bucket yalnızca herkese açık olduğu için kritik değildir. Herkese açıksa, kimlik bilgileri içeriyorsa, bu bilgiler ayrıcalıklı erişim sağlıyorsa ve internete açık bir varlıktan bunlara erişilebiliyorsa kritik olur. Bağlam, herhangi bir bireysel puandan daha önemlidir.

Dördüncüsü, önleyici düzeltme yapın. SOC ekibiniz bir uyarıyı araştırırken, zaten değerli yanıt zamanını kaybetmiş olursunuz. Modern savunma, istismar edilebilir yolların saldırılarda kullanılmadan önce kapatılabilmesini gerektirir; bir olaydan sonra değil.

Göz Ardı Edilemeyecek Uyarı

AI, şirket yapısının her katmanına gömülürken, saldırı yüzeyi güvenlik ekiplerinin elle takip edebileceğinden daha hızlı genişliyor. AI entegrasyonlarını, onları güvence altına aldığımız hızın 10 katı hızla ekliyoruz.

Eğer AI’yi izole olarak güvence altına alıyorsanız, modeli korurken ekosistemini görmezden geliyorsanız, zaten geride kaldınız. Saldırganlar, araçlara göre değil, yollara göre düşünüyor. Bireysel güvenlik açıklarından yararlanmıyor, tüm ortamınız boyunca yanlış yapılandırmaları zincirleyerek yararlanıyor.

AI’yi başarılı bir şekilde güvence altına alacak şirketler, en fazla AI güvenlik aracına sahip olanlar olmayacak. AI güvenliğinin, tüm saldırı yüzeyiniz boyunca maruz kalma yönetiminden ayrılmaz olduğunu anlayan şirketler olacak.

Model güvenliği temel gereksinim. Önemli olan, bir AI entegrasyonunu ele geçirdiğinde bir saldırganın neye ulaşabileceğini anlamaktır. Güvenlik ekipleri, bunu sürekli, gerçek zamanlı ve tüm ortamınızda yapana kadar AI’yi güvence altına almıyorlar, sadece inşa ettikleri duvarların doğru yerlerde olduğunu umuyorlar.

Piyush Sharma, Tuskira'nın Kurucu Ortağı ve CEO'su, bilgisayar bilimi alanında lisans derecesi ve MBA ile desteklenen siber güvenlik alanında yirmi yılı aşkın uzmanlığa sahiptir. İki başarılı çıkışın sahibi olan bir seri girişimci olan Piyush, Symantec ve Tenable'de dahil olmak üzere önemli ürün ve iş liderliği rollerinde bulunmuştur. Ayrıca Accurics'in CEO'su ve kurucu ortağı olarak görev yaptı; Accurics daha sonra Tenable Inc. tarafından satın alındı. Siber güvenlik alanında bir düzine patenti olan başarılı bir mucit olan Piyush, bu alandaki yenilikçi katkılarını göstermektedir.