2025 AI Güvenlik Durumu: Cisco Raporundan Ana Bilgiler

Şirketlerin AI’ı benimsemesi arttıkça, AI güvenlik risklerini anlamak her zamankinden daha önemli hale geldi. AI, endüstrileri ve iş akışlarını yeniden şekillendiriyor, ancak aynı zamanda organizasyonların ele alması gereken yeni güvenlik zorlukları da getiriyor. AI sistemlerini korumak, güveni korumak, gizliliği güvence altına almak ve iş operasyonlarının sorunsuz çalışmasını sağlamak için çok önemlidir. Bu makale, Cisco’nun yakın zamanda yayınladığı “2025 AI Güvenlik Durumu” raporundan ana bilgileri özetliyor. AI güvenlik durumunun bugün nerede olduğu ve şirketlerin gelecekte dikkate alması gereken hususlar hakkında bir genel bakış sunuyor.

AI’a Yönelik Artan Güvenlik Tehdidi

Eğer 2024 bize bir şey öğrettiyse, o da AI benimsemesinin birçok organizasyonun güvence altına alabileceğinden daha hızlı ilerlediğidir. Cisco’nun raporu, yaklaşık %72’nin iş fonksiyonlarında AI kullandığını, ancak sadece %13’ünün AI’ın potansiyelini güvenli bir şekilde kullanmaya tamamen hazır olduğunu belirtiyor. Bu, AI benimsemesi ile hazırlık arasındaki fark, büyük ölçüde güvenlik endişeleri tarafından yönlendiriliyor ve bu da daha geniş AI kullanımının önündeki ana engel oluşturuyor. Durumu daha da endişe verici kılan, AI’nın geleneksel siber güvenlik yöntemleri tarafından tamamen ele alınamayan yeni tehdit türleri getirmesidir. Geleneksel siber güvenlik genellikle sabit sistemleri korurken, AI dinamik ve uyarlanabilir tehditleri getiriyor ve bunlar daha zor öngörülebiliyor. Rapor, organizasyonların farkında olması gereken beberapa yeni ortaya çıkan tehdidi vurguluyor:

• Altyapı Saldırıları: AI altyapısı saldırganlar için birincil hedef haline geldi. NVIDIA (NVDA ) Container Toolkit’nin ihlali gibi bir örnek, saldırganların dosya sistemlerine erişmesine, kötü amaçlı kod çalıştırmasına ve ayrıcalıkları yükseltmesine izin verdi. Aynı şekilde, GPU yönetimi için açık kaynaklı bir AI çerçevesi olan Ray, bir gerçek dünya AI çerçevesi saldırısında ihlal edildi. Bu durumlar, AI altyapısındaki zayıflıkların birçok kullanıcı ve sistemi nasıl etkileyebileceğini gösteriyor.
• Tedarik Zinciri Riskleri: AI tedarik zinciri zayıflıkları başka bir önemli endişe kaynağı oluşturuyor. Yaklaşık %60’lık bir organizasyon, açık kaynaklı AI bileşenleri veya ekosistemlerine güveniyor. Bu, saldırganların bu yaygın olarak kullanılan araçları ihlal etmesine neden olan bir risk yaratıyor. Rapor, ” Sleepy Pickle” adlı bir tekniği mention ediyor, bu teknik saldırganların AI modellerini dağıtımdan sonra bile değiştirmelerine izin veriyor ve bu da tespit edilmesini çok zor hale getiriyor.
• AI-Spesifik Saldırılar: Yeni saldırı teknikleri hızla evrim geçiriyor. Prompt enjeksiyonu, jailbreaking ve eğitim verisi çıkarma gibi yöntemler, saldırganların güvenlik kontrollerini atlamasına ve eğitim veri setleri içinde bulunan hassas bilgilere erişmesine izin veriyor.

AI Sistemlerini Hedef Alan Saldırı Vektörleri

Rapor, AI sistemlerinin zayıflıklarını sömüren saldırganlar tarafından kullanılan saldırı vektörlerinin ortaya çıkmasını vurguluyor. Bu saldırılar, veri toplama ve model eğitimi gibi AI yaşam döngüsünün çeşitli aşamalarında meydana gelebilir ve often AI’nın beklenmedik şekillerde davranmasına, özel verilerin sızmasına veya zararlı eylemlerin gerçekleştirilmesine neden olur.
Son yıllarda bu saldırı yöntemleri daha da gelişti ve tespit edilmeleri daha zor hale geldi. Rapor, beberapa saldırı vektörü türünü vurguluyor:

• Jailbreaking: Bu teknik, modelin güvenlik önlemlerini atlatan adversarial promt’ları oluşturmayı içerir. AI savunmalarındaki gelişmelere rağmen, Cisco’nun araştırması, basit jailbreak’lerin hala gelişmiş modeller gibi DeepSeek R1’e karşı etkili olduğunu gösteriyor.
• İndirect Prompt Enjeksiyonu: Doğrudan saldırıların aksine, bu saldırı vektörü, girdi verilerini veya AI modelinin kullandığı bağlamı dolaylı olarak manipüle etmeyi içerir. Saldırganlar, kötü amaçlı kaynak materyalleri gibi kötü amaçlı PDF’ler veya web sayfaları sağlayabilir, bu da AI’nın istenmeyen veya zararlı çıktılar üretmesine neden olur. Bu saldırılar özellikle tehlikelidir çünkü doğrudan AI sistemine erişim gerektirmez, böylece saldırganlar birçok geleneksel savunmayı atlayabilir.
• Eğitim Verisi Çıkarma ve Zehirlenmesi: Cisco’nun araştırmacıları, sohbet botlarının eğitim veri setleri parçalarını yeniden üretmeye ikna edilebileceğini gösterdi. Bu, veri gizliliği, fikri mülkiyet ve uyumluluk konusunda ciddi endişeler yaratıyor. Saldırganlar ayrıca eğitim verilerini zehirleyerek kötü amaçlı girdiler enjekte edebilir. Şaşırtıcı bir şekilde, zehirleme gibi büyük veri setlerinin sadece %0.01’ini (örneğin, LAION-400M veya COYO-700M) etkilemek, model davranışında önemli değişikliklere neden olabilir ve bu, yaklaşık 60 USD gibi düşük bir bütçeyle gerçekleştirilebilir, böylece bu saldırılar birçok kötü aktöre erişilebilir hale gelir.

Rapor, bu saldırıların mevcut durumuna ilişkin ciddi endişeler vurguluyor, araştırmacılar DeepSeek R1 ve Llama 2 gibi gelişmiş modellere karşı %100’lük bir başarı oranına ulaştı. Bu, AI kullanımıyla ilişkili kritik güvenlik açıklarını ve potansiyel riskleri ortaya koyuyor. Ayrıca, rapor ses tabanlı jailbreak gibi yeni tehditlerin ortaya çıkmasını tespit ediyor, bunlar özellikle çok modelli AI modellerini hedef alıyor.

Cisco’nun AI Güvenlik Araştırmalarından Bulgular

Cisco’nun araştırma ekibi, AI güvenliği çeşitli yönlerini değerlendirdi ve birkaç önemli bulgu ortaya koydu:

• Algoritmik Jailbreaking: Araştırmacılar, en iyi AI modellerinin bile otomatik olarak kandırılabileceğini gösterdi. Tree of Attacks with Pruning (TAP) adlı bir yöntem kullanarak, araştırmacılar GPT-4 ve Llama 2’nin korumalarını atladı.
• İnce Ayar Riskleri: Birçok işletme, temel modelleri belirli alanlar için daha ilgili hale getirmek amacıyla ince ayarlıyor. Ancak araştırmacılar, ince ayarın dahili güvenlik önlemlerini zayıflatabileceğini buldu. İnce ayarlanmış sürümler, orijinal modellere kıyasla jailbreaking’e karşı üç kat daha savunmasız ve 22 kat daha fazla zararlı içerik üretme olasılığına sahipti.
• Eğitim Verisi Çıkarma: Cisco araştırmacıları, bir basit ayrıştırma yöntemi kullanarak sohbet botlarını haber makalesi parçalarını yeniden üretmeye ikna etti, bu da materyal kaynaklarının ortaya çıkmasını sağlıyor. Bu, hassas veya özel verilerin açığa çıkması riski oluşturuyor.
• Veri Zehirlenmesi: Cisco ekibi, büyük ölçekli web veri setlerini zehirlemenin ne kadar kolay ve ucuz olduğunu gösterdi. Yaklaşık 60 USD karşılığında, araştırmacılar LAION-400M veya COYO-700M gibi veri setlerinin %0.01’ini zehirleyebildi. Ayrıca, bu düzeyde zehirlenmenin model davranışında önemli değişikliklere neden olabileceğini vurguladılar.

Siber Suçta AI’ın Rolü

AI sadece bir hedef değil, aynı zamanda siber suçlular için bir araç haline geliyor. Rapor, otomasyon ve AI destekli sosyal mühendisliğin saldırıları daha etkili ve daha zor tespit edilebilir hale getirdiğini belirtiyor. Phishing dolandırıcılığından ses klonlamaya kadar, AI suçlulara ikna edici ve kişiselleştirilmiş saldırılar oluşturma konusunda yardımcı oluyor. Rapor ayrıca, ” DarkGPT” gibi kötü amaçlı AI araçlarının yükselişini tespit ediyor, bu araçlar özellikle siber suç için tasarlandı ve phishing e-postaları oluşturmak veya zayıflıkları sömürebilir. Bu araçların özellikle endişe verici yanı, düşük becerili suçluların bile geleneksel savunmalardan kaçınan, kişiselleştirilmiş saldırılar oluşturabilmesidir.

AI’ı Güvenli Hale Getirme için En İyi Uygulamalar

AI güvenliğinin değişken doğası dikkate alındığında, Cisco organizasyonlar için birkaç pratik adım öneriyor:

1. AI Yaşam Döngüsü Boyunca Riski Yönetin: AI yaşam döngüsünün her aşamasında, veri kaynağından model eğitimi ve dağıtımına kadar riskleri tanımlamak ve azaltmak çok önemlidir. Bu, üçüncü taraf bileşenlerini güvence altına almak, güçlü güvenlik önlemleri uygulamak ve erişim noktalarını sıkı bir şekilde kontrol etmek anlamına gelir.
2. Kurulu Siber Güvenlik Uygulamalarını Kullanın: AI benzersiz olsa da, geleneksel siber güvenlik en iyi uygulamaları hala çok önemlidir. Erişim kontrolü, izin yönetimi ve veri kaybı önleme gibi teknikler önemli bir rol oynayabilir.
3. Zayıflık Alanlarına Odaklanın: Organizasyonlar, tedarik zinciri ve üçüncü taraf AI uygulamaları gibi en çok hedef alınan alanlara odaklanmalıdır. Zayıflıkların nerede olduğunu anlayarak, işletmeler daha hedeflenmiş savunmalar uygulayabilir.
4. Çalışanları Eğitme ve Bilinçlendirmek: AI araçlarının yaygınlaşmasıyla birlikte, kullanıcıları sorumlu AI kullanımı ve risk farkındalığı konusunda eğitmek önemlidir. Bilinçli bir işgücü, kazara veri açığa çıkmasını ve suistimali azaltmaya yardımcı olur.

İleriye Bakış

AI benimsemesi devam edecek ve bununla birlikte güvenlik riskleri de evrimleşecektir. Dünya çapındaki hükümetler ve organizasyonlar, AI güvenliği konusunda ortaya çıkan bu zorlukları tanıyarak, AI güvenliğini yönlendirmek için politikalar ve düzenlemeler oluşturmaya başlıyor. Cisco’nun raporu, AI güvenliği ile ilerleme arasındaki denge’nin AI geliştirme ve dağıtımının geleceğini belirleyeceğini vurguluyor. Güvenlik ile yeniliği aynı anda önceliklendiren organizasyonlar, ortaya çıkan zorluklarla başa çıkmaya ve yeni fırsatları değerlendirmeye en iyi şekilde hazırlanacaktır. Politika ve düzenlemelerin AI güvenliğini yönlendirmesi, AI’nin güvenli bir şekilde geliştirilmesi ve dağıtılması için çok önemlidir.