Antropik, İlk Büyük Ölçekli AI Otomasyonu ile Gerçekleştirilen Siber Saldırıyı Açıkladı

Antropik, şüphelerinin Çin devletinin himayesindeki bir grup tarafından gerçekleştirildiği düşünülen bir grup siber saldırganın, şirketin Claude Code aracını kullanarak, insan müdahalesi ile yürütülen ilk belgelenmiş büyük ölçekli siber saldırıyı gerçekleştirdiğini açıkladı. Saldırganlar,主要 teknoloji şirketleri, finansal kurumlar, kimyasal üreticiler ve hükümet kurumları da dahil olmak üzere yaklaşık 30 kuruluşa saldırdı. Çoğu saldırı engellenmesine rağmen, kampanya birkaç durumda başarılı oldu. Claude Code, insan operatörlerin yalnızca kritik karar noktalarında gerekli olduğu, büyük ölçüde özerk bir şekilde keşif, güvenlik açığı testi, kimlik bilgileri toplama ve veri sızdırma işlemlerini gerçekleştirdi.

Antropik’in tam raporunu burada okuyabilirsiniz.

Saldırı Yöntemleri ve AI Manipülasyonu

Saldırganlar, sofistike sosyal mühendislik yöntemleri kullanarak Claude’ın güvenlik önlemlerini aşmayı başardılar. Saldırganlar, meşru bir siber güvenlik şirketinin savunma testleri gerçekleştirdiklerini iddia ederek AI sistemini kandırdılar. Saldırganlar ayrıca operasyonlarını küçük, masum gibi görünen görevlere böldüler ve Claude’a kötü amaçlı genel amacın incomplete bağlamını sağladılar.

Claude Code, hedef organizasyonların sistemlerini yüksek değerli veritabanlarını tanımlamak için inceledi, bu keşfi insan saldırganlardan daha hızlı gerçekleştirdi ve güvenlik açıklarını test etmek için özel açıklama kodu yazdı. Sistem, daha fazla ağ erişimi için kullanıcı adları ve parolaları topladı, ardından özel verileri istihbarat değerine göre çıkardı ve kategorize etti. Saldırganlar, kampanyayı esasen bir düğmeye basarak gerçekleştirebildiler, ardından AI, insan takımlarının imkansız olduğu hızlarda, saniyede binlerce istek göndererek büyük ölçüde bağımsız olarak çalıştı.

Resim: Antropik

Algılama ve Şirket Cevabı

Antropik, saldırganları 2025 Eylül’ünün ortalarında tespit etti ve hemen bir soruşturma başlattı. 10 gün içinde, şirket saldırganların Claude’a erişimini kapattı, etkilenen kuruluşları bilgilendirdi ve law enforcement’a bildirdi. Şirket, daha sonra algılama yeteneklerini genişletti ve büyük ölçekli, dağıtılmış saldırıları araştırmak ve tespit etmek için ek yöntemler geliştirmektedir.

Bu olay, Antropik’in 2025 yılında belgelenmiş önceki kötüye kullanım örneklerini takip etmektedir. Ağustos ayında, şirketin Tehdit İstihbarat Raporu, Claude Code’u kullanarak en az 17 kuruluşa yönelik büyük ölçekli hırsızlık gerçekleştiren GTG-2002 olarak izlenen bir veriGası operasyonunu ayrıntılı olarak açıkladı. Bu suçlu, geleneksel fidye yazılımı şifrelemesi kullanmak yerine çaldığı verilerin ifşa edilmesini tehdit ederek 500.000 doları aşan fidye talep etti.

Antropik’in algılama altyapısı, milyonlarca API isteğinin kullanım kalıplarını izlemek için davranış analizi, meşru kullanım ile tutarlı olmayan işlemler dizilerini tanımlamak için anormallik algılama ve bilinen ve yeni manipülasyon tekniklerini tanımak için kalıp eşleştirmesi dahil olmak üzere çok katmanlı tekniklere dayanmaktadır. Şirket, potansiyel olarak zararlı istekleri analiz etmek için uzman sınıflandırıcılar kullanır ve Claude’ın cevaplarını, teslim edilmeden önce veya sonra değerlendirir.

Sektör İmpilikasyonları

Kampanya, siber saldırılarda AI özerkliğinin görülmemiş bir seviyesini içeriyordu ve güvenlik uzmanlarının görüşüne göre siber casuslukta bir dönüm noktasını temsil ediyor. AI sistemlerinin, insan gözetiminden bağımsız olarak makine hızında sofistike saldırılar gerçekleştirebilmesi, siber güvenlik savunucuları için yeni zorluklar yaratıyor.

Antropik’in ifşası, AI şirketlerinin modellerinin kötüye kullanılmasını önlemek için artan bir baskı ile geliyor. Şirket, Claude’un kötüye kullanılmasını tespit etmek ve önlemek için kapsamlı bir tehdit istihbaratı ve güvenlik programı sürdürmektedir ve 2025 yılında belgelenmiş güvenlik olaylarını rapor etmektedir. Mart ayında, şirket, Claude’u kullanarak multiple ülkeler ve dillerdeki on binlerce sosyal medya hesabıyla etkileşimi otomatikleştiren bir etki-as-a-service operasyonunu tespit etti.

Olay, AI güçlendirilmiş araçların artan sofistikesi ve kötüye kullanımını önlerken meşru kullanıcılar için faydayı korumanın zorluklarını vurgulamaktadır. Antropik, ilgili hesapları yasakladı ve tehdit ortamının gelişmesine karşı algılama ve hafifletme yeteneklerini güçlendirmeye devam etmektedir.