Frontier AI Modellerinin Gelişi Güvenlik Açığı Keşfinin Geleceği Hakkında Neler Söylüyor

Nisan ayında Claude Mythos duyurulduğunda, kısa sürede AI döneminde en büyük siber güvenlik konuşma noktalarından biri haline geldi. Anthropic tarafından geliştirilen yeni LLM, önceden görülmemiş siber yetenekler sergiledi ve bir teknoloji devrimi olarak sınıflandırıldı, ancak aynı zamanda siber güvenlikte bir döneme girilebileceği uyarısı yapıldı.

Anthropic’e göre, model, büyük sayıda zero-day güvenlik açıklarını otomatik olarak keşfedebilir ve büyük işletim sistemleri ve tarayıcılarındaki hataları, on yıllar boyunca keşfedilmeyen örnekleri de dahil olmak üzere, tespit edebiliyor. Ayrıca, bireysel zayıflıkları işleyen çok adımlı sömürülere zincirleyebiliyor.

Etkisi o kadar dramatik oldu ki, 12 Haziran’da, ABD hükümeti, Anthropic’e, teknolojiye erişimi tüm yabancı uyruklular için, yabancı uyruklu Anthropic çalışanları da dahil olmak üzere, askıya almaya yönelik bir emir verdi. Bu, sınırsız erişimin kabul edilemez, hatta kontrol edilemez riskler yaratabileceği endişelerine bir tepki olarak görüldü.

Şu anda, Proje Glasswing kapsamında, ifşa ve giderme programı altında, erişim yaklaşık 50 kuruluşa, AWS, Apple, Google, Microsoft, CrowdStrike, Cisco ve Linux Foundation dahil, sınırlıdır. Bu işletmelere, Temmuz ayından itibaren Mythos tarafından tespit edilen güvenlik açıklarının kamuoyuna açıklanmadan önce kritik sistemleri yamalamak için bir pencere verildi. O noktada, endüstri gerçekten yeni bir bölgeye giriyor.

Rubikon’u Geçmek

Birçok kişi, önier AI modellerinin gelişi ile güvenlik Rubikon’unun geçildiğini kabul edecektir. Ve açık olalım: temel sorun, belirli bir modelin ortaya çıkması değil, güvenlik açığı keşfi ve sömürü geliştirme kendisinin yeni bir döneme girebileceği olasılığı veya ihtimali, AI’nin insan araştırmacıların ötesinde bir ölçekte ve hızda çalışabilmesidir.

Eğer bu böyle olursa, etkileri belirli güvenlik açıklarının ötesine geçer; geleneksel olarak güvenlik açığı yönetimi ve giderme süreçlerinin dayandığı varsayımları etkiler. Özellikle, mevcut güvenlik açığı yönetimi süreçleri, insan araştırmacıların keşif hızını sınırladığı bir dönemde geliştirilmiştir. AI, bu denklemin temel olarak değiştirme potansiyeline sahiptir.

Bir sonuç, güvenlik ekosistemine giren güvenlik açıklarının sayısında keskin bir artış olabilir. CVE hacimleri zaten son yıllarda dramatik olarak arttı ve güvenlik ekipleri, önier AI modellerinin tam etkisinin hissedilmeden önce bile artan bir baskı altına girmiş durumda.

Bu bağlamda, güvenlik açığı keşfi artık sınırlayıcı faktör olmayabilir. Bunun yerine, tıkanma, triyaj ve giderme aşamasına kayar. Güvenlik açıklarının sömürülme zaman çizelgeleri yıllardır kısalmakta ve bazı durumlarda, sömürüler yamalar kullanılabilir hale gelmeden önce ortaya çıkıyor, bu da organizasyonların tepki vermesi için çok az zaman bırakıyor.

Operasyonel Hazırlık Önceliğe Dönüşür

O halde, güvenlik açığı yönetimine yönelik güncellenmiş, amacına uygun bir yaklaşım nasıl görünür? Öncelikle, sürekli bir operasyonel yetenek olarak ele alınması gerekir, çünkü keşif ve yama dağıtımı arasındaki pencere genellikle çok yavaştır. Güvenlik ekipleri, hangilerinin gerçekten sömürülebileceğini ve hangi sistemlerin etkilendiğini anlamalıdır.

Buluntu hacmi arttıkça ve sömürülme zamanı kısaldıkça, güvenlik için AI’yi operasyonelleştirmek vazgeçilmez olacaktır. Gelişmiş AI algılama yeteneklerini (token maliyetlerini yöneterek) kullanan ve algılama, triyaj ve giderme işlemlerini otomatikleştiren ekipler, maruz kalma pencerelerini en aza indirecek ve olumsuz iş etkilerini minimize edecek konuma gelecektir. Bu, en fazla güvenlik açığını keşfetmek değil, en önemli sorunları hızlı bir şekilde tanımlamak ve gidermektir.

İkincisi ve daha önemli olanı, önier AI modelleri siber savunma araçlarıdır. Glasswing üyeleri, daha önce keşfedilmeyen güvenlik açıklarını tespit etmek ve düzeltmek için modelleri kullanabilir, ideal olarak saldırganların da önier AI yeteneklerine erişebileceği zaman önce bir başlangıç avantajı elde edebilir. Önier AI modelleri değerli bir tespit aracıdır, ancak AI taramalarının operasyonel yönlerini otomatik olarak çözmez (ne taranması gerektiği, ne zaman, nasıl düzenlenmesi gerektiği, bulgularla ne yapılması gerektiği, token maliyetlerinin nasıl yönetileceği vb.). Hangi model kullanılırsa kullanılsın (ve zamanla daha da iyileştirilecekler), güvenlik ekiplerinin siber güvenlik için önier AI yeteneklerini saldırganların bunları sömürmek için kullanabildikleri hızdan daha hızlı operasyonelleştirebilmeleri gerekir.

Organizasyonları uzun vadeli olarak karşı karşıya olan zorluk, tek bir model veya belirli bir ifşa dalgası için hazırlanmak değil, mevcut işletme modellerinin, güvenlik açıklarının şimdiye kadar görülmemiş bir hızda keşfedildiği ve silahlandırıldığı bir dünyaya adapte olabilme yeteneğidir. Bunu yanlış yaparsanız, organizasyonlar büyük bir sorunla karşı karşıya kalacaktır.