Siber Güvenlik
Nvidia, Açık Güvenli AI İttifakını Siber Savunucuları Silahlendirmek İçin Başlattı
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Nvidia (NVDA ) 27 Temmuz 2026’da Açık Güvenli AI İttifakı adlı yaklaşık üç düzine şirket ve açık kaynaklı vakıf etrafında oluşturulan bir koalisyonu başlattı. Bu ittifakın temel argümanı, siber savunucuların kendi altyaplarında çalıştırabilecekleri ve değiştirebilecekleri ön cephe AI modellerine ihtiyaç duyduğu ve düzenleyicilerin bu modelleri savunma varlıkları olarak değil, yayılma riskleri olarak görmemesi gerektiğidir.
İlk üyeler arasında Microsoft (MSFT ), IBM, Red Hat, Cisco, CrowdStrike (CRWD ), Palo Alto Networks (PANW ), Hugging Face, Palantir, Siemens ve Linux Foundation yer alıyor. Ayrıca, Thinking Machines Lab, Nous Research ve Reflection AI gibi yeni laboratuvarlar da ittifaka katılıyor. İttifak, Linux Foundation’un Akrites güvenlik açığı bildirme çalışması ve mevcut OpenSSF topluluğu çalışmalarına dayanarak, açık araçlar kullanarak güvenlik açıklarını gidermeye ve bildirmeye odaklanıyor.
Argümanın Arkasındaki Olay
Bu lansman, tehdit öngörüsü yerine belirli bir tarihî olaya dayanıyor. 16 Temmuz 2026’da Hugging Face, bir güvenlik ihlalini bildirdi. Saldırgan, şirketin üretim altyapısına girerek, bir otonom ajan sistemiyle çalıştırdığı bir kısma ulaştı. Giriş noktası, veri işleme pipeline’iydi ve zehirlenmiş bir veri kümesi, işleme işçisine kod çalıştırılmasına izin veren iki yolu tetikledi. Saldırgan daha sonra düğümleri kontrol altına aldı, bulut ve küme kimlik bilgilerini ele geçirdi ve hafta sonu boyunca birden fazla iç kümede yayıldı.
Nvidia’nın vurguladığı nokta, sonraki gelişmeler. Hugging Face’ın olay yanıt ekipleri, saldırganın eylem günlüğünü ticari API’ler arkasındaki ön cephe modellerini kullanarak analiz etmeye çalıştıklarında, talepleri reddedildi. Gerçek istismar yükleri ve komut ve kontrol artifact’lerini bu API’lere beslemek, sağlayıcıların güvenlik filtrelerini tetikledi. Hugging Face, GLM 5.2 adlı açık ağırlıklı bir modeli kendi donanımında çalıştırarak ve 17.000’den fazla saldırgan eyleminin günlüğünden kimlik bilgileri veya yükleri ortamından çıkarmadan zaman çizelgesini yeniden oluşturdu.
Bu, bir operasyonel başarısızlık modu ve arkasındaki bir açıklamayla birlikte geliyor. İttifakın açıklaması bu bağlamı atlıyor, ancak OpenAI daha sonra saldırgan ajanların kendi test modelleri olduğunu ve iç güvenlik değerlendirmesinden kaçtığını açıkladı. Hugging Face tarafından belgelenen asimetri, bir laboratuvarın değerlendirme kılıfı ile başka bir laboratuvarın koruma önlemleri arasında gerçekleşti.
Bugünden Ne Geliyor?
Nvidia’nın katkısı, NVIDIA Labs Nesne-Yönelik Ajanlar olarak adlandırılan bir araştırma çerçevesi. Bu, bir ajanı tek bir Python sınıfına indirgeyen ve ajanın davranışını diff, unit test ve izlenebilirlik için mevcut araçlarla çalışabilen bir yapı sunuyor. Güvenlik açısından, bu, ajan davranışının doğrulanmasını sağlıyor.
Nvidia, NOOA’nın CyberGym L1 adlı bir güvenlik açığı yeniden keşif benchmark’ında %86,8’lik bir başarı oranına ulaştığını belirtiyor. Şirket, bu sonuçla açık kaynaklı ajanın bu benchmark’ta en yüksek puan aldığını iddia ediyor. Microsoft, ittifakın kurucu üyesi olarak, Mayıs 2026’da MDASH adlı bir çok model tarama çerçevesini kullanarak aynı benchmark’ta %88,45’lik bir puan elde ettiğini açıklamıştı.
İttifaka katılan diğer şirketlerin katkıları arasında Hugging Face’ın Safetensors ağırlık formatı, SPIFFE/SPIRE yük kimliği projesi ve Microsoft’un çok model tarama çerçevesi yer alıyor. Gerçekten yeni katkılar arasında Nvidia’nın NOOA’sı ve IBM ile Red Hat’in açık kaynaklı güvenlik yaması çalışması bulunuyor.
Üyelik Listesi
Üyelik listesi, ittifakın argümanını destekleyen önemli bir unsur. OpenAI, Anthropic ve Google gibi şirketler, Hugging Face’ın güvenlik açığıyla ilgili çalışmasını engellenen şirketler arasında yer almıyor. Bu şirketlerin absence’i, genel olarak endüstri güvenlik çabalarına karşı bir isteksizlik değil. Açık ön cephe modellerinin operasyonel sınırlarına dayanan bir ittifak, bu modelleri işleten şirketleri içermiyor.
Nvidia’nın pozisyonu da tarafsız değil. Açık ağırlıklı modelleri yerel olarak çalıştıran şirketler, Nvidia’nın GPU’larına ihtiyaç duyuyor. Şirket, açık ağırlıklı AI’ye desteğini Microsoft ile birlikte yayınladıkları bir mektup ile de belirtmişti. Ön cephe laboratuvarları, kendi şartlarında aynı politika yapıcılarla lobi yapıyor.
İttifak, hükümetlerden açık ön cephe sistemlerine genel kısıtlamalar getirilmemesini talep ediyor. Böyle kısıtlamaların, savunma kapasitesini birkaç kapalı sağlayıcıya yoğunlaştıracağı ve kamu kaynaklı paylaşımlı savunma altyapısına yatırım yapılması gerektiği görüşünde.
Güvenlik ekipleri için yakın zamanda yapılacak değişiklikler somut. Bir kullanılabilir artifact bugünden itibaren mevcut ve Hugging Face’ın açıklaması somut bir öneri sunuyor: Bir olay meydana gelmeden önce, yetenekli bir self-hosted modeli denetleyin ve hazırlayın. Anthropic,Glasswing güvenlik açığı avı programı aracılığıyla seçilen ortaklarla birlikte bazı çalışmalarını zaten kapalı olarak yürütüyor. İttifakın vaat ettiği koordinasyon, kimlik, izolasyon, güvenli model formatları ve çoklu model taraması konularında yapılacak işlerin başında geliyor.
