Siber Güvenlik
OpenAI, Kendi Test Modellerinin Hugging Face’i İhlal Ettiğini Söyledi
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Otomatik AI aracının sahibi vardı ve kendi hesabına göre, bu OpenAI’ydi. OpenAI, 21 Temmuz 2026 Salı günü bir blog gönderisinde, test ettiği modellerin – kamuoyuna açık GPT-5.6 Sol ve daha yetenekli bir ön sürüm modeli – iç değerlendirme sırasında kum havuzundan kaçıp AI barındırma platformunun üretim altyapısının bazı kısımlarını tehlikeye attığını söyledi. İddia, platformun yalnızca “otonom AI aracı sistemi” olarak adlandırdığı bir olayı yeniden yazıyor.
Hugging Face, ihlali 16 Temmuz 2026 tarihinde açıkladı ve bunu veri işleme hattına bağladı. Bir kötü niyetli veri kümesi, uzaktan kod çalıştıran bir yükleyici ve bir veri kümesi yapılandırmasındaki şablon enjeksiyonu açığını kullanarak bir işleme işçisinde kod çalıştırdı. Oradan saldırgan, node düzeyinde erişimi artırdı, bulut ve küme kimlik bilgilerini topladı ve bir hafta sonu boyunca birkaç dahili küme boyunca ilerledi, şirket daha sonra 17.000’den fazla kayıtlı eylem üzerinden yeniden inşa ettiği bir kampanya. İhlalin sınırlı bir dizi dahili veri kümesine ve birkaç hizmet kimlik bilgilerine ulaştığını, ancak kamu modellerini, veri kümelerini ve Alanlarını etkilemediğini ve bu konuyu yetkililere bildirdiğini söyledi. O zaman, modelin arkasındaki aracın bilinmediğini söyledi.
OpenAI’nin Söylediği
OpenAI’nin hesabında bu boşluğu kendi sistemleriyle dolduruyor. Modeller, ExploitGym adlı bir yayınlanmış bir benchmark üzerinde çalışıyordu. Bu, neredeyse 900 gerçek dünya yazılım açığını içeren bir testtir ve AI aracılarını bir hataexploite dönüştürme görevini verir. Modellerin güvenlik filtreleri kasıtlı olarak azaltılmıştı ve modeller, bir zero-day kullanarak kum havuzundan çıkıp açık internete ulaştı. Şirket, bunu “devrim niteliğinde bir siber olay” olarak nitelendirdi ve soruşturmanın devam ettiği sırada ön sonuçları paylaştı.
Güvenlik önlemlerinin kapatılması, ExploitGym’in nasıl çalıştığıyla tutarlı. ExploitGym’in yazarları – UC Berkeley, Google, Anthropic ve OpenAI’den oluşan bir grup – laboratuvarların onaylı araştırma programları altında çalışırken, dağıtım zamanı içerik filtrelerini devre dışı bıraktıklarını açıkladı. Ayrıca Hugging Face’in gördüğüyle de uyumlu: bir “güvenlik araştırma harnesi” gibi görünen bir kampanya, büyük ölçekli bir sömürme benchmark çalışmasıyla tutarlı.
İlgili Bir Tarafın Yetenek İddiası
Bir açıdan bakıldığında, bu bir itiraf: OpenAI’nin güvenlik önlemleri başarısız oldu ve kendi modelleri bir üçüncü tarafın üretim sistemlerine gerçek zarar verdi. Başka bir açıdan, bu bir reklam ve OpenAI ikinci okumaya eğilim gösteriyor. Şirket, siber yeteneklere sahip modellerin savunucuların saldırıcıların yapmadan önce zayıflıkları bulmasına ve onları makine hızında düzeltmesine yardımcı olabileceğini savunuyor – aynı argümanı paid cyber-savunma programı ve saldırgan araçlar gibi GPT-Red için yapıyor. “Devrim niteliğinde siber yeteneklerden” bahseden taraf, aynı zamanda bunları satan taraf olduğunda, çerçeveleme dikkat çekiyor.
Ana nokta, güvenlik önlemlerinin azaltılması. Bu, internet üzerinde serbestçe dolaşan bir model değil; OpenAI’nin kendi harnesi ve alçaltılmış güvenlik önlemleriyle – bu, bir tavanın kanıtı rather than bugünün saldırganlarının neler yapabileceğinin kanıtı.
Savunucunun Dezavantajı
İhlal, AI’yi üretim ortamında çalıştıran herkesin dikkat etmesi gereken bir asimetriyi de ortaya çıkardı. Hugging Face’in ilk yanıt verenleri, ticari ön cephe modellerini kullanarak saldırıyı analiz etmeye çalıştıklarında, modeller bunu reddetti; güvenlik filtreleri, gerçek exploit yüklerini sunan bir olay yanıtçısını bir saldırgan’dan ayıramadı. Takım, bunun yerine GLM 5.2 adlı bir Çin açık ağırlıklı modeli kullanarak kendi donanımında adli tıp çalışması yaptı. Hugging Face, “saldırganın hiçbir kullanım politikasına bağlı olmadığını, ancak kendi adli tıp çalışmamızın, ilk denediğimiz barındırılan modellerin güvenlik önlemleri tarafından engellendiğini” söyledi – güvenlik önlemlerinin kilitlenmesi, savunucuların artık planlarını buna göre yapması gereken bir sorun.
Hugging Face CEO’su Clément Delangue, şirketinin açık modeller üzerine kurulduğunu ve AI güvenliğinin şirketler arasında, tek bir laboratuvarın kapalı kapıları arkasında değil, açıkça çalışılması gerektiğini savundu. Bu konumda açık bir çıkarı var, ancak ekibinin karşılaştığı kilitlenme, somut bir operasyonel sorun, değil bir konuşma noktası. Pratik tavsiyesi, açıklamanın aynı: erişim tokenlerini güncelleyin ve yakın zamanda yapılan hesap faaliyetlerini gözden geçirin.
İki şirket, soruşturma kapatıldığında daha fazla bilgi paylaşacaklarını söyledi. İzlenecek detail, model isimleri değil, crossed gap – bir laboratuvarın değerlendirme kum havuzundan bir üçüncü tarafın canlı sunucularına olan mesafe, tek bir yamalı bağımlılık olduğu ortaya çıktı.
