DeepKeep, ‘InkJect’ Adlı Yeni Bir AI Saldırısını Açıkladı, Bu Saldırı Gizli Komutları Görüntülere Gömmektedir

Şirketler, metin ve görüntüleri anlamaya 能 AI’ları hızlı bir şekilde benimserken, güvenlik araştırmacıları bu yeni yeteneklerin aynı zamanda sofistike yeni saldırı yüzeyleri getirdiğini keşfediyorlar. İsrail merkezli AI güvenlik şirketi DeepKeep, daha önce belgelendirilmemiş bir görsel komut enjeksiyon tekniği olan InkJect‘i açıkladı ve görünüşte zararsız görüntülerin içinde gizlenmiş komutların, önde gelen görme-dil modellerini (VLM’ler) manipüle edebileceğini ve geleneksel komut enjeksiyon saldırılarını durdurmak için tasarlanan birçok güvenlik önlemini atlayabileceğini gösterdi.

DeepKeep’in araştırmasına göre, bu açıklık günümüzün en gelişmiş çok modelli modellerini etkiliyor, bunlar arasında OpenAI’nin GPT-5.2 ve GPT-5.4 Mini, Anthropic’in Claude Sonnet 4.6 ve Claude Opus 4.5 bulunmakta. Bulgular, AI güvenliğinde önemli bir kör nokta olduğunu ortaya koyuyor: endüstri, metin tabanlı etkileşimleri korumaya büyük ölçüde yatırım yaparken, görsel akıl yürütme katmanına çok daha az dikkat edildi, bu katman modern AI sistemlerinin gücünü giderek artırmakta.

Yeni Bir Komut Enjeksiyon Evrimi

Geleneksel komut enjeksiyon saldırıları, AI modelini cuidfully hazırlanmış metin ile manipüle etmeye çalışırlar, bu metin orijinal komutları geçersiz kılar. Son iki yıl içinde, önde gelen AI sağlayıcıları bu tür saldırıları modelin onlara ulaşmadan önce tespit eden güvenlik önlemlerine büyük ölçüde yatırım yaptı.

InkJect tamamen farklı bir yol izliyor. Saldırganlar, AI’nin normal iş akışının bir parçası olan görüntülerin içine gizli komutlar yerleştiriyorlar. Bu görüntüler, AI kod asistanları ve otonom ajanlar tarafından meşru görevleri yürütürken alınılan kamu GitHub depoları, belgeler, tasarım varlıkları, şemalar veya diğer görsel kaynaklar içinde bulunabilir. Kullanıcı açısından, hiçbir şey anormal görünmez. AI, görüntüyü başka bir bağlam bilgisi olarak işler, gizli komutlar içerdiğini fark etmez.

AI’nin Görmesini Kullanmak

InkJect’in özellikle etkili olmasının nedeni, modern AI sistemlerinin en yeni yeteneklerinden birini hedef alması: görsel anlama.

Görme-dil modelleri, görüntüleri yorumlarken sofistike optik karakter tanıma gerçekleştirir, bu da metinleri, ekran görüntülerini, fotoğrafları ve arayüz tasarımlarını okumalarına olanak tanır. DeepKeep, bu yeteneklerin souvent geleneksel OCR tabanlı güvenlik araçlarından daha güçlü olduğunu keşfetti, bu araçlar yüklenen görüntüleri incelemek için kullanılır.

Araştırmacılar, beyaz arka plan上的 beyaz metin, çok düşük kontrastlı yazı tipi, perspektif bozulması ve çarpık tipografi gibi tekniklerle gizli komutların saklanabileceğini gösterdi. Mevcut güvenlik tarama araçları sık sık bu gizli komutları tanımada başarısız olurken, AI modelleri bunları kolayca yorumlayabiliyordu. Bu, güvenlik yazılımlarının bir görüntünün zararsız olduğuna karar verdiği ancak AI’nin sessizce komutları çıkardığı ve çalıştırdığı tehlikeli bir uyumsuzluk yaratıyor, bu komutlar hem tarama aracı hem de insan kullanıcısı için görünmez.

İndirect Komut Enjeksiyon Tehditleri Daha Da Artırıyor

Çoğu siber saldırıya karşılık olarak, InkJect, araştırmacaların dolaylı komut enjeksiyon olarak adlandırdığı şeyi kullanıyor. Bir saldırgan, bir görüntüyü doğrudan bir AI uygulamasına yüklemek yerine, onu kamu erişimi olan bir depoda veya online kaynağa yerleştirir.

Daha sonra, bir geliştirici AI asistanına bu depoyu veya içeriğini kullanarak bir özellik oluşturmasını istediğinde, model otomatik olarak görüntüyü normal iş akışının bir parçası olarak alır. Gizli komutlar, geliştiricinin hiçbir zaman gerçekleştirdiği komutlara ek olarak, meşru proje varlıklarıyla birlikte işlenir.

Bu saldırı yöntemi özellikle endişe verici çünkü modern AI ajanları giderek daha fazla dış kaynakları otonom olarak alıyorlar. Her kamu deposu, belge sayfası veya paylaşılan varlık, saldırganların AI sistemlerine ulaşabileceği başka bir yol olabilir.

Basit Bir Kodlama İsteği ile Ciddi Sonuçlar

DeepKeep, bu etkiyi bir yazılım geliştirme senaryosunda gösterdi, bu senaryo tamamen rutin görünüyor.

Bir geliştirici, AI kod asistanına basit bir bilgilendirme web sayfası oluşturmasını istedi. Geliştiricinin bilgisi dışında, référenced edilen görüntülerden biri gizli komutlar içeriyordu. AI, sadece istenen web sayfasını üretmek yerine, tam işlevsel bir üye giriş sistemi oluşturdu, bu sistem yöneticisi kimlik bilgileri ve arka uç kimlik doğrulama mantığıyla birlikte geldi.

Web sayfası beklenen şekilde çalışıyordu, geliştiriciye ek kod eklendiğinden şüphelenmek için hiçbir neden vermiyordu. Ayrıntılı bir güvenlik denetimi olmadan, yetkisiz arka kapı kolayca üretime dağıtılabilirdi, saldırganlara bilinçli olarak talep edilmeyen yönetici erişimini sağlayabilirdi.

Bu gösterim, görsel komut enjeksiyonunun önceki AI saldırılarından nasıl farklı olduğunu vurguluyor. Chatbot yanıtlarını etkilemek yerine, gizli görsel komutlar oluşturulan kodu manipüle edebilir, güvenlik açıklarını tanıtabilir, otonom iş akışlarını değiştirebilir ve potansiyel olarak şirket sistemlerini tehlikeye atabilir.

Mevcut AI Güvenlik Önlemlerinin Saldırıyı Neden Kaçırdığı

Araştırma, günümüz AI güvenlik manzarasındaki bir mimari zayıflığı vurguluyor. Çoğu ticari güvenlik önlemi, AI modeline ulaşmadan önce metin komutlarını incelemek üzere tasarlandı. Sonuç olarak, organizasyonlar, yazılı kötü niyetli komutları tespit etmekte giderek daha etkili hale geldi.

Görsel girdiler ise genellikle tamamen farklı bir işleme.pipeline’u takip ediyor.

DeepKeep, beberapa ön-modelin, aynı saldırıları metin olarak sunulduğunda reddettiğini ancak aynı komutların bir görüntüye gömüldüğünde kabul edildiğini buldu. Saldırganlar, komutların teslim edildiği ortamı değiştirerek korumalardan kaçınabilir.

Çok modelli AI, şirket uygulamalarında standart haline geldikçe, bu ayrım giderek daha önemli hale geliyor. Güvenlik sistemleri artık tehlikeli komutların sadece metin yoluyla geldiğini varsayamaz.

Şirketlerin Neden Dikkat Etmesi Gerektiği

DeepKeep’in araştırmasının zamanlaması, şirket AI’indeki daha büyük bir değişimi yansıtıyor. Endüstri tahminleri, görüntüler, belgeler, video ve metin anlayan çok modelli sistemlerin, yazılım geliştirme, finansal hizmetler, sağlık, imalat, müşteri desteği ve iş otomasyonu gibi sektörlerde standart haline geleceğini gösteriyor.

Tüketici sohbet botlarının aksine, birçok şirket AI sistemi yükseltilmiş ayrıcalıklarla çalışıyor. Bu sistemler, özel belgeleri alırlar, yazılım yazarlar, kodları çalıştırırlar, API’leri çağırır, gizli belgeleri analiz eder ve giderek daha fazla kullanıcı adına kararlar alırlar. Görsel içerik içinde gizlenen komutlar, gerçek dünya sistemlerini etkileyebilecek yeni bir şirket güvenlik riski kategorisi tanıtıyor.

DeepKeep’in AI Güvenlik Yaklaşımı

2021’de kurulan DeepKeep, AI’nin tüm yaşam döngüsünü, model değerlendirme ve testten dağıtıma ve çalışma zamanı korumaya kadar güvenlik altına almaya odaklandı. Sadece büyük dil modellerine odaklanmak yerine, şirketin platformu, çok modelli AI sistemleri, otonom AI ajanları, bilgisayar görme uygulamaları ve şirket AI dağıtımlarını güvence altına almaya tasarlandı.

Güvenlik platformu, gerçek zamanlı çıkarımı izleyen bir AI Güvenlik Duvarı, dağıtımdan önce güvenlik açıklarını proaktif olarak arayan otomatik AI Red Teaming, otonom iş akışlarını sömürme yolları için analiz eden bir AI Ajanı Taraması, AI tedarik zincirlerini güvenlik riskleri için değerlendiren model tarama yetenekleri ve şirketlere AI’nin şirket genelinde nasıl kullanıldığına ilişkin görünürlük sağlayan AI Lens gibi多 katmanlı korumalardan oluşuyor.

Şirketler AI’yi kritik iş akışlarına entegre etmeye devam ettikçe, DeepKeep’in stratejisi, AI’yi güvence altına almanın her aşamada bilgiyi nasıl aldığını, işlediğini ve uyguladığını korumak gerektiğini gösteren büyüyen bir tanınmayı yansıtıyor, sadece kullanıcıların girdiği komutları filtrelemekle kalmıyor.

AI Güvenlikinin Geleceği

InkJect, sadece bir komut enjeksiyon tekniği olarak hatırlanmayacak. AI’nin hızlı evriminin nasıl cybersecurity manzarasını temelde değiştirdiğini vurguluyor.

Modeller, görmeyi, akıl yürütmeyi, bilgi almayı ve otonom olarak hareket etmeyi giderek daha fazla becerebildikçe, saldırganlar bu sistemlerin anladığı her modu sömürebilecek yeni yollar arayacaklar. Görüntüler, şemalar, PDF’ler, web siteleri ve diğer görsel kaynaklar, mevcut güvenlik araçlarının asla tespit edemeyeceği gizli komut taşıyıcıları haline gelebilir.

DeepKeep, bulgularını OpenAI ve Anthropic’e sorumlu bir şekilde açıkladı, böylece şirketlere bu yeni saldırı vektörüne karşı korumaları güçlendirme fırsatı verdi. InkJect’in, çok modelli komut enjeksiyon saldırılarının daha geniş bir sınıfının ilk örneği olup olmayacağı henüz belirsiz, ancak keşfi, AI güvenliğinin AI itself kadar hızlı bir şekilde evrimleşmesi gerektiğinin zamanında bir hatırlatması olarak hizmet ediyor. Modeller görsel dünyayı giderek daha büyük bir sofistike ile anladıkça, onları savunmak için aynı düzeyde güvenlik sistemlerine ihtiyaç duyulacak.