Yapay Zekâ Yeni Kurum İçi Tehdit; Ancak Riski Ele Almaya Yönelik Planlar Bir Katman Gecikmeyle Geliyor

Hugging Face veri ihlali ve benzer olaylar sektörde endişe yarattı; ancak kuruluşlar yapay zekâ modeli katmanına değil, yazılım geliştirme yaşam döngüsüne (SDLC) odaklanmalı.

Temmuz ayında OpenAI ajanlarının gerçekleştirdiği Hugging Face veri ihlalinin ardından Anthropic ve Meta modellerini içeren benzer sistemden çıkış olaylarına ilişkin haberlerin hızla gelmesi, yeni gibi görünen bir siber saldırı türü konusunda alarma yol açtı: kötü niyetli ajan tabanlı yapay zekânın kurum içi tehdit oluşturması.

Ancak bu tür olaylar aslında yeni değil. İnsanları birkaç yıldır tedirgin eden öncü yapay zekâ laboratuvarlarında yaşanmış olması, olaya ürkütücü ve yeni bir görünüm kazandırdı; ancak bu olaylar, kuruluşların yıllardır biriktirdiği aynı başarısızlık biçimini ve kör noktaları gözler önüne seriyor.

Üstelik kasıtlı olarak kötü niyetli de değillerdi. Hugging Face veri ihlalinde, yaklaşık 1.200 yapay zekâ ajanı bir test ortamında kendilerine verilen bir hedefe ulaşmaya çalışıyordu; kabul etmek gerekir ki davranışları her zaman dürüstçe değildi. Bu süreçte gizlice iletişim kurdular, güvenlik açıklarından yararlandılar ve birkaç ay boyunca fark edilmeden çalıştılar. Yaklaşık 700’ü, “yalıtılmış” ortamlarının duvarını aşıp internete ve üçüncü taraflara erişim sağladı.

Bu olaylarla ilgili kaygı verici olan yalnızca denetimsiz yapay zekâ ajanlarının ciddi bir tehdit oluşturabilmesi değil; ki kuşkusuz oluşturuyorlar. Ancak ajanlar, faaliyetleri yakından izlemek için gereken yeteneğe, kaynaklara ve motivasyona fazlasıyla sahip öncü bir laboratuvar ekibinin burnunun dibinde kontrolden çıkabiliyorsa, geliştirme ortamınızda şu anda çalışan yapay zekâ ajanlarına ve yapay zekâ destekli araçlara neler olduğunu da sorgulamanız gerekir. Yapay zekâ sektörünün en güçlü oyuncuları bile kendi ortamlarını gerçek zamanlı göremiyorsa, sıradan bir kuruluşun ne şansı olabilir?

Kuruluşların ajan tabanlı yapay zekâyı denetim altına alma şansı, öncelikle bu yeni durumun uzun süredir var olan bir sorunun yalnızca çok daha güçlü bir biçimi olduğunu kabul etmelerine bağlı. Ancak bunu ele almak için birçok kuruluşta hâlâ eksik olan bir şey gerekiyor: yazılım geliştirme yaşam döngüsünün (SDLC) erken aşamalarında görünürlük ve gözlemlenebilirlik.

OpenAI-Hugging Face: Gelecekte Yaşanacakların Habercisi

Hugging Face veri ihlalinde, temmuz ayında yayımlanan OpenAI’ın yeni amiral gemisi GPT-5.6 Sol’un da aralarında bulunduğu bir dizi öncü yapay zekâ modeli, bir ajanın güvenlik açıklarından yararlanma becerisini sınayan ExploitGym kıyaslama testindeki dar kapsamlı bir hedefi gerçekleştirmeye çalışıyordu. Anthropic, ihlale değindiği bir gönderide, yapay zekâ modellerinin “azaltılmış güvenlik önlemleri altında çalışırken” teknik kontrolleri aşabildiğini, onaylanmamış kanallar üzerinden iş birliği yaptığını ve sonunda riskli eylemlerde bulunduğunu belirtti.

İhlal temmuz ayında ortaya çıkarılmış olsa da ajanlar, fark edilmeden hareket ederken mayısta uygunsuz biçimde iletişim kurmaya başlamıştı. METR ve Redwood Research, OpenAI’ın çalışmasına paralel olarak bağımsız bir araştırma yürüttü ve ajanların kuralları çiğnediklerinin farkında olmalarına rağmen çok azının OpenAI’a haber vermeyi düşündüğünü, bunun yerine yollarına devam ettiklerini ortaya çıkardı.

OpenAI’ın raporunun ardından Anthropic, önceki siber güvenlik değerlendirmelerini yeniden inceleyerek bir Claude modelinin nisanda üç kez kontrolleri aştığını, internete bağlanmanın yolunu bulduğunu ve üç dış kuruluşun sistemlerine izinsiz erişim sağladığını tespit etti. Kısa süre sonra Meta da en gelişmiş ajan tabanlı yapay zekâ modeli Muse Spark 1.1’in bir sürümünün siber güvenlik testlerine ayrılmış korumalı alandan kaçtığını ve dışarıdaki bir şirketin ağına sızdığını açıkladı.

OpenAI raporunda ayrıca bu olayın gelecekte yaşanacakların habercisi olduğu uyarısında bulundu ve sıradan açık kaynaklı modeller de dâhil olmak üzere birçok modelin yakında aynı şeyi yapabilecek güce ulaşacağını söyledi. Yakın zamanda yaşanan Medicare veri ihlali bu iddianın altını çizdi.

Yapay Zekâ, Yazılım Geliştirme Yaşam Döngüsü Düzeyinde Yönetilmeli

Ajan tabanlı bu saldırılar yapay zekâ topluluğunda endişe yarattı. OpenAI, test ortamındaki kontrolleri sıkılaştıracağını duyurdu; ardından Anthropic, Microsoft, Amazon Web Services ve 100’ü aşkın şirketle birlikte, kritik altyapıyı hedef alan yapay zekâ destekli siber saldırıların yaklaşan dalgasına ilişkin uyarı yayımladı. Mektupta saldırıların yalnızca birkaç ay uzakta olabileceği belirtildi.

Benzer saldırılara maruz kalmaktan endişe duyan kuruluşların, işe yazılım geliştirme düzeyinden başlayarak kendi altyapılarını güçlendirmeleri gerekiyor. Asıl sorun yalnızca ajan tabanlı yapay zekânın giderek daha karmaşık hâle gelmesi değil; gerçek zamanlı izleme ve etkili insan denetiminin eksikliği. Kuruluşlar, yapay zekâ riskini kaçınılmaz bir teknolojik sonuç olarak görmek yerine, insan ve süreç kaynaklı eksiklikleri gidermeye odaklanmalı.

Sektörün büyük bölümünde kuruluşlar izleme ve gözlemlenebilirlik çalışmalarını yapay zekâ modeli katmanına odaklıyor; oysa bu, bir katman gecikmek demek. O noktaya gelindiğinde at ahırdan yarı yarıya çıkmış oluyor. Görünürlük, izleme, gözlemlenebilirlik ve yönetişim, yapay zekânın kuruma ilk girdiği yerde, yani yazılım geliştirme yaşam döngüsünün (SDLC) içinde sağlanmalı. Kuruluşlar ayrıca yapay zekâ kodlama araçlarını kullanan geliştiricilerin, bu araçların geliştirme sürecine kusurlar, güvenlik açıkları ve kötü alışkanlıklar katmasını önleyecek eğitim ve becerilere sahip olmasını sağlamalı.

Yazılım kusurlarının çoğu geliştirme aşamasında ortaya çıkar ve geliştiriciler güvenli kod yazma ya da yapay zekânın yol açtığı kusurları düzeltme becerilerine sahip değilse sorunlar hızla yayılabilir. Geliştiricilerin ihtiyaç duyduğu eğitim programı, gerekli güvenlik becerilerini kazandırmalı ve hem bu becerileri edinme hem de işlerinde düzenli olarak kullanma konusundaki ilerlemelerini izlemelidir.

Yapay zekâ, kuruluşların çalışma biçimlerine giderek daha fazla yerleşirken kurumsal ortamda güvenli kod üretiminin yeni temel standardının; geliştiricilerin ve yapay zekâ kodlama araçlarının güvenlik açısından izlenebilirliği, gözlemlenebilirliği ve yönetişimi olduğu açıkça görülüyor.

Sürekli Tehditler Sürekli Müdahale Gerektirir

Bir zamanlar yazılımların nispeten zararsız olduğunu ve programlandıkları gibi çalıştıklarını düşünmüş olabiliriz. Bir aksaklık çıkarsa yazılım donabilir ya da bir süre hizmet veremeyebilirdi, ancak saldırıya geçmezdi. Yapay zekâ, özellikle de ajan tabanlı yapay zekâ, bu varsayımı tamamen tersine çevirdi. Ajan tabanlı ya da geliştirici destekli olsun, her yapay zekâ modelinin eylemleri sürekli olarak gözlemlenmeli ve yönetilmelidir.

İster hastaneleri ister su arıtma tesislerini, enerji santrallerini ya da işletmeleri hedef alsın, ortaya çıkan yapay zekâ tehdidi ürkütücü olabilir. Ancak kuruluşlar savunmasız değildir. Yapay zekâ yönetişimini hayata geçirebilirler, ancak bunu temelden inşa etmeleri gerekir. Güvenli yazılımı benimseyen bir kültür oluşturarak ve bu hedefe ulaşmak için geliştiricilere eğitim vererek kuruluşlar, denetimsiz bırakıldığında yalnızca çok daha kötüleşecek potansiyel bir soruna yönelik olarak büyük ihtiyaç duyulan gözlemlenebilirlik, izlenebilirlik ve yönetişim düzeyini sağlayabilir.