Yapay zekâ sektörü güvenimizi istiyor, ancak önce daha iyi denetim mekanizmalarına ihtiyacı var

Güvenlikte, bir şeyler ters gittikten sonra denetim mekanizmalarımızın işe yarayıp yaramadığını görmeyi bekleyemeyiz. Onları test ederiz. Sınarız. Gözden kaçırdığımız zayıf noktayı er ya da geç birinin bulacağını varsayarız.

Güvenliğin en temel dersi budur.

Öyleyse öncü yapay zekâ için neden farklı bir standart uygulansın?

Yapay zekâ sistemleri daha özerk hâle gelip gerçek dünyadaki sistemlere daha fazla erişim kazandıkça, siber güvenliğin savunma tarafında zaman geçirmiş herkesi kaygılandırması gereken bir durumla karşılaşıyoruz: Yetenekler, denetimden daha hızlı ilerliyor.

Hız, daha zayıf güvenlik için mazeret değildir. Tam tersine, daha güçlü güvenliğe ihtiyaç duymamızın nedenidir.

Kâr amacı gütmeyen Guidelight AI kuruluşunun yakın tarihli bir değerlendirmesi, Anthropic, Google, Meta, OpenAI ve xAI’ın yapay zekâ denetimi uygulamalarına ilişkin kamuya açık kanıtları inceledi. Genel puanı C+’ın üzerinde olan hiçbir şirket yoktu.

Bu, bu şirketlerin sorumsuz davrandığı anlamına gelmiyor. Kapalı kapılar ardında ek denetim mekanizmalarının devrede olmadığı anlamına da gelmiyor.

Ancak güvenlik varsayımlara dayanmaz. Giderek güçlenen sistemlere güvenmemiz bekleniyorsa, bu sistemleri çevreleyen denetim mekanizmalarının başka her yerde talep edeceğimiz kadar titiz bir incelemeye dayanabileceğini gösteren kanıtlar beklemeliyiz.

Başarısızlıkları ilginç hikâyeler gibi ele almayı bırakın

Bir yapay zekâ ajanı beklenmedik davrandığında, amaçlanmayan erişim elde ettiğinde veya bir zayıflığı açığa çıkardığında, haberler genellikle teknolojinin ne yaptığına odaklanıyor.

Bu ilgi çekici.

Ama sorulması gereken en önemli soru bu değil.

Bir güvenlik uzmanı şunları bilmek ister: Faaliyet kaydedildi mi? O sırada bunu gören oldu mu? Tehlikeli eylemler denetime tabi tutuldu mu? Birisi sistemi durdurabilir miydi? Bir sınırlama planı var mıydı ve bu planı test eden olmuş muydu?

Bu sorular yapay zekâya özgü değil. Siber güvenlikte yıllardır sorduğumuz sorular bunlar.

Buna rağmen önleme ve sınırlama, gelişmekte olan öncü yapay zekâ denetimi ortamının zayıf noktaları olmaya devam ediyor gibi görünüyor. Denetime tabi eylemler, devre kesiciler ve acil durumlarda sınırlamaya ilişkin kamuya açık kanıtlar hâlâ kısıtlı.

Bu, olayın ne kadar yeni olduğundan daha önemli olmalı. Bir şeyler başarısız olduğunda, neyin başarısız olduğunu, durumun daha da kötüleşmesini neyin önlediğini ve sonrasında nelerin değiştiğini bilmek isterim.

Şeffaflık faydalıdır. Öğrenmek daha da iyidir.

Yapay zekâ güvenliğindeki asıl sorun hız

Yakın vadede en büyük tehdidin, yapay zekânın birdenbire yepyeni bir siber saldırı türü icat etmesi olduğunu düşünmüyorum. Daha büyük sorun çok daha pratik: Yapay zekâ, zaten bildiğimiz saldırıların çok daha hızlı gerçekleşmesini sağlayabilir.

Bir zamanlar saatler süren araştırmalar dakikalar içinde yapılabilir. Saldırı teknikleri daha hızlı biçimde birleştirilebilir. İnsan odaklı bir güvenlik süreci ilk üst düzey bildirim görüşmesini bile tamamlamadan güvenlik açıkları tespit edilip bunlardan yararlanılabilir.

Bu bir sorun, çünkü günümüz güvenlik altyapısının büyük bölümü hâlâ müdahale etmek için zaman olacağını varsayıyor.

Bazen zaman olmayacak.

Bir saldırı hızla gelişirse, talepler, toplantılar, onaylar ve elle yapılan üst düzey bildirimler etrafında tasarlanmış bir müdahale süreci, kimse üçüncü adıma ulaşamadan geçerliliğini yitirebilir.

Yapay zekâ sektörünün üzerinde çalışması gereken konu da bu.

Öncü yapay zekâ laboratuvarları, işletmelerin yapay zekâ çağında görünürlük, güvenlik açığı yönetimi, mimari ve olay müdahalesi yaklaşımlarını yeniden düşünmesini bekliyorsa, kendilerinin de aynı şeyi yaptığını göstermeliler.

“Bize güvenin” bir denetim çerçevesi değildir

Kariyerim boyunca güvenlik testleri alanında çalıştım ve bir ilkenin geçerliliğini şaşırtıcı ölçüde koruduğunu gördüm: İyi niyet, güvenliği kanıtlamaz. Kanıtlar kanıtlar.

• Test edersiniz.
• İzlersiniz.
• İşleri bozmayı denersiniz.

Denetim mekanizmaları mimari şemada gösterildiği gibi çalışmadığında ne olduğunu öğrenirsiniz. Gerektiğinde sistemi durdurma yetkisinin birilerinde olduğundan emin olursunuz. Öncü yapay zekâ da aynı standarda tabi tutulmalıdır.

Bu, denetim mekanizmalarını saldırgan testlere tabi tutmak, işe yaradıklarını ölçülebilir kanıtlarla göstermek ve bir şeyler ters gittiğinde sistemleri kapatmaya yönelik açık bir yetki tanımlamak demektir.

Ayrıca sınırlama yaklaşımını yeniden düşünmek de gerekir.

Öncü yapay zekâ laboratuvarları, bir yapay zekâ ajanı amaçlanan sınırların dışına çıktıktan sonra sınırlama önlemlerini doğaçlama geliştiremez. Giderek daha yetenekli modeller eğitip test ederken, bu sistemlerin gerçekleştirebileceği eylemlerin sorumluluğunu üstlenmeliler. Bunun için titiz saldırgan testler, önceden yetkilendirilmiş koruma önlemleri, ajanların yetkilerine ilişkin açık sınırlar ve bir arıza yayılmadan önce müdahale etmenin ya da sistemi kapatmanın işe yaradığı kanıtlanmış yöntemler gerekir.

İnsan yargısı hâlâ önemlidir. Ancak bu sistemleri geliştiren laboratuvarlar sınırları belirlemeli, bu sınırların korunup korunmadığını test etmeli ve korunmadıklarında hesap vermelidir.

Sorumlulukları yalnızca bir ajanın neler yapabileceğini göstermekten ibaret değil. Ajanın güvenli biçimde çalışabildiğini, davranışlarının kontrol edilebildiğini ve yeni yeteneklerin dünyayı daha az değil, daha güvenli hâle getirdiğini göstermeleri gerekiyor.

Güven Hak Edilmelidir

Yapay zekâ inovasyonunu neredeyse durma noktasına getirmemiz gerektiğini savunmuyorum. Savunduğum şey, güvenliğin bu gelişime ayak uydurması gerektiği. Yapay zekâyı daha yetenekli hâle getirmek için muazzam kaynaklar yatırıyorsak, onu savunulabilir kılma konusunda da aynı ölçüde acil davranmalıyız.

Ancak öncü laboratuvarlar siber yeteneklere sahip yeni yapay zekâ modellerinin eğitimini ve testlerini hızlandırırken, savunma ekiplerini de göz önünde bulundurmalılar. Öncelikle tehditleri daha hızlı tespit etmelerine ve bunlara yanıt vermelerine yardımcı olarak. Daha da önemlisi, bu sistemlerin kendilerinin bir tehdide dönüşmesini önleyerek. Bu sorumluluk, dış denetime açık olmayı da gerektiriyor.

Bağımsız inceleme, şirketlerin yalnızca anlatmak istedikleri hikâyeyi desteklediğinde benimsedikleri bir uygulamaya dönüşmemeli. Öncü yapay zekâ sistemleri tehdit ortamını değiştirecek kadar güçlüyse, bunlara yönelik kontroller de anlamlı bağımsız testlere dayanacak kadar sağlam olmalı.

Yapay zekâ sektörü güvenimizi istiyor.

Bir güvenlik uzmanı olarak bu güveni vermeye hazırım. Ama önce, kontrolleri gösterin.