Kurumsal Yapay Zekâda Koruyucu Önlemler, En İleri Modellerden Daha Önemli Olabilir

Yapay zekânın sınırlarını zorlayan en yeni gelişmeleri bir kenara bırakın. Müşteriler, işletmelerden hâlihazırda kullanılan yapay zekâya yönelik daha fazla koruyucu önlem almasını istiyor; PCI DSS deneyimi de bu konuda yararlı bir model sunuyor.

Yapay zekâ için düzenleyici açıdan tanınan ayrıcalıklı dönem sona erdi. Son açıklamalar, en ileri yapay zekâ çalışmalarının yavaşlatılması ve denetimlerin zorunlu kılınması yönünde tartışmaları beraberinde getirdi. Üzerinde uzlaşılan az sayıdaki konudan biri, denetimlerin modellerin dışında konumlandırılması ve bağımsız biçimde doğrulanması gerektiği.

Bundan sonra ne olacağı tartışılıyor, ancak düzenleyici kurumlar harekete geçiyor. Avrupa Birliği Yapay Zekâ Yasası, alıcıların sorumluluğu da dâhil olmak üzere güvenlik yükümlülüklerini aşamalı olarak yürürlüğe koyuyor. Amerika Birleşik Devletleri’nde NIST Yapay Zekâ Risk Yönetimi Çerçevesi, makul özen standardı olarak benimseniyor. Dünya genelinde OWASP’ın LLM Uygulamaları için İlk 10 Listesi güvenlik incelemelerinde yaygın bir başvuru kaynağı hâline geldi; ISO/IEC 42001 sertifikası da satın alma belgelerinde yer almaya başladı.

Bu, sorumluluğun yalnızca model geliştiricilerine ait olmadığı anlamına geliyor. Güvenlik yükümlülükleri ve riskleri, özellikle yüksek riskli kullanım senaryolarında, piyasaya sürülmüş modelleri kullanan işletmeleri de ilgilendiriyor. Bir müşterinin güvenlik anketine ya da teklif talebine (RFP) verilen yanıtlardaki yanlış bilgiler, işletmeler arası (B2B) bir anlaşmanın sekteye uğramasına neden olabilir.

PCI DSS Yol Gösteriyor

Neyse ki bu senaryoyu daha önce de gördük. Yirmi yıl önce web uygulamalarının güvenliği çoğunlukla belirli aralıklarla yapılan kod denetimlerine, statik taramalara ve geliştiricilerin disiplinine dayanıyordu. Ardından 2006’da yayımlanan ve 2008’den itibaren uygulanan PCI DSS 6.6. Gerekliliği, kart sahibi verilerini işleyen kuruluşların ya tüm uygulama kodlarını güvenlik açıkları açısından incelemesini ya da otomatik teknik denetimler kurmasını zorunlu kıldı. Daha sonra kod incelemesi seçeneği kaldırıldı ve teknik denetimler zorunlu hâle geldi.

Ancak PCI DSS başlangıçta bir yasa değildi. Piyasayı yeniden şekillendiren sözleşmeye dayalı bir standart olarak ortaya çıktı; sözleşmeler devlet mevzuatından daha hızlı işlediği için bu değişim muhtemelen yasama yoluyla gerçekleşebilecek olandan daha hızlı oldu.

Benzer şekilde kuruluşlar, kullanıma alınmış yapay zekâ sistemlerine yönelik koruyucu önlemler konusunda artık düzenleyicilerden değil, müşterilerinden ve iş ortaklarından baskı görüyor. Bu baskı; güvenlik anketleri, teklif talebi (RFP) maddeleri ve sigorta poliçesi gereklilikleri yoluyla kendini gösteriyor.

Operasyonel Sorunu Çözün, Uyumluluk da Ardından Gelir

Bu baskıya yanıt vermek zor olabilir; çünkü yapay zekâ yönetişimi yalnızca politikalarla ilgili değildir. Sürekli üretilen teknik kanıtlar da gerekir.

Görüştüğüm birçok işletme, üretim ortamında yarım düzine veya daha fazla model çalıştırıyor; çoğu zaman bu modelleri birbirine bağlıyor ya da düzenliyor ve bir modelin çıktısını diğerinin girdisi olarak kullanıyor. Böyle bir ortamda tek bir politikanın bile sistem genelinde uygulandığını (örneğin model çıktısında kişisel olarak tanımlanabilir bilgilerin [PII] bulunmasının önlendiğini) kanıtlamaya çalıştığınızı düşünün. Ayrı ayrı yapılandırılmış birden fazla modeli elle denetlemek, geliştiricilerin zamanını tüketir. Üstelik çoğu kuruluş, çalışanların hassas verileri tüketici yapay zekâ araçlarına yapıştırması veya hizmet olarak yazılım (SaaS) sağlayıcılarının yeni yapay zekâ özelliklerini sessizce etkinleştirmesi gibi onaylanmamış ve yüksek riskli yapay zekâ kullanımlarıyla baş etmekte zorlanıyor. Buna rağmen sorumluluk bütünüyle işletmeye ait.

Bu zorlu senaryolarda gereklilikler tek bir basit göreve indirgenebilir: Model girdilerini ve çıktılarını sürekli olarak kısıtlayabildiğinizi ve doğrulama amacıyla bu etkinliği kaydettiğinizi göstermek. Uygulamalar modelleri çağırdıkça, ajanlar araçları devreye soktukça ve modeller eyleme geçip iş akışlarını tetikledikçe denetlenmesi gereken şey eylemin kendisidir: araç çağrısı, API isteği veya iş akışı tetikleyicisi.

Güvenliği Çıkarım Yoluna Taşıyın

Bu eylem, uygulama güvenliği uzmanlarının uygulama trafiği için 20 yıldır oluşturmaya çalıştığı denetim noktasıdır. Özellikle çıkarım paylaşılan bir altyapı üzerinden yönlendirildiğinde, bu çıkarım yolu modeller genelinde, hatta onaylanmamış yapay zekâ kullanımlarında bile ideal bir denetim noktasına dönüşür. Yapay zekâ çıkarım trafiği, diğer tüm önemli uygulama etkileşimleri gibi, nereden geldiğine ve ne yapmaya çalıştığına bağlı olarak iletilmeli, incelenmeli, kimliği doğrulanmalı ve yönetilmelidir. Çıkarım trafiğinin yönetişimi, elle yapılan denetimlerin aksine ölçeklenebilir.

Nasıl Başlamalı?

Düzenlemelerin gidişatı göz önüne alındığında kuruluşların şimdiden üç konuda harekete geçmesi gerekiyor:

1. SaaS API’lerinden barındırılan uç noktalara ve gölge yapay zekâya kadar sorumluluk alanınızı belirleyin.
2. Güvenlik politikasını ve uygulamasını modellerden ayırarak çıkarım yoluna taşıyın.
3. Kendi eylemlerine ilişkin kayıtları değiştirmeye çalıştıkları gösterilmiş olan modellerin ve ajanların denetimi dışında denetim izleri oluşturulduğundan emin olun.

Yeterli izleme ve uygulamanın ne anlama geldiği henüz belirleniyor; ancak işletmenizin operasyon ve güvenlik ekipleri nelerin gerçekten uygulanabilir olduğunu, bir denetimin gecikme ve karmaşıklık açısından neye mal olduğunu ve iyi niyetle konmuş bir kuralın nerede istenmeyen sonuçlara yol açabileceğini biliyor. Bu ekipleri şimdiden sürece dâhil edin. Yapay zekâ kullanımına bağlı güvenlik riskleri ve yükümlülükleri gerçek; müşterilerinizin ve yöneticilerinizin de bugün karşı karşıya oldukları riskleri, yarının en ileri model tehditlerinden kuşkusuz daha fazla önemsemesi beklenir.