2023’te AI Denetimi Nasıl Yapılır

AI denetimi, AI sistemlerinin beklendiği gibi çalıştığından, önyargı veya ayrımcılık içermediğinden ve etik ve yasal standartlara uygun olduğundan emin olmak için yapılan bir değerlendirmeyi ifade eder. Son on yılda AI, hızlı bir büyüme gösterdi. Sonuç olarak, AI ile ilgili riskler, organizasyonlar için bir endişe kaynağı haline geldi. Elon Musk’ın dediği gibi:

“AI, proaktif olarak düzenleme yapılması gereken nadir bir durum.”

Organizasyonlar, AI ile çalışan çalışanlar için yönetim, risk değerlendirmesi ve kontrol stratejileri geliştirmelidir. AI hesap verebilirliği, yüksek risklerin olduğu karar alma süreçlerinde kritik hale gelir, örneğin bir alanda polis görevlendirmesi yapılırken diğer alanda yapılmaz, adaylar işe alınırken veya reddedilirken.

Bu makale, AI denetimi, AI denetimleri için çerçeveler ve düzenlemeler ile AI uygulamalarının denetimi için bir kontrol listesi hakkında genel bir bakış sunacak.

Dikkate Alınacak Faktörler

• Uygunluk: AI sisteminin yasal, düzenleyici, etik ve sosyal考虑lere uygunluğu ile ilgili risk değerlendirmesi.
• Teknoloji: Teknik yeteneklere ilişkin risk değerlendirmesi, makine öğrenimi, güvenlik standartları ve model performansı dahil.

AI Sistemlerini Denetlemenin Zorlukları

• Önyargı: AI sistemleri, eğitim verilerine dahil olan önyargıları artırabilir ve adil olmayan kararlar alabilir. Bu sorunu tanıyan Stanford Üniversitesi’ndeki bir araştırma enstitüsü, İnsan Merkezli AI (HAI), 71.000$’lık bir İnovasyon Yarışması başlattı. Bu yarışmanın amacı, AI sistemlerinde ayrımcılığı önlemekti.
• Karmaşıklık: AI sistemleri, özellikle derin öğrenimi kullananlar, karmaşıktır ve yorumlanabilirlikten yoksundur.

AI Denetimi için Mevcut Düzenlemeler ve Çerçeveler

Düzenlemeler ve çerçeveler, AI denetimi için yön tayin eder. Bazı önemli denetim çerçeveleri ve düzenlemeleri aşağıda tartışacağız.

Denetim Çerçeveleri

1. COBIT Çerçevesi (Bilgi ve İlgili Teknoloji için Kontrol Nesneleri): Bu, bir işletmenin BT yönetimi ve yönetişim çerçevesidir.
2. IIA’nın (İç Denetçiler Enstitüsü) AI Denetim Çerçevesi: Bu AI çerçevesi, AI sistemlerinin tasarımı, geliştirilmesi ve çalışması ile organizasyonun hedefleri ile uyumlu olup olmadığını değerlendirmeyi amaçlar. IIA’nın AI Denetim Çerçevesinin üç ana bileşeni vardır: Strateji, Yönetim ve İnsan Faktörü. Yedi bileşeni vardır:

• Siber Dayanıklılık
• AI Becerileri
• Veri Kalitesi
• Veri Altyapısı ve Mimari
• Performans Ölçümü
• Etik
• Kara Kutu

3. COSO ERM Çerçevesi: Bu çerçeve, AI sistemleri için riskleri değerlendirmek için bir referans çerçevesi sağlar. İç denetim için beş bileşeni vardır:

• İç Çevre: Organizasyonun yönetişim ve yönetiminin AI risklerini yönetip yönetmediğini güvence altına almak
• Hedef Belirleme: Paydaşlarla birlikte risk stratejisi oluşturmak
• Olay Tanıma: AI sistemlerinde kasıtsız önyargılar, veri ihlalleri gibi riskleri tanımlamak
• Risk Değerlendirmesi: Riskin etkisi nedir?
• Risk Yanıtı: Organizasyon risk durumlarına, örneğin alt düzeyde veri kalitesine nasıl yanıt verecek?

Düzenlemeler

Genel Veri Koruma Düzenlemesi (GDPR), kişisel verilerin kullanımına ilişkin yükümlülükler getiren bir AB düzenlemesidir. Yedi ilkesi vardır:

• Hukuka Uygunluk, Adillik ve Şeffaflık: Kişisel veri işlemlerinin yasalara uygun olması
• Amaç Sınırlaması: Verileri sadece belirli bir amaç için kullanmak
• Veri Minimizasyonu: Kişisel verilerin yeterli ve sınırlı olması
• Doğruuluk: Verilerin doğru ve güncel olması
• Depolama Sınırlaması: Artık gerekli olmayan kişisel verilerini depolamamak
• Bütünlük ve Gizlilik: Kişisel verilerin güvenli bir şekilde işlenmesini sağlamak
• Sorumluluk: Verileri sorumlu bir şekilde işlemek

Diğer düzenlemeler arasında CCPA ve PIPEDA bulunmaktadır.

AI Denetimi Kontrol Listesi

Veri Kaynakları

Veri kaynaklarını tanımlamak ve doğrulamak, AI sistemlerini denetlemenin ilk adımını oluşturur. Denetçiler veri kalitesini ve şirketin verilerin kullanımına uygun olup olmadığını kontrol eder.

Çapraz Doğrulama

Modelin uygun bir şekilde çapraz doğrulanmasını sağlamak, denetçilerin kontrol listelerinden biridir. Doğrulama verilerinin eğitim için kullanılmaması ve doğrulama tekniklerinin modelin genelleme yeteneğini güvence altına alması gerekir.

Güvenli Barındırma

Bazı durumlarda, AI sistemleri kişisel verileri kullanır. Bilgi güvenliği gereksinimlerini karşılayan barındırma veya bulut hizmetlerini değerlendirmek önemlidir, örneğin OWASP (Açık Web Uygulaması Güvenlik Projesi) rehberlerine uygunluk.

Açıklayıcı AI

Açıklayıcı AI, AI sisteminin aldığı kararları ve bunları etkileyen faktörleri yorumlama ve anlama yeteneğini ifade eder. Denetçiler, modellerin LIME ve SHAP gibi teknikler kullanılarak yeterli ölçüde açıklayıcı olup olmadığını kontrol eder.

Model Çıktıları

Denetçiler, model çıktılarının adil olup olmadığını güvence altına almak için ilk önceliklerini verir. Model çıktıları, cinsiyet, ırk veya din gibi değişkenler değiştirildiğinde tutarlı kalmalıdır. Ayrıca, uygun puanlama yöntemiyle tahminlerin kalitesi de değerlendirilir.

Sosyal Geri Bildirim

AI denetimi, sürekli bir süreçtir. AI sistemleri bir kez dağıtıldığında, denetçiler sosyal etkilerini izlemelidir. AI sistemi ve risk stratejisi, geri bildirim, kullanım, sonuçlar ve etki gibi faktörler dikkate alınarak değiştirilmeli ve denetlenmelidir.

AI Boru Hatları ve Uygulamalarını Denetleyen Şirketler

AI denetimi yapan beş büyük şirket aşağıdaki gibidir:

• Deloitte: Deloitte, dünyanın en büyük profesyonel hizmet firmasıdır ve denetim, vergi danışmanlığı ve finansal danışmanlık hizmetleri sunar. Deloitte, RPA, AI ve analitiği kullanarak müşterilerinin AI sistemlerinin risk değerlendirmesinde yardımcı olur.
• PwC: PwC, gelir bakımından ikinci büyük profesyonel hizmet ağıdır. AI sistemlerinin hesap verebilirliğini, güvenilirliğini ve şeffaflığını güvence altına almak için denetim metodolojileri geliştirdiler.
• EY: EY, 2022’de AI destekli bir teknoloji platformuna 1 milyar dolarlık bir yatırım yaptı. AI odaklı şirketler, AI sistemlerini denetlemek için iyi bir konumdadır.
• KPMG: KPMG, dördüncü büyük muhasebe hizmetleri firmasıdır. KPMG, AI yönetişimi, risk değerlendirmesi ve kontrol hizmetleri sunar.
• Grant Thronton: Müşterilere AI dağıtımı ve AI etiği ile ilgili riskleri yönetmede yardımcı olurlar.

AI Sistemlerini Denetlemenin Yararları

• Risk Yönetimi: AI denetimi, AI sistemleriyle ilgili riskleri önler veya azaltır.
• Şeffaflık: AI denetimi, AI uygulamalarının önyargı veya ayrımcılıktan arınmış olduğunu güvence altına alır.
• Uygunluk: AI denetimi, AI sistemlerinin yasal ve düzenleyici uygunluğunu sağlar.

AI Denetimi: Gelecek

Organizasyonlar, düzenleyici otoriteler ve denetçiler, AI gelişmelerini takip etmeli, potansiyel tehditleri anlamalı ve AI’nin adil, riskten arınmış ve etik kullanımını güvence altına almak için düzenlemeleri, çerçeveleri ve stratejileri sık sık gözden geçirmelidir.

2021’de, UNESCO’nun 193 üye ülkesi, AI etiği hakkında bir küresel anlaşmaya vardı. AI, sürekli olarak gelişen bir ekosistemdir.

Daha fazla AI ile ilgili içerik mi istiyorsunuz? unite.ai adresini ziyaret edin.