Beyaz Saray’ın AI Hakları Bildirgesi Amerika ve Dünya için Ne Anlama Geliyor

Beyaz Saray Bilim ve Teknoloji Ofisi (OSTP) yakın zamanda “AI Hakları için Bir Mavi Çizgi: Otomatik Sistemleri Amerikan Halkı için Çalıştırmak” adlı bir beyaz kitap yayınladı. Bu çerçeve, OSTP’nin “AI güçlendirilmiş bir dünya için bir haklar bildirgesi” geliştirme sürecini başlatmasından bir yıl sonra yayınlandı.

Bu bildirgenin önsözü, Beyaz Saray’ın AI tarafından toplum için oluşturulan yakın tehditleri anladığını açıkça gösteriyor. Önsözde şunlar söyleniyor:

“Demokrasiye bugün karşılanan büyük zorluklardan biri, teknoloji, veri ve otomatik sistemlerin Amerikan halkının haklarını tehdit edecek şekilde kullanılmasıdır. Bu araçlar genellikle fırsatlarımızı sınırlamak ve kritik kaynaklara veya hizmetlere erişimimizi engellemek için kullanılır. Bu sorunlar iyi belgelenmiştir. Amerika ve dünyada, hastalara bakım sağlamak için tasarlanan sistemler güvensiz, etkisiz veya önyargılı olduğu kanıtlanmıştır. İşe alma ve kredi kararlarında kullanılan algoritmalar, istenmeyen eşitsizlikleri yansıtabilir veya yeni zararlı önyargı ve ayrımcılığı içerebilir. Denetimsiz sosyal medya veri toplama, fırsatlarınızı tehdit etmek, mahremiyetinizi ihlal etmek veya faaliyetinizi yaygın olarak izlemek için kullanılmıştır – genellikle bilginiz veya rızanız olmadan.”

Bu Haklar Bildirgesi ve önerilen çerçevenin AI geleceği için ne anlama geleceği henüz belirsiz. Bildiğimiz şey, yeni gelişmelerin her zaman daha hızlı bir şekilde ortaya çıktığıdır. Bir zamanlar imkansız olarak görülen anlık dil çevirisi şimdi bir gerçek ve aynı zamanda OpenAI ve ünlü platformu GPT-3 tarafından liderlik edilen doğal dil理解i devrimi yaşanıyor.

O zamandan beri, anında görüntü oluşturma tekniğiyle Stable Diffusion aracılığıyla anında görüntü oluşturmayı gördük ve bu teknoloji yakında bir tüketici ürünü haline gelebilir. Bu teknolojiyle, bir kullanıcı basitçe herhangi bir sorgu girebilir ve AI, sorguya uygun bir görüntü oluşturur.

Üssel büyüme ve Hızlanan Geri Dönüş Yasası dikkate alındığında, AI’nin günlük hayatın her yönünü ele geçirdiği bir zaman gelecek. Bu paradigma değişiminden yararlanacak bireyler ve şirketler kar edecek. Ne yazık ki, toplumun büyük bir kısmı AI’nin kasıtlı ve kasıtsız sonuçlarına kurban gidebilir.

AI Hakları Bildirgesi, otomatik sistemlerin oluşturulması, dağıtılması ve yönetilmesi sırasında sivil hakları korumak ve demokratik değerleri teşvik etmek için politikalar ve uygulamaların geliştirilmesini desteklemeyi amaçlıyor. Bu bildirgenin Çin’in yaklaşımına nasıl karşılaştırılacağı henüz belirsiz, ancak bu, AI manzarasını değiştirebilecek bir haklar bildirgesi ve muhtemelen müttefikler tarafından benimsenecek.

Bu bildirge, Amerikan halkını AI çağında korumak için otomatik sistemlerin tasarımı, kullanımı ve dağıtımı için rehberlik edecek beş ilkeyi tanımlamıştır. Aşağıda bu 5 ilkeyi açıklamak için devam edeceğiz:

1. Güvenli ve Etkili Sistemler

AI sistemlerinin suistimalinin toplum için açık ve mevcut bir tehlike oluşturduğu açık. Bu ilke, özellikle derin öğrenime dayanan sistemleri ele almak için tasarlanmıştır.

“Güvenli ve etkili sistemlerden korunmalısınız. Otomatik sistemler, çeşitli topluluklar, paydaşlar ve alan uzmanlarından danışmanlık alarak tasarlanmalı, sistemlerin endişeleri, riskleri ve potansiyel etkilerini tanımlamalıdır. Sistemler, dağıtımdan önce test edilmeli, riskler belirlenmeli ve azaltılmalı ve sürekli olarak izlenmelidir. Bu önlemlerin sonuçları, sistemlerin dağıtılmaması veya kullanımından çıkarılması da dahil olmak üzere olabilir. Otomatik sistemler, sizin veya topluluğunuzun güvenliğini tehlikeye atmak amacıyla tasarlanmamalıdır. Kasıtsız ancak öngörülebilir kullanımlar veya etkiler nedeniyle size veya topluluğunuza zarar gelmesini önlemek için tasarlanmalıdır. Veri toplama, tasarım, geliştirme ve dağıtım sırasında uygunsuz veya alakasız veri kullanımından korunmalı ve bu tür veri kullanımının yeniden kullanımından kaynaklanan zarardan korunmalısınız. Bağımsız değerlendirme ve raporlama, sistemlerin güvenli ve etkili olduğunu doğrulamalı ve bu önlemlerin sonuçlarını kamuoyuna açıklamalıdır.”

2. Algoritmik Ayrımcılık Korunması

Bu politika, AI sistemlerinin bireyleri suistimal ettiği durumlarda bazı sorunları ele alır.

AI sistemlerini kullanarak personel işe alırken ortaya çıkan ortak bir sorun, derin öğrenme sisteminin önyargılı verilere dayalı işe alım sonuçlarına ulaşmasıdır. Bu, geçmişteki zayıf işe alma uygulamalarının cinsiyet veya ırk ayrımcılığına yol açması anlamına gelir. Bir çalışmada, eğitim verilerini cinsiyetsiz hale getirme girişimindeki zorluklar ortaya kondu.

Hükümetlerin önyargılı verilere dayalı bir diğer temel problemi, yanlış tutuklama riski veya suçluluk tahmini algoritmalarıdır.

“Algoritmik ayrımcılıktan korunmalı ve sistemler adil bir şekilde tasarlanmalı ve kullanılmalıdır. Algoritmik ayrımcılık, otomatik sistemlerin yasalarca korunan sınıflandırmalara dayalı olarak insanları haksız bir şekilde farklı şekilde tedavi ettiğinde veya etkilediğinde ortaya çıkar. Sistemlerin tasarımında, geliştirilmesinde ve dağıtılmasında, bireyleri ve toplulukları algoritmik ayrımcılıktan korumak ve sistemleri adil bir şekilde tasarlamak için proaktif ve sürekli önlemler alınmalıdır. Bu koruma, tasarım aşamasında proaktif eşitlik değerlendirmelerini, temsil edilen verilerin kullanımını ve demografik özelliklerin vekilleri karşı korumayı içermelidir. Bağımsız değerlendirme ve raporlama, bu korumaları doğrulamalı ve sonuçlarını kamuoyuna açıklamalıdır.”

Aşağıdaki ilkeler için devam edeceğiz:

3. Veri Gizliliği

Bu veri gizliliği ilkesi, en büyük nüfusu etkileyecek olanıdır. İlkenin ilk kısmı, özellikle internet üzerinden toplanan veri toplama ile ilgili gibi görünüyor.

“Veri uygulamalarından kötüye kullanımından korunmalı ve verilerinizi nasıl kullanıldığına ilişkin kontrol sahibi olmalısınız. Tasarım tercihleri, koruma önlemlerini dahil etmeli ve veri toplama, makul beklentilere uygun olmalıdır. Sistemlerin tasarımında, geliştirilmesinde ve dağıtılmasında, verilerinizi toplamak, kullanmak, erişmek, aktarmak ve silmek için izin vermelisiniz. Rıza, sadece veri toplamak için kullanılmamalıdır. Veri toplama ve kullanımı ile ilgili kararlar hakkında bilgilendirilmeli ve kontrol sahibi olmalısınız.”

4. Bildirim ve Açıklama

Bu, şirketlerin AI Etik Danışma Kurulu oluşturması ve açıklayıcı AI geliştirmesi için bir çağrı olabilir.

Açıklayıcı AI, AI modelinin hatalarını anlamak için gerekli ve AI’nin nasıl çalıştığını anlamak, sorunların kolayca teşhis edilmesini sağlar.

“Otomatik bir sistemin kullanıldığını bilmeli ve nasıl ve neden sonuçlara katkıda bulunduğunu anlamalısınız. Sistemlerin tasarımında, geliştirilmesinde ve dağıtılmasında, genel olarak erişilebilen, açık bir dille belgeler sağlanmalıdır. Bu belgeler, sistemin genel işleyişini, otomasyonun rolünü, sistemi kullanan kişi veya kuruluşu ve sonuçların açıklamalarını içermelidir. Bu belgeler güncel tutulmalı ve sistemden etkilenen kişiler, önemli kullanım değişikliklerinden haberdar edilmelidir.”

5. İnsan Alternatifleri, Değerlendirme ve Geri Bildirim

Bu ilke, özellikle hükümet kurumları veya hükümet adına çalışan özel kurumlar için geçerlidir.

AI etik kuruluna ve açıklayıcı AI’ye rağmen, canlar tehlike altında olduğunda insan gözden geçirmesine başvurmak önemlidir.

“İhtiyacınız olduğunda insan alternatifine başvurabileceğinizden emin olmalısınız. Otomatik sistemlerin hatalarını, insan gözden geçirmesi ile düzeltebilmelisiniz. İnsan gözden geçirmesi, erişilebilir, adil, etkili ve uygun eğitim almış olmalıdır. İnsan gözden geçirmesi, sistemlerin tasarımında, geliştirilmesinde ve dağıtılmasında dahil edilmelidir.”

Özet

OSTP, toplum için gerekli güvenlik protokollerini tanımlayan bir çerçeve sunmaya çalıştığı için kredilendirilmelidir.

Bu ilkeler, AI’nin geleceği için ne anlama geleceği henüz belirsiz. Ancak, AI’nin günlük hayatın her yönünü ele geçireceği bir zaman gelecek ve bu ilkelerin uygulanması, AI’nin toplum için güvenli ve faydalı bir şekilde kullanılmasını sağlayacaktır.

Açıklayıcı AI, AI modelinin nasıl çalıştığını anlamak için gerekli ve AI’nin hatalarını anlamak için önemlidir.

“AI sistemleri üzerinde araştırma yapan federal kurumlar, açıklayıcı AI sistemleri hakkında araştırma yapıyorlar. NIST, AI sistemlerinin açıklanabilirliği hakkında temel araştırma yapıyor. Bir araştırma ekibi, açıklayıcı AI’nin temel ilkelerini desteklemek için ölçüm yöntemleri ve en iyi uygulamalar geliştirmeyi amaçlıyor. Savunma Advanced Araştırma Projeleri Ajansı, yüksek öğrenme performansı (tahmin doğruluğu) ile birlikte daha açıklanabilir modeller üretebilecek bir dizi makine öğrenimi tekniği oluşturmayı amaçlayan bir programı var.”

Bu ilkelerin uygulanması, AI’nin toplum için güvenli ve faydalı bir şekilde kullanılmasını sağlayacaktır.