Etik

Beyaz Saray”ın AI Haklar Bildirgesi Amerika ve dünyanın geri kalanı için ne anlama geliyor?

Antoine Tardif
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarBeyaz Saray Yapay Zeka Haklar Bildirgesi bağlayıcı değildir ve ABD hükümet politikası…
Daha fazla göster
  • Beyaz Saray Yapay Zeka Haklar Bildirgesi bağlayıcı değildir ve ABD hükümet politikası teşkil etmez.
  • Derin öğrenmenin kara kutu sorunu nedeniyle uyumluluk için açıklanabilir yapay zeka esastır.
  • Tasarı, şeffaflık ve kamu korumasına öncelik vererek Çin'in yaklaşımıyla tezat oluşturmaktadır.

Beyaz Saray Bilim ve Teknoloji Politikası Ofisi (OSTP), kısa süre önce “AI Haklar Bildirgesi Taslağı: Otomatik Sistemleri Amerikan Halkının Yararına Çalıştırmak” başlıklı bir beyaz kitap yayımladı. Çerçeve, OSTP’nin “AI destekli bir dünya için haklar bildirgesi” geliştirme sürecini başlatacağını açıklamasından bir yıl sonra yayımlandı.

Bildirgede yer alan önsöz, Beyaz Saray’ın AI’nin toplum için oluşturduğu yakın tehditleri anladığını açıkça gösteriyor. Önsözde şöyle deniyor:

“Bugün demokrasinin karşı karşıya olduğu büyük zorluklardan biri, teknoloji, veri ve otomatik sistemlerin Amerikan halkının haklarını tehdit edecek şekilde kullanılmasıdır. Bu araçlar çok sık biçimde fırsatlarımızı sınırlamak ve kritik kaynak ya da hizmetlere erişimimizi engellemek için kullanılıyor. Bu sorunlar iyi belgelenmiştir. Amerika’da ve dünyada, hasta bakımına yardımcı olması beklenen sistemlerin güvensiz, etkisiz veya önyargılı olduğu görülmüştür. İşe alım ve kredi kararlarında kullanılan algoritmaların mevcut istenmeyen eşitsizlikleri yansıttığı ve yeniden ürettiği ya da yeni zararlı önyargı ve ayrımcılık oluşturduğu saptanmıştır. Denetimsiz sosyal medya veri toplama, insanların fırsatlarını tehdit etmek, mahremiyetlerini zayıflatmak veya faaliyetlerini kapsamlı biçimde izlemek için, çoğu zaman bilgileri ya da rızaları olmadan kullanılmıştır.”

Bu Haklar Bildirgesi ve önerdiği çerçevenin AI’nin geleceği açısından ne anlama geleceği henüz belli değil. Bildiğimiz, yeni gelişmelerin giderek artan üssel bir hızla ortaya çıktığıdır. Bir zamanlar imkânsız görülen anlık dil çevirisi artık gerçek; aynı zamanda OpenAI ve ünlü platformu GPT-3 öncülüğünde doğal dil anlama (NLU) alanında bir devrim yaşanıyor.

Daha sonra Stable Diffusion adı verilen bir teknikle anında görüntü üretimini gördük; bu teknoloji yakında yaygın bir tüketici ürünü haline gelebilir. Kullanıcı hayal edebildiği herhangi bir sorguyu yazabilir ve AI sanki sihirli biçimde sorguya uyan bir görüntü oluşturur.

Üssel büyüme ve Hızlanan Getiriler Yasası dikkate alındığında, AI’nin günlük yaşamın her alanını devraldığı bir zaman yakında gelecek. Bunu bilen ve paradigma değişiminden yararlanan kişi ve şirketler kazanç sağlayacak. Ne yazık ki toplumun büyük bir kesimi AI’nin hem kötü niyetli hem de istenmeden ortaya çıkan sonuçlarının kurbanı olabilir.

AI Haklar Bildirgesi, otomatik sistemlerin oluşturulması, uygulanması ve yönetiminde sivil hakları koruyan ve demokratik değerleri destekleyen politika ve uygulamaların geliştirilmesini amaçlıyor. Bildirgenin Çin’in yaklaşımıyla nasıl karşılaştırılacağı henüz belli değil; ancak AI alanını değiştirme potansiyeli taşıyor ve Avustralya, Kanada ve AB gibi müttefiklerce benimsenmesi olası görünüyor.

Bununla birlikte AI Haklar Bildirgesi bağlayıcı değildir ve ABD hükümet politikası oluşturmaz. Mevcut herhangi bir kanun, düzenleme, politika veya uluslararası belgenin yerini almaz, bunları değiştirmez veya yorumlarını yönlendirmez. Bu beyaz kitapta belirtilen politikalara uyup uymamak şirketlerin ve hükümetlerin tercihine kalacaktır.

Bildirge, AI çağında Amerikan halkını korumak için otomatik sistemlerin tasarımına, kullanımına ve uygulanmasına rehberlik etmesi gereken beş ilke belirliyor. Bu ilkeleri aşağıda açıklıyoruz:

1. Güvenli ve etkili sistemler

Kötüye kullanılan AI sistemleri, özellikle derin öğrenmeye dayananlar, toplum için açık ve mevcut bir tehlike oluşturuyor. Bu ilkeler bu sorunu ele almaya çalışıyor:

“Güvensiz veya etkisiz sistemlerden korunmalısınız. Otomatik sistemler; endişeleri, riskleri ve olası etkileri belirlemek için farklı topluluklara, paydaşlara ve alan uzmanlarına danışılarak geliştirilmelidir. Sistemler, uygulama öncesi testlerden, risk belirleme ve azaltma işlemlerinden ve sürekli izlemeden geçmelidir. Bunlar, amaçlanan kullanıma göre güvenli ve etkili olduklarını, amaçlanan kullanım dışındakiler de dâhil güvensiz sonuçları azalttıklarını ve alana özgü standartlara uyduklarını göstermelidir. Koruyucu önlemlerin sonuçları sistemi uygulamama veya kullanımdan kaldırma olasılığını da içermelidir. Sistemler, sizin ya da topluluğunuzun güvenliğini tehlikeye atma niyetiyle veya makul olarak öngörülebilen böyle bir olasılıkla tasarlanmamalıdır. İstenmeyen ancak öngörülebilen kullanım veya etkilerden doğan zararlardan sizi aktif biçimde korumalıdır. Sistemlerin tasarımında, geliştirilmesinde ve uygulanmasında uygunsuz veya ilgisiz veri kullanımından ve verilerin yeniden kullanımından doğan birikimli zarardan korunmalısınız. Sistemin güvenli ve etkili olduğunu doğrulayan bağımsız değerlendirme ve raporlama yapılmalı; olası zararları azaltmak için atılan adımlar da raporlanmalı ve sonuçlar mümkün olduğunda kamuya açıklanmalıdır.”

2. Algoritmik ayrımcılığa karşı koruma

Bu politikalar, şirketlerin bireyleri kötüye kullanması konusunda çoğunlukla konuşulmayan bazı temel sorunları ele alıyor.

AI sistemleriyle personel alımında yaygın sorun, derin öğrenme sisteminin işe alım kararları için önyargılı verilerle eğitilmesidir. Geçmişteki kötü işe alım uygulamaları böylece işe alım aracısının cinsiyet veya ırk ayrımcılığı yapmasına yol açar. Bir çalışma, eğitim verilerinden cinsiyet bilgisini kaldırmaya çalışmanın güçlüğünü gösterdi.

Hükümetlerin önyargılı veriler kullanmasının başka bir temel sorunu haksız hapsedilme riski veya daha da kötüsü, azınlıklara daha uzun hapis cezaları öneren suçluluk tahmin algoritmalarıdır.

“Algoritmaların ayrımcılığına maruz kalmamalısınız ve sistemler adil biçimde kullanılmalı ve tasarlanmalıdır. Algoritmik ayrımcılık, otomatik sistemlerin ırk, ten rengi, etnik köken, cinsiyet (hamilelik, doğum ve ilgili tıbbi durumlar, cinsiyet kimliği, interseks durumu ve cinsel yönelim dâhil), din, yaş, ulusal köken, engellilik, gazilik durumu, genetik bilgi veya hukuken korunan başka bir sınıflandırma temelinde insanlara haksız farklı muamele veya olumsuz etkilerde bulunmasına katkı sağlamasıdır. Koşullara bağlı olarak bu ayrımcılık yasal korumaları ihlal edebilir. Tasarımcılar, geliştiriciler ve uygulayıcılar bireyleri ve toplulukları korumak, sistemleri adil kullanmak ve tasarlamak için aktif ve sürekli önlemler almalıdır. Bunlar, tasarımın parçası olarak önleyici adalet değerlendirmeleri, temsili veri kullanımı, demografik özelliklerin vekil değişkenlerine karşı koruma, tasarım ve geliştirmede engelli erişilebilirliği, uygulama öncesi ve sürekli eşitsizlik testleri ve azaltma önlemleri ile açık kurumsal gözetimi içermelidir. Eşitsizlik testi sonuçları ve azaltma bilgileri dâhil algoritmik etki değerlendirmesi biçiminde bağımsız değerlendirme ve sade dille raporlama yapılmalı ve bu korumaları doğrulamak için mümkün olduğunda yayımlanmalıdır.”

ABD’nin AI konusunda çok şeffaf bir yaklaşım benimsediğini belirtmek gerekir. Bunlar halkı korumayı amaçlayan politikalar olup Çin’in AI yaklaşımlarıyla açık bir karşıtlık oluşturmaktadır.

3. Veri gizliliği

Veri gizliliği ilkesi, nüfusun en geniş kesimini etkilemesi en olası ilkedir. İlk yarısı, özellikle internetten veri toplanmasıyla ilgileniyor gibi görünmektedir; bu, sosyal medya platformlarında bilinen bir sorundur. Aynı veriler reklam satmak veya daha da kötüsü kamuoyunu manipüle etmek ve seçimleri etkilemek için kullanılabilir.

“Yerleşik korumalar aracılığıyla kötüye kullanılan veri uygulamalarından korunmalı ve sizinle ilgili verilerin nasıl kullanıldığı üzerinde söz sahibi olmalısınız. Bu korumaları varsayılan olarak içeren tasarım tercihleriyle gizlilik ihlallerinden korunmalısınız. Veri toplama makul beklentilere uymalı ve yalnızca belirli bağlam için kesinlikle gerekli veriler toplanmalıdır. Tasarımcılar, geliştiriciler ve uygulayıcılar verilerinizin toplanması, kullanımı, erişimi, aktarımı ve silinmesi konusunda uygun biçimde ve mümkün olan en geniş ölçüde izninizi istemeli ve kararlarınıza saygı göstermelidir. Bunun mümkün olmadığı durumlarda alternatif tasarımdan itibaren gizlilik önlemleri kullanılmalıdır. Sistemler, kullanıcı seçimini gizleyen veya gizliliği ihlal eden varsayılan ayarlarla kullanıcıya yük getiren deneyim ve tasarım kararları kullanmamalıdır. Rıza, veri toplamayı yalnızca uygun ve anlamlı biçimde verilebildiği durumlarda gerekçelendirmelidir. Rıza talepleri kısa ve sade dille anlaşılır olmalı, veri toplama ve belirli kullanım bağlamı üzerinde size söz hakkı vermelidir. Geniş veri kullanımları için mevcut anlaşılması zor bildirim ve seçim uygulamaları değiştirilmelidir.”

Veri gizliliği ilkesinin ikinci yarısı, hükümetlerin ve şirketlerin gözetimiyle ilgileniyor gibi görünmektedir.

Şirketler bugün çalışanları izleyebilir ve üzerlerinde casusluk yapabilir. Bazı durumlarda amaç iş yeri güvenliğini artırmaktır; COVID-19 pandemisinde maske kullanımını uygulatmaktı. Çoğunlukla yalnızca çalışma zamanının nasıl kullanıldığını izlemek için yapılır. Bu durumların çoğunda çalışanlar kabul edilebilir sınırların ötesinde izlendiklerini ve kontrol edildiklerini hisseder.

“Sağlık, iş, eğitim, ceza adaleti ve finans gibi hassas alanlarla ilgili veri ve çıkarımlar ile gençlere ait veriler için güçlendirilmiş koruma ve sınırlamalar sizi önceliklendirmelidir. Hassas alanlarda verileriniz ve ilgili çıkarımlar yalnızca gerekli işlevler için kullanılmalı, etik inceleme ve kullanım yasaklarıyla korunmalısınız. Siz ve topluluklarınız denetimsiz gözetimden özgür olmalısınız. Gözetim teknolojileri, gizliliği ve sivil özgürlükleri korumak için en azından uygulama öncesi olası zarar değerlendirmesi ve kapsam sınırlarını içeren artırılmış denetime tabi olmalıdır. Hakları, fırsatları veya erişimi sınırlaması olası gözetim teknolojileri eğitimde, işte, barınmada veya başka bağlamlarda sürekli izleme için kullanılmamalıdır. Mümkün olduğunda, veri kararlarınıza saygı gösterildiğini doğrulayan ve gözetim teknolojilerinin haklarınıza, fırsatlarınıza veya erişiminize olası etkilerini değerlendiren raporlara erişebilmelisiniz.”

Şunu belirtmek gerekir: AI insanların gizliliğini korumak için yararlı biçimde kullanılabilir.

4. Bildirim ve açıklama

Bu, şirketlerin bir AI etik danışma kurulu oluşturması ve açıklanabilir AI geliştirilmesini hızlandırması için harekete geçme çağrısı olmalıdır. Açıklanabilir AI, model hata yaptığında gereklidir; AI’nin nasıl çalıştığını anlamak, sorunun kolay teşhisini sağlar.

Açıklanabilir AI, verilerin nasıl kullanıldığı ve AI’nin neden bir karar verdiği hakkında şeffaf bilgi paylaşımına da olanak tanır. Açıklanabilir AI olmadan, derin öğrenmenin kara kutu sorunu nedeniyle bu politikalara uymak imkânsız olacaktır.

Bu sistemleri iyileştirmeye odaklanan şirketler, derin öğrenme algoritmasının neden belirli bir karar verdiğinin arkasındaki incelik ve karmaşıklığı anlayarak da yarar sağlar.

“Otomatik bir sistemin kullanıldığını bilmeli, sizi etkileyen sonuçlara nasıl ve neden katkıda bulunduğunu anlamalısınız. Tasarımcılar, geliştiriciler ve uygulayıcılar genel olarak erişilebilir sade dilli belgeler sağlamalıdır. Bunlar sistemin genel işleyişini ve otomasyonun rolünü açıkça anlatmalı, böyle sistemlerin kullanıldığını bildirmeli, sorumlu kişi veya kuruluşu belirtmeli ve sonuçları açık, zamanında ve erişilebilir biçimde açıklamalıdır. Bildirim güncel tutulmalı ve etkilenen kişiler önemli kullanım veya temel işlev değişikliklerinden haberdar edilmelidir. Otomatik sistem sonucu belirleyen tek girdi olmadığında bile, sizi etkileyen bir sonucun nasıl ve neden belirlendiğini bilmelisiniz. Sistemler size, operatörlere ve sistemi anlaması gereken diğer kişilere teknik olarak geçerli, anlamlı ve yararlı, bağlama göre risk düzeyine uyarlanmış açıklamalar sunmalıdır. Sistemlerin sade dilli özetlerini ve bildirim ile açıklamaların netlik ve kalitesine ilişkin değerlendirmeleri içeren raporlar mümkün olduğunda kamuya açıklanmalıdır.”

5. İnsan alternatifleri, değerlendirme ve yedek çözümler

Yukarıdaki ilkelerin çoğundan farklı olarak bu ilke, en çok hükümet kurumlarına veya hükümet adına çalışan özelleştirilmiş kuruluşlara uygulanır.

AI etik kurulu ve açıklanabilir AI olsa bile, yaşamlar tehlikedeyken insan incelemesine başvurmak önemlidir. Her zaman hata olasılığı vardır. İstendiğinde bir insanın dosyayı incelemesi, AI’nin yanlış insanları hapse göndermesi gibi bir durumu önleyebilir.

Yargı ve ceza sistemi, toplumun dışlanmış üyelerine telafisi olmayan zararlar verme konusunda en geniş alana sahiptir ve bu ilkeye özel önem vermelidir.

“Uygun olduğunda sistemden vazgeçebilmeli ve karşılaştığınız sorunları hızla değerlendiren ve gideren bir kişiye erişebilmelisiniz. Uygun olduğunda otomatik sistem yerine insan alternatifini seçebilmelisiniz. Uygunluk, bağlamdaki makul beklentilere dayanmalı; geniş erişilebilirliğe ve halkı özellikle zararlı etkilerden korumaya odaklanmalıdır. Bazı durumlarda yasa bir insan veya başka bir alternatif gerektirebilir. Sistem başarısız olduğunda, hata ürettiğinde ya da etkisine itiraz etmek istediğinizde, yedek çözüm ve sorun yükseltme süreci aracılığıyla zamanında insan değerlendirmesi ve giderime erişmelisiniz. İnsan değerlendirmesi ve yedek çözümler erişilebilir, adil, etkili, sürdürülen, uygun operatör eğitimiyle desteklenen ve halka makul olmayan yük getirmeyen nitelikte olmalıdır. Ceza sistemi, istihdam, eğitim ve sağlık dâhil hassas alanlarda kullanılması amaçlanan sistemler ayrıca amaca uyarlanmalı, anlamlı gözetim erişimi sağlamalı, sistemle etkileşen herkese eğitim içermeli ve olumsuz veya yüksek riskli kararlar için insan değerlendirmesini kapsamalıdır. Bu insan yönetişim süreçlerini ve zamanında işlem, erişilebilirlik, sonuçlar ve etkililik değerlendirmelerini açıklayan raporlar mümkün olduğunda kamuya sunulmalıdır.”

Özet

OSTP, toplum için gerekli güvenlik protokollerini birleştiren bir çerçeve sunmaya çalışırken makine öğrenmesinin gelişimini engelleyebilecek aşırı sert politikalar getirmemesi nedeniyle takdiri hak ediyor.

İlkeler sıralandıktan sonra belge, tartışılan konular için teknik bir ek ve her ilke ile bunların uygulanmasında ilerlemenin en iyi yolları hakkında ayrıntılı bilgi sunuyor.

Öngörülü işletme sahipleri ve şirketler bu bildirgeyi incelemelidir; bu politikaları mümkün olduğunca erken uygulamak yalnızca yarar sağlayabilir.

Açıklanabilir AI’nin önemi, bildirgedeki şu alıntıdan da görülebileceği gibi artmaya devam edecek:

“Federal hükümet genelinde kurumlar açıklanabilir AI sistemleri üzerine araştırma yürütüyor ve destekliyor. NIST, AI sistemlerinin açıklanabilirliği üzerine temel araştırma yapıyor. Disiplinler arası bir araştırma ekibi, açıklanabilir AI’nin temel ilkelerinin uygulanmasını destekleyecek ölçüm yöntemleri ve en iyi uygulamaları geliştirmeyi amaçlıyor. Savunma İleri Araştırma Projeleri Ajansı’nın Açıklanabilir Yapay Zekâ programı, yüksek öğrenme performansını (tahmin doğruluğu) koruyarak daha açıklanabilir modeller üreten makine öğrenimi teknikleri geliştirmeyi ve insanların yeni nesil yapay zekâ ortaklarını anlamasını, onlara uygun biçimde güvenmesini ve etkili yönetmesini sağlamayı amaçlıyor. Ulusal Bilim Vakfı’nın Yapay Zekâda Adalet programı da açıklanabilir AI için araştırma temellerine özel ilgi içeriyor.”

Gözden kaçırılmaması gereken nokta, burada belirtilen ilkelerin sonunda yeni standart hâline geleceğidir.

Antoine, Unite.AI'nin vizyoner lideri ve kurucu ortağıdır. Yapay zekâ ve robotiğin geleceğini şekillendirmeye ve ilerletmeye yönelik sarsılmaz bir tutku taşır. Birden fazla şirket kurmuş bir girişimci olarak yapay zekânın toplumu elektrik kadar köklü biçimde dönüştüreceğine inanır ve çığır açan teknolojiler ile yapay genel zekânın (AGI) potansiyelinden sık sık heyecanla söz eder.

Bir fütürist olarak bu yeniliklerin dünyamızı nasıl şekillendireceğini araştırmaya kendini adamıştır. Ayrıca geleceği yeniden tanımlayan ve tüm sektörleri dönüştüren ileri teknolojilere yatırım yapmaya odaklanan Securities.io platformunun kurucusudur.