Beyaz Saray’ın AI Hakları Bildirgesi Amerika ve Dünya için Ne Anlama Geliyor

Beyaz Saray Bilim ve Teknoloji Politikaları Ofisi (OSTP) recently released a whitepaper called “The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People”. Bu çerçeve, OSTP’nin “AI güçlendirilmiş bir dünya için bir haklar bildirgesi” geliştirme sürecini başlatmasından bir yıl sonra yayınlandı.

Bu bildirgenin ön sözü, Beyaz Saray’ın AI tarafından toplum için oluşturulan yakın tehditleri anladığını açıkça ortaya koyuyor. Bu, ön sözde şöyle ifade ediliyor:

“Demokrasiye bugün karşılanan büyük zorluklardan biri, teknoloji, veri ve otomatik sistemlerin, Amerikan halkının haklarını tehdit edecek şekilde kullanılmasıdır. Bu araçlar, sık sık bizim fırsatlarımızı sınırlamak ve kritik kaynaklara veya hizmetlere erişimimizi engellemek için kullanılır. Bu sorunlar iyi belgelenmiştir. Amerika ve dünya genelinde, hasta bakımına yardımcı olmak için tasarlanan sistemler, güvensiz, etkisiz veya önyargılı olduğu kanıtlanmıştır. İşe alma ve kredi kararlarında kullanılan algoritmalar, mevcut istenmeyen eşitsizlikleri yansıtabilir veya yeni zararlı önyargı ve ayrımcılığı içerebilir. Denetimsiz sosyal medya veri toplama, insanların fırsatlarına tehdit, mahremiyetlerini ihlal veya faaliyetlerini yaygın olarak izlemek için kullanılır – genellikle onların bilgisi veya onayı olmadan.”

Bu AI Hakları Bildirgesi ve önerilen çerçevenin AI’nin geleceği için ne anlama geleceği henüz bilinmiyor. Bildiğimiz şey, yeni gelişmelerin her zaman üssel bir hızda ortaya çıktığıdır. Bir zamanlar imkansız olarak görülen anlık dil çevirisi şimdi bir gerçeklik ve aynı zamanda OpenAI ve ünlü platformu GPT-3 tarafından liderlik edilen doğal dil理解i (NLU) devrimi yaşanıyor.

Bundan sonra, anında görüntü oluşturma teknikleri aracılığıyla Stable Diffusion gibi tekniklerle karşılaştık ve bu teknoloji yakın zamanda ana akım bir tüketici ürünü haline gelebilir. Aslında, bu teknolojiyle bir kullanıcı, hayal edebileceği herhangi bir sorguyu girebilir ve AI, sorguya uygun bir görüntü oluşturur.

Üssel büyüme ve Hızlanan Geri Dönüş Yasası’nı dikkate aldığımızda, AI’nin günlük hayatın her yönünü ele geçirdiği bir zaman gelecektir. Bu paradigma değişikliğinden haberdar olan ve bundan yararlanmaya çalışan bireyler ve şirketler kar edeceklerdir. Ne yazık ki, toplumun büyük bir bölümü, AI’nin kötü niyetli ve istenmeyen sonuçlarına kurban gidebilir.

AI Hakları Bildirgesi, otomatik sistemlerin oluşturulmasında, dağıtılmasında ve yönetiminde sivil hakları korumak ve demokratik değerleri teşvik etmek için politikalar ve uygulamaların geliştirilmesini desteklemeyi amaçlıyor. Bu bildirgenin Çin’in yaklaşımıyla nasıl karşılaştırılacağı henüz bilinmiyor, ancak AI manzarasını değiştirebilecek bir haklar bildirgesi ve muhtemelen Avustralya, Kanada ve AB gibi müttefikler tarafından benimsenecektir.

Bununla birlikte, AI Hakları Bildirgesi bağlayıcı değildir ve ABD hükümetinin politikasını oluşturmaz. Mevcut herhangi bir yasayı, düzenlemeyi, politikayı veya uluslararası enstrümanı değiştirmez, değiştirmez veya yorumlamaz. Bu, bu beyaz kâğıttaki politikalarına uymanın işletmeler ve hükümetlerin sorumluluğunda olacağı anlamına geliyor.

Bu bildirge, Amerikan halkını AI çağındaki otomatik sistemlerin tasarımını, kullanımını ve dağıtımını korumak için rehberlik edecek beş ilkeyi tanımladı, aşağıda 5 ilkeyi açıklıyoruz:

1. Güvenli ve Etkili Sistemler

Derin öğrenmeyle çalışan AI sistemleri, özellikle toplum için bir tehdit oluşturuyor. Bu ilke, bu sorunları ele almaya çalışıyor:

“Güvenli ve etkili olmayan sistemlerden korunmalısınız. Otomatik sistemler, çeşitli topluluklar, paydaşlar ve alan uzmanlarından danışmanlık alarak sistemlerin endişeleri, riskleri ve potansiyel etkilerini tanımlamak için geliştirilmelidir. Sistemler, amaçlanan kullanımına, güvensiz sonuçların azaltılmasına, özellikle de amaçlanan kullanımdan以外daki sonuçlara ve alan özgüleri standartlarına uygunluğuna dayalı olarak güvenli ve etkili olduklarını gösteren önceden dağıtım testi, risk tanımlama ve azaltma ve sürekli izleme altına alınmalıdır. Bu koruyucu önlemlerin sonuçları, sistemin dağıtımını durdurma veya sistemi kullanım dışı bırakma olasılığını içermelidir. Otomatik sistemler, sizin veya topluluğunuzun güvenliğini tehlikeye atma niyeti veya makul bir şekilde öngörülebilir olasılığı ile tasarlanmamalıdır. Kasıtlı veya öngörülebilir olmayan, ancak öngörülebilir, kullanımların veya otomatik sistemlerin etkilerinin size veya topluluğunuza zarar vermesini önlemek için tasarlanmalıdır. Veri kullanımında, özellikle de internet üzerinden toplanan veride, uygunsuz veya alakasız veri kullanımından korunmalısınız. Sistemlerin güvenliği ve etkililiğini onaylayan ve potansiyel zararlardan kaçınmak için alınan adımların raporlanmasını içeren bağımsız bir değerlendirme ve raporlama yapılmalı ve sonuçlar mümkün olduğunca halka açık olmalıdır.”

2. Algoritmik Ayrımcılık Korunması

Bu politikalar, işletmelerin bireyleri suistimal etmesiyle ilgili bazı sorunları ele alıyor.

AI sistemlerini kullanarak personel işe alırken ortaya çıkan bir sorun, derin öğrenme sisteminin genellikle önyargılı verilere dayanarak işe alma sonuçlarına ulaşmasıdır. Bu, geçmişteki kötü işe alma uygulamalarının cinsiyet veya ırk ayrımcılığına yol açacağı anlamına gelir. Bir çalışmada, eğitim verilerini cinsiyetsiz hale getirme zorluğu belirtilmiştir.

Hükümetlerin önyargılı verilerini kullanmasıyla ilgili başka bir temel sorun, haksız tutuklama riski veya suçluluk tahmini algoritmalarıdır.

“Algoritmik ayrımcılıktan korunmalısınız ve sistemler adil bir şekilde tasarlanmalı ve kullanılmalıdır. Algoritmik ayrımcılık, otomatik sistemlerin, ırk, renk, etnik köken, cinsiyet (hamilelik, doğum ve ilgili tıbbi koşullar, cinsiyet kimliği, interseks durum, cinsel yönelim), din, yaş, ulusal köken, engellilik, gazilik statüsü, genetik bilgi veya yasayla korunan diğer herhangi bir sınıflandırmaya dayalı olarak people arasında haksız bir şekilde farklı muamele veya etkileri katkıda bulunmasıdır. Belirli koşullara bağlı olarak, algoritmik ayrımcılık, yasal korumaları ihlal edebilir. Otomatik sistemlerin tasarımcıları, geliştiricileri ve dağıtıcıları, bireyleri ve toplulukları algoritmik ayrımcılıktan korumak ve sistemleri adil bir şekilde tasarlamak ve kullanmak için proaktif ve sürekli önlemler almalıdır. Bu koruma, sistem tasarımının bir parçası olarak proaktif eşitlik değerlendirmelerini, temsilci verilerin kullanımını, demografik özelliklerin vekilleri korumayı, engelliler için erişilebilirliği sağlamayı, önceden dağıtım ve sürekli farklılık testi ve azaltma işlemlerini ve açık kurumsal denetimi içermelidir. Bağımsız bir değerlendirme ve açık dilde raporlama, algoritmik etki değerlendirmesi, farklılık testi sonuçları ve azaltma bilgileri dahil olmak üzere, bu korumaları onaylamak için yapılmalı ve mümkün olduğunca halka açık olmalıdır.”

3. Veri Mahremiyeti

Bu veri mahremiyeti ilkesi, en geniş nüfus segmentini etkileyecek olanıdır. İlk yarı, özellikle internet üzerinden toplanan verilerin toplanmasıyla ilgili gibi görünüyor, bu da sosyal medya platformları için bilinen bir sorundur. Bu veri, daha sonra reklam satmak veya kamuoyunu manipüle etmek ve seçimlere müdahale etmek için kullanılabilir.

“Kötü veri uygulamalarından korunmalısınız ve verinizin nasıl kullanıldığı üzerinde kontrol sahibi olmalısınız. Veri toplama, makul beklentilere uygun olmalı ve yalnızca belirli bir bağlam için gerekli olan veri toplanmalıdır. Otomatik sistemlerin tasarımcıları, geliştiricileri ve dağıtıcıları, verilerinizi toplamak, kullanmak, erişmek, aktarmak ve silmek için izin istemeli ve kararlarınızı saygı göstermelidir; mümkün değilse, alternatif gizlilik tarafından tasarım güvenceleri kullanılmalıdır. Sistemler, kullanıcı deneyimini ve tasarım kararlarını, kullanıcı seçimini bulanıklaştırmamalı veya kullanıcıları mahremiyet ihlaline yol açan varsayılan ayarlarla yüklememelidir. İzne, yalnızca verilerin toplanmasını haklı çıkarmak için kullanılmalıdır; herhangi bir izin talebi, kısa, anlaşılır ve size veri toplama ve özel bağlam üzerinde kontrol sağlayan olmalıdır; geniş kullanım için zor anlaşılır bildirim ve seçim uygulamaları değiştirilmelidir.”

4. Bildirim ve Açıklama

Bu, işletmelerin AI Etik Danışma Kurulu dağıtmaya ve açıklayıcı AI gelişimini hızlandırmaya çağrısıdır. Açıklayıcı AI, bir AI modeli hata yaptığında, AI’nin nasıl çalıştığını anlamak, bir sorunun kolay teşhisini sağlar.

Açıklayıcı AI ayrıca, verilerin nasıl kullanıldığını ve AI’nin bir karar aldığını şeffaf bir şekilde paylaşmayı sağlar. Açıklayıcı AI olmadan, bu politikalara uymak mümkün olmayacak, çünkü derin öğrenmenin kara kutu sorunu var.

Sistemleri geliştirmeye odaklanan işletmeler, ayrıca derin öğrenme algoritmalarının neden belirli bir kararı aldığının nüanslarını ve karmaşıklıklarını anlamaktan olumlu faydalar sağlayacaktır.

“Otomatik bir sistemin kullanıldığını bilmeli ve sonuçların size nasıl etki ettiğini anlamalısınız. Otomatik sistemlerin tasarımcıları, geliştiricileri ve dağıtıcıları, genel olarak erişilebilen, açık dilde belgeler sunmalı, sistemlerin genel işleyişini, otomasyonun rolünü, sistemin sorumlusu olan kişiyi veya kuruluşu ve açıklamaları içermelidir. Bu bildirim, güncel olmalı ve sistemden etkilenen kişiler, önemli kullanım durumu veya ana işlevsellik değişikliklerinden haberdar edilmelidir. Bir otomatik sistemin size nasıl ve neden bir sonuç belirlediğini bilmelisiniz. Otomatik sistemler, size ve operatörlere veya sistemin anlaşılmasına ihtiyaç duyan diğer kişilere anlamlı, yararlı ve risk seviyesine göre ayarlanmış açıklamalar sağlamalıdır. Bu bildirimlerin açıklığı ve kalitesinin değerlendirildiği ve sonuçların özetlendiği raporlar, mümkün olduğunca halka açık olmalıdır.”

5. İnsan Alternatifleri, Değerlendirme ve Geri Dönüş

Bu ilke, diğerlerinden farklı olarak, özellikle hükümet kurumlarına veya hükümet adına çalışan özel kurumalara uygulanabilir.

AI etik kurulu ve açıklayıcı AI’ye sahip olmakla birlikte, yaşamlar söz konusu olduğunda insan incelemesine başvurmak önemlidir. Hata olasılığı her zaman vardır ve insan inceleme, AI’nin yanlış kişileri hapse göndermesi gibi bir senaryoyu önleyebilir.

Yargı ve ceza sistemi, toplumun marjinal üyelerine karşı zarara neden olma konusunda en fazla risk taşıyan alanlardır ve bu ilkeye özellikle dikkat etmelidir.

“İstenildiğinde, bir insan alternatifine başvurabilmeli ve sorunları hızlı bir şekilde değerlendirebilecek ve çözebilecek birine erişebilmelisiniz. Uygun olduğunda, otomatik sistemlerden insan alternatifine geçebilmelisiniz. Uygunluk, belirli bir bağlamda makul beklentilere dayalı olarak belirlenmeli ve geniş erişilebilirliği sağlamak ve kamuoyunu özellikle zararlı etkilerden korumak için olmalıdır. Bazı durumlarda, insan alternatifi yasayla zorunlu olabilir. Hatalı bir otomatik sistem, hata üretirse veya siz bir kararı itiraz etmek veya itiraz etmek istiyorsanız, bir insan tarafından hızlı bir şekilde değerlendirme ve çözüm için erişebilmelisiniz. İnsan değerlendirmesi ve geri dönüş, erişilebilir, adil, etkili, sürdürülebilir olmalı ve kamuoyuna makul bir yük getirmemelidir. Hassas alanlarda, özellikle ceza sistemi, istihdam, eğitim ve sağlık gibi alanlarda kullanılan otomatik sistemler, ayrıca amaçlarına uygun olarak tasarlanmalı, anlamlı bir denetim sunmalı, sistemle etkileşime giren kişiler için eğitim içermeli ve yüksek riskli kararlar için insan değerlendirmesi içermelidir. İnsan yönetim süreçlerinin tanımı ve bu süreçlerin zamanında, erişilebilirliği, sonuçları ve etkinliğinin değerlendirildiği raporlar, mümkün olduğunca halka açık olmalıdır.”

Özet

OSTP, toplum için gerekli güvenlik protokollerini tanıtarak, aynı zamanda AI’nin gelişimini engelleyebilecek baskıcı politikalar getirmeyerek, bir çerçeve sunmaya çalışıyor.

İlkeler açıkladıktan sonra, bildirge, tartışılan konuların teknik bir eşlikçisini ve her ilke hakkında ayrıntılı bilgi ile bu ilkeleri uygulamaya koymak için en iyi yolları sunmaya devam ediyor.

Akıllı işletme sahipleri ve işletmeler, bu bildirgeyi incelemeye dikkat etmelidir, çünkü bu politikaları mümkün olduğunca erken uygulamak sadece avantajlı olacaktır.

Açıklayıcı AI, bu alıntıdan da anlaşılacağı gibi, önemini sürdürecek:

“Federal hükümet genelinde, ajanslar, açıklayıcı AI sistemleri hakkında araştırma ve destekleme yapıyor. NIST, AI sistemlerinin açıklanabilirliği hakkında temel araştırma yapıyor. Birçok disiplinden oluşan bir araştırmacı ekibi, açıklayıcı AI’nin temel ilkelerini desteklemek için ölçüm yöntemleri ve en iyi uygulamalar geliştirmeyi amaçlıyor. Savunma İleri Araştırma Projeleri Ajansı, Explainable Artificial Intelligence programına sahip ve yüksek öğrenme performansını (tahmin doğruluğu) korurken, daha açıklanabilir modeller üretebilecek ve insan kullanıcıların sistemi anlamasını, uygun şekilde güvenmesini ve etkili bir şekilde yönetmesini sağlayabilecek bir dizi makine öğrenimi tekniği oluşturmayı amaçlıyor. Ulusal Bilim Vakfı’nın Fairness in Artificial Intelligence programı da açıklayıcı AI araştırmaları için özel bir ilgi içeriyor.”

Göz ardı edilmemesi gereken, bu ilkelerin sonunda yeni standartlar haline geleceğidir.