Yapay Zeka Düzenlemesi İçin Artan Çağrılar

Son birkaç haftadır, yapay zeka (AI) için daha güçlü bir düzenleme çağrıları artmaktadır. Bu endişe, teknolojinin potansiyel suistimallerini gösteren çeşitli haber hikayelerinin ortaya çıkmasının ardından geliyor. Şimdi, Avrupa Komisyonu’nun (AB) çok beklenen yapay zeka beyaz kağıdı, AI’yi düzenlemenin ilk pan-ulusal girişimi olan yayınlanmasıyla daha fazla soru ortaya çıkıyor. Aynı zamanda, Beyaz Saray Bilim ve Teknoloji Politikası Ofisi (OSTP), Amerikan Yapay Zeka Girişimi hakkında bir rapor yayınladı.

AB beyaz kağıdının yayınlanmasından önce, the Intercept, sızdırılan iç Avrupa Birliği belgeleri hakkında bir haber hikayesi yayınladı. Belgelere göre, AB, Avrupa genelinde yüz tanıma veritabanları ağı oluşturmayı düşünüyordu. 10 AB üye devletinin ulusal polis güçleri, her üye devlette veritabanlarının oluşturulması ve birbirine bağlanması çağrısında bulunan bir rapor hazırladı. Birçok kişi, böyle veritabanlarının yaratılmasının kaçınılmaz olarak benzerleriyle ABD’de bağlantılı olacağını ve büyük miktarda biyometrik verinin birleştirileceğini düşünüyor. Birçok kişi, AB’nin beyaz kağıdının yüz tanıma yasağını önermesini bekliyordu, ancak orada değildi.

Gizlilik Uluslararası’nın savunma direktörü Edin Omanovic’e göre, “Bu, ulusal düzeyde ve Avrupa düzeyinde endişe verici, özellikle bazı AB ülkelerinin daha otoriter hükümetlere yönelmesi nedeniyle.”

Son birkaç haftadır ortaya çıkan büyük haber hikayelerinden biri, New York Times tarafından Ocak ayında yapılan bir soruşturmayla başladı. Bu, Clearview AI adlı bir start-up ile ilgili. Şirketin yüz tanıma uygulaması, sosyal medyadan alınan resimlerin veritabanını kullanarak insanları tanımlar. Uygulama, bir fotoğrafı 3 milyardan fazla resim içeren veritabanıyla karşılaştırır. Bu resimler, Facebook, Venmo ve Youtube gibi sitelerden geliyor. Uygulama bir eşleşme bulduğunda, resmin orijinal olarak geldiği siteye bağlantılar verir. Bu teknoloji, bir kişiyi tanımlamak için kişisel ayrıntılar ortaya çıkarabilir. Raporlara göre, uygulamayı 600’den fazla law enforcement ajansı kullanıyor. Clearview’ın veritabanında 3 milyardan fazla resim var, ancak FBI’nin veritabanında sadece 641 milyon ABD vatandaşı resmi bulunuyor.

Hikaye, BuzzFeed News tarafından geçen hafta yapılan bir yeni raporla yeniden ortaya çıktı. Raporlara göre, şirket, sadece law enforcement amaçlarından daha fazlasına genişlemeyi düşünüyor, perakende, gayrimenkul, bankacılık ve uluslararası pazarlar düşünülüyor. Rapor ayrıca, yüz tanıma uygulamasının zaten binlerce kuruluş tarafından satın alındığını ve Adalet Bakanlığı, ICE, Macy’s, Walmart ve NBA tarafından kullanıldığını belirtti. Müşteri listesinde en sorunlu olanı, Birleşmiş Arap Emirlikleri’nden bir egemen servet fonu ve binlerce hükümet kuruluşu.

Yeni gelişmeler, gizlilik savunucuları arasında potansiyel toplu gözetim kullanımıyla ilgili endişelere neden oluyor. Bir başka endişe, teknolojinin yanlışlığı ve masum kişilerin hedef alınmasına neden olabilmesi. Tüm bu gizlilik endişelerine ek olarak, Facebook, Google ve Twitter gibi şirketler yasal işlem tehdidinde bulunuyor. Özel yasal işlemlere ek olarak, en az iki ABD senatörü, şirketle ilgili bir soruşturma açmayı amaçladıklarını belirtti.

Bu teknolojinin suistimalinin bir örneği, ABD Göçmenlik ve Gümrük İdaresi (ICE) içinde görülebilir. The Washington Post, geçen hafta, ICE yetkililerinin, Maryland sürücü belgesi fotoğraflarını facial-recognition teknolojisini kullanarak arama yapmasına izin verildiğini ve bunu yapmak için eyalet veya mahkeme onayı almalarına gerek olmadığını bildirdi.

Georgetown Üniversitesi Hukuk Fakültesi Merkezi’nden Harrison Rudolph’a göre, “ICE, en savunmasız insanları avlamak için hükümetin veya kamu onayının olmadan, biyometrik bilgileri gizlice kullanıyor.”

Bu, bu teknolojinin nasıl kullanıldığına ilişkin en kamuoyuna açık örneklerden sadece birkaçı, ancak çok daha fazlası perde arkasında gerçekleşiyor. Bu nedenle, daha fazla denetim ve düzenleme çağrıları artıyor. Artan şeffaflık, ister istemez olsun, birçok uygulamayı gün yüzüne çıkarıyor. Toplumun yapay zekayı ve ekonomi, hükümet, law enforcement, gözetim ve toplumun her diğer yönü için ne anlama gelebileceğini anlaması olmadan, hükümetlerin ve şirketlerin kendi kendini düzenleme umudu yok. Toplum, AI’nin hem muazzam faydalarını hem de büyük endişelerini görüyor ve her şey şirketler, hükümetler ve bireyler için takip etmek için çok hızlı gerçekleşiyor.