Yapay Zeka Düzenleme Çağrıları Artıyor

Son birkaç haftadır, yapay zeka (AI) için daha güçlü bir düzenleme çağrıları artmaktadır. Bu endişe, teknolojinin potansiyel kötüye kullanımlarını gösteren çeşitli haber hikayelerinin ortaya çıkmasıyla birlikte gelmektedir. Şimdi, Avrupa Komisyonu’nun (AB) çok beklenen yapay zeka beyaz kitabının yayımlanmasıyla birlikte, daha fazla soru ortaya çıkmaktadır. Bu, AI’yi düzenlemenin ilk pan-ulusal girişimidir. Aynı zamanda, Beyaz Saray Bilim ve Teknoloji Politikası Ofisi (OSTP), Amerikan Yapay Zeka Girişimi hakkında bir rapor yayımladı.

AB’nin beyaz kitabının yayımlanmasından önce, The Intercept, sızdırılan iç AB belgeleri hakkında bir haber hikayesi yayımladı. Belgelere göre, AB, Avrupa genelinde yüz tanıma veritabanları ağı oluşturmayı düşünüyordu. 10 AB üye devletinin ulusal polis güçleri, her üye devlette veritabanlarının oluşturulmasını ve bağlantılı olmasını öneren bir rapor hazırladı. Birçok kişi, böyle bir veritabanının yaratılmasının, benzer veritabanlarıyla ABD’de birleştirilmesine yol açacağından ve büyük miktarda biyometrik verinin birleştirilmesine neden olacağından endişe etmektedir. Birçok kişi, AB’nin beyaz kitabının yüz tanıma yasağını önermesini bekliyordu, ancak öyle olmadı.

Gizlilik Uluslararası’nun savunma direktörü Edin Omanovic, “Bu, ulusal düzeyde ve Avrupa düzeyinde endişe verici, özellikle bazı AB ülkelerinin daha otoriter hükümetlere doğru yönelmesi nedeniyle” dedi.

Son birkaç haftadır ortaya çıkan büyük haber hikayelerinden biri, New York Times tarafından Ocak ayında yapılan bir soruşturmayla başladı. Clearview AI adlı bir şirketin yüz tanıma uygulaması, sosyal medyadan alınan resimlerin veritabanını kullanarak insanları tanımlar. Uygulama, bir fotoğrafı 3 milyardan fazla resimden oluşan veritabanıyla karşılaştırır ve bu resimlerin orijinal olarak hangi siteye ait olduğunu gösterir. Bu teknoloji, bir kişinin kişisel bilgilerini keşfetmesine yol açabilir. Raporlara göre, uygulamayı 600’den fazla law enforcement ajansı kullanmaktadır. Clearview’ın veritabanında 3 milyardan fazla resim bulunurken, FBI’nın veritabanında sadece 641 milyon ABD vatandaşı resmi bulunmaktadır.

Hikaye, BuzzFeed News (BZFD ) tarafından geçen hafta yapılan bir yeni raporla birlikte yeniden gündeme geldi. Raporlara göre, şirket law enforcement amaçlarının ötesinde, perakende, gayrimenkul, bankacılık ve uluslararası pazarlara da genişlemeyi düşünüyor. Rapor, yüz tanıma uygulamasının zaten binlerce kuruluşa satıldığını ve Adalet Bakanlığı, ICE, Macy’s (M ), Walmart (WMT ) ve NBA tarafından kullanıldığını belirtti. Liste上的 en problematik müşteri, Birleşmiş Arap Emirlikleri’nden bir egemen varlık fonu ve binlerce hükümet kuruluşudur.

Yeni gelişmeler, gizlilik savunucuları arasında toplu gözetim kullanımına ilişkin endişelere neden oldu. Bir başka endişe, teknolojinin yanlışlıklarına yol açması ve masum individuals’ın law enforcement tarafından hedef alınmasına neden olmasıdır. Tüm bu gizlilik endişelerine ek olarak, Facebook (META ), Google (GOOGL ) ve Twitter gibi şirketler yasal action tehdidinde bulunmaktadırlar. Özel yasal actionların yanı sıra, en az iki ABD senatörü, şirketin soruşturulacağını açıkladı.

Bu teknolojinin kötüye kullanımına bir örnek, ABD Göçmenlik ve Gümrük Muhafaza Ajansı’nda (ICE) görülebilir. The Washington Post, ICE yetkililerinin, eyalet veya mahkeme onayı olmadan, milyonlarca Maryland sürücü belgesi fotoğrafını yüz tanıma teknolojisiyle arama yapmasına izin verildiğini bildirdi.

Georgetown Üniversitesi Hukuk Fakültesi’nden Gizlilik ve Teknoloji Merkezi’nin kıdemli üyesi Harrison Rudolph, “ICE, hükümetin veya kamu onayının olmadan, en savunmasız insanları avlamak için biyometrik bilgileri kullanıyor” dedi.

Bu, teknolojinin nasıl kullanıldığına ilişkin en çok görülen örneklerden sadece birkaçı, ancak daha fazlası perde arkasında gerçekleşiyor. Bu nedenle, denetimi ve düzenlemeyi artırmak için çağrılar artıyor. Artan şeffaflık, ister istemez olsun, birçok uygulamayı gün yüzüne çıkarıyor. Yapay zekanın ne anlama geldiğini ve ekonomi, hükümet, law enforcement, gözetim ve toplumun her yönü için ne anlama gelebileceğini anlamayan halkın, şirketlerin ve hükümetlerin kendilerini düzenleme şansları yok. Toplum, AI’nın devasa faydalarını ve büyük endişelerini görüyor ve tüm bunlar şirketlerin, hükümetlerin ve bireylerin takip edebileceğinden daha hızlı gerçekleşiyor.