Bradford Newman, Kuzey Amerika Ticaret Sırları Uygulaması Başkanı – Röportaj Serisi

Bradford, ticaret sırları ve Yapay Zeka ile ilgili konularda uzmanlaşmıştır. ABA’nın Yapay Zeka Alt Komitesi’nin Başkanıdır. Daily Journal (DJCO ) tarafından 2019 yılında California’nın en iyi 20 Yapay Zeka avukatından biri olarak tanınan Bradford, 2018 yılında ABD Temsilciler Meclisi Tartışma Taslağı yasasına dönüşen federal Yapay Zeka işyeri ve fikri mülkiyet yasalarını önermede etkili olmuştur. Ayrıca, algoritmik adilliği sağlamak için tasarlanan Yapay Zeka denetimi ve kurumsal yönetim en iyi uygulamalarını da geliştirmiştir.

Yapay zeka ile ilgilenmenizi ilk olarak ne ateşledi?

Çok uzun yıllardır dünyanın önde gelen Yapay Zeka ürünleri ve teknolojisi üreticilerini temsil ediyorum. Her zaman perde arkasına geçip, makine öğreniminin yasal ve teknik yönlerini anlamak ve Yapay Zeka’nın evrimini izlemek ilgimi çekmiştir. Farklı alanlardaki uygulamalar için neler mümkün olabileceğine hayranım.

Sizin gibi bir Yapay Zeka savunucusu olarak, özellikle halk sağlığını koruyan düzenlemeler konusunda neler düşünüyorsunuz?

İnsanlık, belki de tarihinin en büyük devriminin başlangıcındayız. Yapay Zeka, uyanık olduğumuz andan uykuya daldığımız ana kadar hayatımızın her yönünü etkileyebilecek potansiyele sahip. Yapay Zeka’nın birçok uygulaması, hayat kalitemizi ve muhtemelen türümüzün ömrünü olumlu yönde etkileyecektir.

Şu anda, bilgisayar bilimi ve makine öğrenimi açısından, insanlar masih sürecin içinde yer alıyor; algoritmaları kodluyor, eğitim veri kümelerini anlıyor, sonuçları işliyor, eksiklikleri tanıyor ve teknolojiyi ürünleştiriyor.

Ancak iki önemli alanda zamanla yarışıyoruz. Birincisi, “kara kutu” problemi: insan katılımı ve Yapay Zeka’nın anlaşılması zamanla azalacak, özellikle sinir ağları (ANN’ler) gibi Yapay Zeka’nın sophisticasyonu arttıkça. İkincisi, hükümetler ve özel çıkarlar tarafından Yapay Zeka’nın kullanımı artacak.

Kaygım, Yapay Zeka’nın, kasıtlı veya kasıtsız olarak, bireysel özgürlük ve özgürlük gibi Batı demokrasilerinin ideallerine aykırı şekilde kullanılacağıdır.

Bu kaygılara nasıl karşı koyabiliriz?

Toplum, Yapay Zeka ile ilgili olarak neler mümkün olduğunu değil, neler yasaklanmalı veya kısmen kısıtlanmalı olduğunu çözme noktasına geldi. İlk olarak, algoritmik çıktıya dayalı kararlar hiçbir şekilde yapılmaması gereken kararları belirlemeliyiz. Bu, verilerin ve çıktının tamamen tarafsız, şeffaf ve doğru olduğu durumlarda bile, bu tür kararlar için yasal bir yasaklama oluşturmak anlamına gelir.

İkincisi, diğer kararlar için, insan katılımı gereken kararları belirleyen yasalar çıkarmalıyız.

2018 yılında ABD Temsilciler Meclisi Tartışma Taslağı yasasına dönüşen federal Yapay Zeka işyeri ve fikri mülkiyet yasalarını önermede etkili oldunuz. Bu öneriler hakkında neler söyleyebilirsiniz?

Yapay Zeka Veri Koruma Yasası, inovasyonu teşvik etmek, Yapay Zeka’nın doğası ve kullanımına ilişkin şeffaflığı artırmak, kamu güvenini artırmak, Yapay Zeka’nın işgücü piyasası üzerindeki etkisini ele almak ve halk sağlığını korumak amacıyla tasarlanmıştır.

Bu yasa, belirli şirketlerin yalnızca Yapay Zeka’ya dayanarak belirli kararlar almasını yasaklıyor, Örneğin, bir kişinin istihdamı veya tıbbi tedavi reddi konusunda. Ayrıca, halk sağlığı ve güvenliği ile ilgili Yapay Zeka’yı düzenlemekle görevli yeni bir federal kurum olan Yapay Zeka Kurulu’nu kuruyor ve kapsamlı şirketlerin bir Yapay Zeka Başkanı atamasını gerektiriyor.

Yapay Zeka denetimini ve kurumsal yönetim en iyi uygulamalarını da geliştirdiniz. Yapay Zeka sistemlerinde adillik veya önyargı ile ilgili güncel sorunlar nelerdir?

Bu konu, akademisyenler tarafından yoğun bir şekilde incelenmekte ve şimdi de ABD hükümeti kurumlarının, seperti Equal Employment Opportunity Commission (EEOC), ve avukatların ilgisini çekmektedir. Çoğu zaman, neden, eğitim veri kümelerindeki eksiklikler veya test ortamına ilişkin anlayış ve şeffaflık eksikliğidir. Bu, üst yönetim tarafından Yapay Zeka’nın merkezi sahipliği ve denetiminin olmaması nedeniyle daha da artmaktadır.

Bu teknik anlayış ve durum farkındalığının olmaması, önemli bir sorumluluk kaynağıdır. several prominent avukatlarla konuştum ve onlar da Yapay Zeka önyargısı davaları peşindeler.

Derin öğrenme, “kara kutu” problemi nedeniyle sıkça eleştiriliyor; bir Yapay Sinir Ağı’na (ANN) veri girişi yapıp, çıktıyı alıyoruz, ancak bu çıktının nasıl üretildiği bilinmiyor. Bu problemi önemli buluyor musunuz?

Evet, önemli bir problem. Algoritmalar ve sinir ağları geliştikçe ve insanlar daha az “döngüde” olduklarında, kritik işlev ve çıktı unsurlarını anlamaktan vazgeçme riski gerçek.

COVID-19 salgınıyla birlikte, birçok ülke AI destekli devlet gözetim sistemlerini devreye aldı. Bu tür gözetimin potansiyel suistimali konusunda ne düşünüyorsunuz?

Bireysel haklar ve özgürlükler açısından, bu riski görmezden gelmek veya küçümsemek naif ve sorumlu olmaz. Salgın sırasında temas takibi yapmak ve AI tabanlı yüz tanıma kullanarak etkili önlemler almak önemlidir, ancak devletin suistimaline karşı yasal yasaklar ve etkili denetim mekanizmaları oluşturmalıyız. Aksi takdirde, temel özgürlük ve gizlilik hakkımızı devlete teslim etmiş olacağız.

Önceki bir açıklamanızda, “Yapay Zeka ‘uçuşa yasak bölge’ oluşturmalıyız” dediniz. Bu konuda neler düşünüyorsunuz?

Yapay Zeka’nın temel amacını anlamalıyız: büyük veri kümelerinden doğru öngörüler üretmek ve insanları sınıflandırmak için kullanmak. Karar vericileri, ne kararlar aldıklarını ve hangi temelde aldıklarını incelemeliyiz.

Eğer karar vericilerin, sağlık, geçim ve özgürlüklerimiz üzerinde büyük etkisi olan işverenler, ev sahipleri, doktorlar, sigorta şirketleri, polis ve diğer özel ve kamu kuruluşları olduğunu anlarsak, bir Batı liberal demokrasisinde, totaliter bir rejimden farklı olarak, bazı kararların yalnızca Yapay Zeka’ya bırakılmaması gerektiğini görmek kolaydır.

Çok açık kararlar dışında, AI’ın yaygın olarak kullanıldığı birçok durumda, etik ikilemler ortaya çıkıyor. Örneğin, bir algoritma, sosyal medyada plaj tatili fotoğrafları paylaşan işçilerin, spor yaparken fotoğraflarını paylaşanlara göre ortalama 3,5 yıl önce işten ayrıldığını veya kovulduğunu öngörürse, bu işçilere yalnızca algoritmik çıktıya dayanarak terfi veya maaş artışı verilmemeli midir? Bir algoritma, günde 2 saatten fazla video oyunu oynayan gençlerin dört yıllık üniversiteden mezun olma olasılıklarının daha düşük olduğunu belirlerse, bu öğrencilere üniversiteye kabul verilmemeli midir? COVID-19 nedeniyle yoğun bakım ünitesine kabul edilen 60’lı yaşlarında Asya kadınlarının, 70’li yaşlarında Afrikalı-Amerikalı erkeklerden daha yüksek bir hayatta kalma oranına sahip olduğunu belirlerse, kadınlara öncelikli tıbbi tedavi verilmeli midir?

Bu basitleştirilmiş örnekler, yalnızca Yapay Zeka’ya dayanarak karar almaya aykırı olan birçok kararın sadece birkaçı.

Yapay Zeka veya Baker McKenzie hakkında eklemek istediğiniz bir şey var mı?

Baker McKenzie’in gerçekten uluslararası bir Yapay Zeka uygulamasını yönetmekten büyük bir heyecan duyuyorum. Müşterilerimizin, sözleşmelerden, iç denetimlerden, önyargı iddialarından kaçınmaya kadar her konuda Yapay Zeka konusunda rehberlik istediğini anlıyoruz.

Şirketler doğru şeyi yapmak istiyor, ancak müşterilerine yardımcı olmak için gerekli uzmanlığa ve Yapay Zeka ve makine öğrenimi anlayışına sahip çok az hukuk firması var. Yapay Zeka meraklıları ve avukatlar için, müşterilerimize gerçek değer katma zamanı.

Yapay Zeka ile ilgili bazı büyük toplumsal kaygulara ilişkin harika cevaplarınız için teşekkür ederiz. Bradford Newman hakkında daha fazla bilgi almak isteyen okuyucular buraya tıklayabilir.