Reid Blackman, Ph.D, Virtue Consultants’ın Kurucusu ve CEO’su – Röportaj Serisi

Reid Blackman Virtue Consultants’ın kurucusu ve CEO’sudur. Bu kapasitede şirket kültürü ve ortaya çıkan teknoloji ürünlerinin geliştirilmesi, dağıtılması ve satın alınması ile ilgili olarak etik ve etik risk azaltımı konularında şirketlerle çalışmıştır. Ayrıca Ernst & Young’ın kıdemli danışmanıdır ve onların Yapay Zeka Danışma Kurulu’nda yer almaktadır ve IEEE’nin Etik Tasarım Girişimi’nin bir üyesidir.

Reid’in çalışmaları The Wall Street Journal ve Dell Perspectives’ta yer almış ve The Harvard Business Review, TechCrunch, VentureBeat ve Risk & Compliance Magazine için yazılar yazmıştır. Birçok haber makalesinde alıntı yapılmış ve Dünya Ekonomik Forumu, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia Üniversitesi ve AIG gibi çeşitli yerlerde konuşmalar yapmıştır.

2009’dan 2018’e kadar Colgate Üniversitesi’nde Felsefe Profesörü olarak görev yaptınız. AI etiğini derslerinize ne zaman dahil etmeye başladınız?

Sık sık Sosyal ve Siyasi Felsefe dersi verirdim ve orada Marx’ı işlerdim. Marx’ın merkezi iddialarından biri, kapitalizmin sonunda komünizme yol açacağıdır, “üretim araçları”ndaki muazzam artış nedeniyle. Diğer bir deyişle, kapitalizm rekabet ve yeni pazarlar açmak adına verimliliği artırmaya iter, bu da daha fazla teknoloji üretimi anlamına gelir. Marx ayrıca, bu durumun giderek daha fazla parayı az sayıda insanın eline koyacağını ve daha fazla insanı yoksulluğa iteceğini, sonunda da kapitalist yapıların devrileceğini öngördü. Tüm bunlar, insan emeğinin yerini alan teknoloji etiği etrafında bir tartışmaya yol açar.

Küçük bir yan hikaye, ilgileniyorsanız: 2002 yılında Northwestern Üniversitesi’nde lisans öğrencileri ile Marx üzerine bir tartışma yürütüyordum. Bir öğrenci elini kaldırdı ve “Sonunda insanların herhangi bir iş yapmasına gerek kalmayacak” dedi. Sınıf karıştı, ben de karıştım. “Peki, o zaman kim çalışacak?” dedim. Dürüst bir şekilde “robotlar” dedi. Sınıf patladı, ben de kendi gülmemi bastırdım. Ama kimin son gülüşü attığı oldukça açık.

2018’de Virtue Consultants’ı kurdu, bu şirket veri ve AI liderlerine ürünlerin etik risklerini belirleme ve azaltma konusunda güç veriyor. Bu girişimci yolculuğa başlamanızı ne ilham etti?

Kıskançlık. Bir şekilde. Lisansüstü öğrencisiyken, sanırım 2003 veya 2004 civarında, bir havai fişek toptancılık şirketi kurdum. Beklediğimden daha iyi gitti ve şirket hala var, ancak artık günlük operasyonlardan sorumlu değilim. Bu, beni Colgate’ın girişimcilik programında (Thought Into Action, TIA Ventures’ın liderleri olan iki harika VC, Andy Greenfield ve Wills Hapworth tarafından yönetiliyor) bir mentor olarak görev almama yol açtı. Bir mentor olarak, öğrencilerin heyecan verici projelere başlarken, kar amacı güden veya kar amacı gütmeyen şirketlerini kurup ölçeklendirmeyi nasıl başardıklarını gördüm ve “Ben de istiyorum!” dedim. Ancak yeni girişimim ne olacaktı? Felsefe ve etik aşkımı yansıtmalıydı ve ilk olarak aklıma gelen şey bir etik danışmanlık şirketi oldu. O zamanlar böyle bir hizmet için bir pazar göremiyordum, çünkü yoktu, bu yüzden bekledim. Sonra Cambridge Analytica, BLM ve #MeToo ulusal manşetlere taşındı ve aniden böyle bir ihtiyacın farkına varıldı.

Şirketlerin AI Etik Beyanı sunmaları ne kadar önemlidir?

AI Etik Beyanı gerekli değildir, ancak amacınızı belirlemek için son derece faydalı bir araçtır. Bir AI etik programını organizasyonunuza getirirken, çeşitli etik, itibar, düzenleyici ve yasal riskleri belirleme, azaltma ve yönetme istersiniz. Bu, işlevinin temelidir. Bir etik beyanı, altyapınız, süreçleriniz ve uygulamalarınız hazır olduğunda neye benzeyeceğini belirlemenize yardımcı olur. Bir stratejinin bir hedefe ihtiyacı vardır – ki her zaman vardır – ve AI Etik Beyanı, bu hedefleri belirlemenin güzel bir yoludur, ancak tek yol değildir.

Şirketler etik beyanını işleyiş ve uygulamaya nasıl dönüştürebilir?
Etik beyanı sadece doğru yönde küçük bir adımdır. İlerlemek istiyorsanız, bir sonraki doğal adım, beyanda belirtilen hedeflere göre nerede olduğunuzu değerlendirmektir. En büyük, en riskli açıklarınızı – yani hedeflerinizi karşılamada en çok risk altında olduğunuz yerleri – belirlediğinizde, o açıkları kapatmak için çözümler geliştirmeye başlayabilirsiniz. Belki bir etik komite kurarsınız. Belki ürün geliştirme sırasında bir due diligence süreci oluşturursunuz. Belki pazarlama ve insan kaynakları gibi ürün dışı departmanlarda veri kullanımınızı iyileştirirsiniz. Muhtemelen hepsini yaparsınız ve daha fazlasını.

Şirketler AI algoritmalarına gerçek.bias girmesini önlemek için hangi çözümleri uygulamalıdır?

Önyargıları belirlemek için birçok teknik araç vardır, ancak bunlar sınırlıdır. Modelinizin çıktılarını akademik ML etiği literatüründe sunulan düzinelerce nicel metriğe karşı karşılaştırmanızı sağlar, ancak bu metriklerin birbirleriyle uyumlu olmadığını dikkate almalısınız. Bu nedenle, bir karar verilmesi gerekir: bu bağlamda hangisinin uygun olduğu?

Bunun dışında, böyle bir aracı kullanarak ve bu soruyu odpowiedi bir şekilde cevaplayarak, ürün ekipleri, önyargının nerede ortaya çıkabileceğini düşünmek için iyi bir fırsat bulabilir. Eğitim veri kümelerinde nasıl içerilir? Nesne fonksiyonunu belirlerken nasıl içerilir? Eşik değerini belirlerken nasıl içerilir? Önyargıların ortaya çıkabileceği birçok yer vardır. Projelerinizde nerede olabileceğini ve nasıl önlenebileceğini düşünmek, önyargıları belirleme ve azaltma için çok önemlidir.

AI şirketleri, genellikle beyaz erkeklerin hakim olduğu ve AI sistemine istemeden önyargılar eklediği şirketlerdir. Bunu önlemek için insan kaynakları bölümlerinin hangi özelliklere dikkat etmesi gerekir?

Mühendis ve ürün ekipleri arasında daha fazla fırsat ve çeşitlilikten yanayım. Ancak, bu konuya yanlış bir bakış açısıyla yaklaşıyoruz. Önyargılı algoritmaların temel sorunu, beyaz bir erkeğin önyargılarının kodda önyargıya yol açması değildir. Sorun, eğitim veri kümelerinin önyargılı olmasıdır. Aslında, Columbia Üniversitesi’nden bir recent paper – “Önyargılı Programcılar mı? Ya da Önyargılı Veriler mi? AI Etiğini Uygulamada bir Alan Deneyi” – “[p]rogramcılar teknik rehberlik alarak başarılı bir şekilde önyargıları azaltabilir” ve “[a]lgoritmik tahminler, kadın ve azınlık AI programcıları tarafından menos önyargı ve ayrımcılık göstermez” sonucuna varmıştır. Bu nedenle, insan kaynakları bölümlerinin çeşitlilik sorunlarına dikkat etmesi gerekir, ancak önyargılı AI çıkışlarını azaltma stratejilerinin principalmente – veya исключительно – işe alma kararlarına bağlı olarak çeşitlilik çabalarına odaklanması necessário değildir.

Etik risk değerlendirmesi nedir ve şirketlerin bunu neden uygulamalıdır?

Etik risk değerlendirmesi, oluşturduğunuz ürünle ilgili olarak ortaya çıkabilecek çeşitli etik riskleri belirleme girişimidir, bunların nasıl dağıtıldığı, nasıl kullanılabileceği ve nasıl kötüye kullanılabileceği dahil. Ürününüzün özellikleri – hem sahip olduğu hem de sahip olmadığı – ve bu özelliklerin çeşitli bağlamlarda etik yanlışlara yol açmasına nasıl yol açabileceği üzerinde odaklanmak istersiniz. İyi yapıldığında, bu, sistematik ve kapsamlı bir incelemedir. Elbette, köşeyi dönmeye çalışırken kaçırabileceğiniz şeyler olabilir, bu nedenle sürekli izleme önemlidir.

Şirketlerin bunu neden uygulamaları gerektiği konusunda düşünmeleri gerekenler, etik, itibar, düzenleyici ve yasal risklerdir. Optum’un (iddia edilen) önyargılı bir algoritma nedeniyle sağlık profesyonellerine beyaz hastalara daha fazla dikkat etmelerini önerdiği için haberlerde ve düzenleyici soruşturma altında olduğunu düşünün. Ya da Goldman Sachs’ (GS ) in (iddia edilen) kadınları ayrımcı bir şekilde tedavi ettiği için Apple (AAPL ) Card için kredi limitleri nedeniyle soruşturma altında olduğunu düşünün. Ya da Amazon’ (AMZN ) un (iddia edilen) önyargılı işe alım yazılımını dağıtmadan önce endişeler nedeniyle iptal ettiğini düşünün. Ya da IBM’nin Los Angeles tarafından Weather uygulamasından topladığı verilerin kötüye kullanılması nedeniyle dava edildiğini düşünün. Ya da Facebook…

Virtue Consultants hakkında paylaşmak istediğiniz başka bir şey var mı?

Virtue, üst düzey liderlere AI etiğini uygulamalarına yardımcı olur, bu da AI etiği konusunda eğitim ve yetkinlik kazandırma, AI Etik Beyanı yazma, uygulanabilir bir AI etik risk çerçevesi oluşturma veya AI etiği konusunda danışmanlık yapma anlamına gelebilir. İlginizi çekiyorsa, bize merhaba demekten çekinmeyin.

Harika röportaj için teşekkür ederiz. Reid hakkında daha fazla bilgi öğrenmek isteyen okuyucular, Reid Blackman veya Virtue Consultants ziyaret edebilir.