Reid Blackman, Ph.D, Virtue Consultants’ın Kurucusu ve CEO’su – Röportaj Serisi

Reid Blackman Virtue Consultants’ın Kurucusu ve CEO’sudur. Bu kapasitede şirketlerin etik ve etik risk azaltımı konusundaki şirket kültürünü ve ortaya çıkan teknoloji ürünlerinin geliştirilmesini, dağıtılmasını ve satın alınmasını entegre etmelerine yardımcı olmuştur. Ayrıca Ernst & Young’ın kıdemli danışmanıdır ve Yapay Zeka Danışma Kurulunda yer almakta ve IEEE’nin Etik Tasarım Girişiminin bir üyesidir.

Reid’in çalışmaları The Wall Street Journal ve Dell Perspectives’da yer almış ve The Harvard Business Review, TechCrunch, VentureBeat ve Risk & Compliance Magazine için parçalar katkıda bulunmuştur. Çeşitli haber makalelerinde alıntılanmıştır ve düzenli olarak Dünya Ekonomik Forumu, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia Üniversitesi ve AIG gibi çeşitli mekanlarda konuşmaktadır.

Felsefe Profesörü olarak 2009’dan 2018’e kadar Colgate Üniversitesi’nde çalıştınız. AI etiğini derslerinize ne zaman dahil etmeye başladınız?

Sık sık Sosyal ve Siyasal Felsefe dersi verirdim, burada Marx’ı kapsardım. Marx’ın merkezi iddialarından biri, kapitalizmin sonunda komünizme yol açacağı, “üretimin araçları”ndaki muazzam artış nedeniyle. Diğer bir deyişle, kapitalizm rekabet ve yeni pazarlar açmak adına verimliliği artırır, bu da teknolojilerin daha kısa sürede daha fazla çıktı üretmesini sağlar. Marx ayrıca, bu durumun para را daha az sayıda insanın elinde toplayacağı ve daha fazla insanı yoksulluğa iteceği, bu nedenle kapitalist yapıların yoksul kitleler tarafından liderlik edilen bir devrim tarafından devrileceği öngörüsünde bulunmuştur. Tüm bunlar, insan emeğine ihtiyaç duymayan teknoloji etiği etrafında bir tartışmaya yol açar.

Küçük bir yan hikaye, ilgileniyorsanız: 2002’de Northwestern Üniversitesi’nde lisansüstü bir öğrenciydim ve Marx hakkında bir tartışma yürütüyordum. Bir öğrenci elini kaldırdı ve “Sonunda hiçbir iş için insanlara ihtiyacımız olmayacak” dedi. Sınıf şaşkındı. Ben de şaşırdım. “Peki, o zaman kim çalışacak?” dedim. “Robotlar” diye cevap verdi. Sınıf patladı. Ben kendi gülmemi bastırdım. Ama son gülme kimin olduğu oldukça açık.

2018’de Virtue Consultants’ı, Veri ve AI liderlerinin ürünlerinin etik risklerini belirlemelerine ve azaltmalarına güç veren bir etik danışmanlık şirketini başlattınız. Bu girişimci yolculuğunuza ne ilham verdi?

Kıskançlık. Biraz öyle. Yüksek lisans öğrencisiyken, sanırım 2003 veya 2004 civarında, bir havai fişek toptancılık şirketi kurdum. Bu daha iyi gitti než beklediğim ve şirket hala var, ancak şimdi danışmanım ve günlük operasyonlardan sorumlu değilim. Her neyse, bu, Colgate’ın girişimcilik programında (Thought Into Action, iki harika VC, Andy Greenfield ve Wills Hapworth tarafından yürütülen TIA Ventures) bir mentör olarak nasıl çalıştığımı açıklar. Bir mentör olarak, öğrencilerin heyecan verici projelere başlarken, kârlı veya kar amacı gütmeyen şirketlerini nasıl kuracaklarını ve ölçekleneceklerini gördüm ve “Ben de istiyorum!” dedim. Peki, yeni girişimim ne olacaktı? Felsefeye ve etiğe olan sevgimi yansıtmalıydı ve ilk olarak anlamak üzere bir etik danışmanlık şirketini seçtim. O zamanlar böyle bir hizmetler pazarı göremiyordum, çünkü yoktu ve bu nedenle bekledim. Sonra Cambridge Analytica, BLM ve #MeToo ulusal manşetlere taşındı ve aniden böyle hizmetlere duyulan ihtiyaç arttı.

Şirketlerin AI Etik Beyanı sunmaları ne kadar önemlidir?

AI Etik Beyanı gerekli değildir, ancak hedeflerinizi belirlemede son derece faydalı bir araçtır. Bir AI etik programını kuruluşunuza tanıttığınızda, çeşitli etik, itibar, düzenleyici ve yasal riskleri belirleme, azaltma ve yönetme istersiniz. Bu, altyapınız, süreciniz ve uygulamalarınız yerleştikten sonra bunu başarmak için nasıl görüneceğini açıklamaya yardımcı olur. Bir stratejinin bir hedefe ihtiyacı varsa – ki her zaman vardır – AI Etik Beyanı, bu hedefleri açıklamanın güzel bir yolu, ancak tek yol değildir.

Şirketler etik beyanını işleme ve uygulamaya nasıl aktarabilir?
Etik beyan sadece doğru yönde küçük bir adımdır. Devam etmek istiyorsanız, bir sonraki doğal adım, bu beyanda belirtilen hedeflere göre nerede olduğunuzu değerlendirmektir. En büyük, en riskli boşlukları – yani hedeflerinizi karşılamada en çok risk altında olduğunuz yerleri – bir kez bildiğinizde, bu boşlukları daraltmak için çözümler geliştirmeye başlayabilirsiniz. Belki bir etik komitesi. Belki ürün geliştirme sırasında bir due diligence süreci. Belki pazarlama ve İnsan Kaynakları gibi ürün dışı departmanlarda veri işleme konusunda daha iyisi. Muhtemelen hepsi ve daha fazlası.

Şirketlerin AI algoritmasına gerçek.bias’ı önlemek için hangi çözümleri uygulamaları gerekir?

Birçok teknik araç, önyargıları tanımlamak için mevcuttur, ancak bunlar sınırlıdır. Modelinizin çıktılarını akademik ML etik literatüründe sunulan dozens of nicel metriclere karşı karşılaştırmanızı sağlar, ancak dikkatli olmalısınız, çünkü bu metricler birbirleriyle uyumlu değildir. Bu nedenle, bir karar verilmesi gerekir: Bu bağlamda hangisi uygunsa, bu metriclerden hangisine dikkat edilmelidir?

Bunun dışında, böyle bir aracı, bu soruyu sorumlu bir şekilde cevaplayarak tamamlayarak, ürün ekiplerinin, önyargının nerede ortaya çıkabileceğini düşünmeleri gerekir. Nasıl eğitim veri kümelerinde içerilip yansıtılabileceğini? Nesne fonksiyonunu belirlerken? Eşik değerini belirlerken? Önyargı birçok yerde ortaya çıkabilir. Bu proje için nerede ortaya çıkabileceği ve nasıl önlenebileceği konusunda önceden düşünmek, önyargıları belirleme ve azaltma için çok önemlidir.

AI şirketleri, beyaz erkeklerin hakim olduğu ve AI sistemine önyargıları programlayabileceği için ünlüdür. Bunu önlemek için, insan kaynakları bölümlerinin hangi özelliklere dikkat etmesi gerekir?

Mühendis ve ürün ekipleri arasında daha fazla fırsat ve çeşitlilikten yanayım. Ancak, bu, konuya yanlış bir lensle bakmak gibi görünüyor. Önyargılı algoritmaların temel sorunu, beyaz bir erkeğin önyargılarının önyargılı kodu yazmasına yol açması değildir. Veri eğitim kümelerinin önyargılı olmasıdır. Aslında, Columbia’dan bir recent paper – “Önyargılı Programcılar mı? Ya da Önyargılı Veri? AI Etiğini İşletmede Uygulama Alanında Bir Alan Deneyi” – “[p]rogramcılar teknik rehberlik anlayışla başarılı bir şekilde önyargıyı azaltır” ve “[a]lgoritmik tahminler, kadın ve azınlık AI programcıları tarafından less algoritmik önyargı veya ayrımcılık sergilemez” sonucuna varmıştır. Bu nedenle, insan kaynakları, çeşitlilik sorunlarına dikkat etmelidir, ancak AI çıkışlarını azaltma stratejilerinin, çeşitlilik çabalarına bağlı olarak işe alma kararlarına odaklanıp odaklanmadığını görmek zor değildir.

Etik risk due diligence nedir ve şirketlerin neden uygulamalıdır?

Etik risk due diligence, oluşturduğunuz ürünle ilgili olarak gerçekleşebilecek çeşitli etik risklerini belirleme girişimidir, bu ürünün nasıl dağıtıldığı, nasıl kullanılabileceği ve nasıl kötüye kullanılabileceği dahil. Ürününüzün, çeşitli bağlamlarda etik yanlışlara yol açabilecek şekilde, sahip olduğu ve sahip olmadığı özelliklere odaklanmak istersiniz. İyi yapıldığında, bu, sistematik ve kapsamlı bir incelemedir. Elbette, en iyi şekilde bakmaya çalışırken, muhtemelen bazı şeyleri kaçıracaksınız, bu nedenle sürekli izleme önemlidir.

Şirketlerin neden uygulamaları gerektiğini merak ediyorsanız: yalnızca etik, itibar, düzenleyici ve yasal risklere bakmaları gerekir. Optum’un (iddia edilen) önyargılı bir algoritma nedeniyle sağlık profesyonellerine beyaz hastalara karşı daha fazla dikkat etmeleri talimatını veren ve şu anda haberlerde ve düzenleyici soruşturma altında olanını düşünün. Ya da (iddia edilen) kadınları ayıran Apple Card kredi limitleri nedeniyle soruşturma altında olan Goldman Sachs. Ya da Amazon’un, önceden dağıtmadan önce önyargı endişeleri nedeniyle iptal edilen işe alım yazılımı. Ya da IBM’in, (iddia edilen) Weather uygulamasından topladığı verileri kötüye kullandığı iddiasıyla Los Angeles tarafından dava edilen. Ya da Facebook…

Virtue Consultants hakkında paylaşmak istediğiniz başka bir şey var mı?

Virtue, üst düzey liderlere AI etiğini uygulamalarına yardımcı olur, ister AI etiği konusunda insanları eğitmek ve yetiştirmek, ister AI Etik Beyanı yazmak, ister eyleme geçirilebilir bir AI etik risk çerçevesi oluşturmak ve uygulamak, ya da sadece AI etiği konusunda danışman olarak görev yapmak olsun. İlginizi çekiyorsa, merhaba demekten çekinmeyin.

Bu harika röportaj için teşekkür ederiz. Reid hakkında daha fazla bilgi öğrenmek isteyen okuyucular Reid Blackman veya Virtue Consultants ziyaret edebilir.